米国国防総省（通称：ペンタゴン）で爆発が起きたという、AIが作成した偽の画像が、Twitterで注目を集め、株式市場において一時的に混乱を巻き起こした。

この画像は、「Bloomberg Feed」と呼ばれる「認証済み」の青いブルーバッジ付きアカウントによって共有されたものだが、これはElon Musk氏による買収以前の認証とは異なり、誰でもお金を払えば青いバッジが手に入る今となってはまるで意味をなさないが、それでも多少の権威はまだ残っているようで、「Large Explosion Near the Pentagon Complex in Washington, DC – Initial Report」という誤解を招くキャプションがTwitter上に掲載された投稿は、同プラットフォーム上で十分に広く流通し、現実の世界に影響を及ぼした。65万人以上のフォロワーを持つTwitterユーザーのDeItaoneが午前10時6分にこの投稿をシェアした後、Insiderによると、株式市場はわずか4分後に0.26パーセント下落した。

市場はすぐに回復したものの、この事件は、AIが生成した誤報がいかに迅速かつ効果的に我々の既存の情報経路を通過できるかを示す好例となり、人々のAIに対する懸念を増幅させるに足る物だった。

また、地元当局がTwitterでこの画像を否定した後も、市場は否定的な反応を示したことも注目に値する。

「ペンタゴンの近くで爆発があったというソーシャルメディア上の報告がネット上に出回っていることを、[ペンタゴン軍防護局]と[アーリントン郡消防局]は知っています。ペンタゴンの予約場所やその付近では、爆発や事件は起きておらず、一般市民に対する直接的な危険や危害はありません」と、アーリントンの消防局は、DeIatoneが画像をリツイートする30分以上前にツイートしているのだ。

また、Twitterは元の投稿を免責事項に置き換えている。

「このツイートは、AIが生成したデマに基づいています。最初の報告自体は詐欺的なもので、後に削除されました」。

それにもかかわらず、他の多くのアカウントがこの画像を再共有することを選択した。その中には、いくつかの陰謀関係のアカウントや、ロシアの国営メディアアカウントであるRTも含まれており、そのアカウントだけで300万人以上のフォロワーを抱えている。

この事件は、広く利用されている生成AIツールの使用が、非常に現実的な結果をもたらす可能性があることを示すものだ。この技術で可能なことはまだほんの一部であることを考えると、近い将来、このような事件がもっとたくさん起こることだろう。

Source

• Insider: An apparently AI-generated hoax of an explosion at the Pentagon went viral online — and markets briefly dipped