Adobeは現在、ガザとイスラエルの両都市で空爆が行われている様子を描いたという、フェイク画像を、同社のストックフォトサービス「Adobe Stock」で販売しているという。これらの画像の中には、驚くほどリアルに見えるものもあれば、明らかにデジタルで作成されたものもある。衝撃的なことに、これらの画像のひとつが、本物の写真と偽ってすでにオンラインで共有されているようだ。
オーストラリアのニュースメディア『Crikey』が最初に報じたように、この写真は「イスラエルとパレスチナの紛争生成ai」と題され、街並みの上に渦巻く砂煙を描いている。イスラエルのガザ空爆を捉えた実際の写真と酷似しているが、この画像は完全に人工的なものであることに注意する必要がある。驚くべきことに、この画像は、AIが作成したものであることが十分に周知されることなく、ブログやウェブサイトに掲載されているのだ。
実際にAdobe Stockでは、以下のように購入可能な、イスラエル国防軍とパレスチナ自治区との間の激しい紛争を描写するとされるAI生成画像と思しき物が見られる。
現在でも続くこの紛争は、1,400人のイスラエル人の命を奪ったハマスによる攻撃の後、多数の民間人の命を失う結果となった。AIが生成した画像のひとつは、「ガザ地区から過激派が発射したロケット弾による荒廃した街並み」と題され、破壊の余波を紹介している。Adobe Stockでは、イスラエル国内の爆発を捏造したAI生成画像も提供されている。
購入可能な画像は、ユーザーによって投稿され、おそらく作成されたものだ。タイトルにAIによって生成されたことを示すものもあれば、そうでないものもある。実際にサイトのインターフェースは、これらの画像がAIによって生成されたものであることを明確に示している。しかし、イスラエルとパレスチナの紛争に関する捏造されたビジュアルを拡散し、利益を得るという行為は、たとえ販売時にそのように表示されていたとしても、疑問視される可能性がある。
専門家が強調しているように、ソーシャルメディアの台頭とプロパガンダの拡散によって、紛争地域で真実を見極めることはますます難しくなっている。特にここ数週間は、両陣営がプロパガンダ目的でこのような画像を利用しているため、AIが生成した画像が含まれることで、問題はさらに複雑になっている。問題をさらに悪化させているのは、一般に公開されているAI生成ソフトの多くが適切な規制を欠いており、その背後にある企業も無関心に見えることだ。
Adobe Stockは投稿者のネットワークとして運営されており、個々のアーティストがプラットフォーム上で販売するために作品を投稿する。Adobeは昨年、AIが生成した画像を投稿として受け付けるようになった。Adobe Stockに掲載されているイスラエル・パレスチナの画像は、紛争地域の実際の写真をもとに学習させたAIを使って作成された可能性が高いが、確認はできない。
権利関係が疑わしいAI生成画像の使用は推奨されない。ガイドラインでは、個人、場所、または所有物にインスパイアされた作品を提出する場合、法的な所有権の必要性を強調している。権利関係が不明確な場合は、そのようなプロンプトを使用して作成されたコンテンツを投稿しないことが勧められている。興味深いことに、このガイドラインは、現在進行中の暴力的紛争を描いた画像のアップロードについては触れていない。
これらの画像の一部はすでにウェブの他の場所で出回っており、疑うことを知らない一般の人々を簡単に惑わす可能性がある。
実際にGoogleでの単純な画像検索で、巨大な爆発を写実的に表現したAI画像が、多くの小さな出版物に使用されていることが確認されている。
RMITの上級講師であるT.J.Thomson博士は、AIが生成した画像の利用について研究しているが、AIによる画像利用の透明性や、視聴者がその利用を認識するのに十分なリテラシーがあるかどうかについて懸念があると述べた。
「これらの画像は、人々を惑わし、現実を歪め、真実や正確さに対する我々の認識を混乱させる可能性がある」と彼はCrikeyに語っている。
Sources