Google DeepMindは、AIによって生成された画像が精巧になり、その画像がディープフェイクであるかどうかを見分けることがますます難しくなっている現状で、AIによって生成された画像を（機械が）容易に見分けることが出来る透かし技術「SynthID」を考案した。

SynthIDは、AIが生成した画像に目に見えない透かしを追加できるツールだ。この透かしは機械には認識出来るが、人間には見えない。実際、以下の例のようにSynthIDが適用された画像と適用されていない画像が並べて表示されているが、全く違いのないことが分かるだろう。

Google DeepMindによれば、透かしマーカーはAIが生成した画像の「ピクセルに直接」追加されるため、トリミング、フィルタリング、色の変更、高圧縮、その他ウェブ画像によくある修正などの画像操作に強くなるはずだという。

SynthIDは、電子透かしの生成と検出に2つのディープラーニングモデルを使用する。DeepMindは、敵対的な手法のリスクを最小限に抑えるために、SynthIDがどのように機能するかについては詳しく説明していない。

SynthIDはGoogle Imagenに独占的に提供

SynthIDは3段階の検出確率を出力する：マーカーが検出された、検出されなかった、検出された可能性がある。最後のメッセージには、画像がAIによって生成された可能性があるという警告が添えられている。

このツールは当初、Google CloudのMLプラットフォームVertex上でホストされているGoogleのAI画像生成ツールImagenのユーザーのみが利用できる。Imagenで画像を生成した後、ユーザーは透かしを入れるかどうかを選択できる。MIT Technology Reviewによると、Google DeepMindの研究担当副社長Pushmeet Kohli氏は、この電子透かしツールを「実験的」なものと位置づけ、広く採用される前にその長所と欠点を評価する計画を共有している。Kohli氏は、Imagen以外のビジュアルへの拡張や、GoogleのAI画像生成システムへの統合の可能性については言及を避けた。

AI画像に対する透かし技術としては、最近、マサチューセッツ工科大学（MIT）のコンピュータ科学・人工知能研究所（CSAIL）の研究チームは最近、AI画像を追跡可能にするためにピクセル操作を使用する、別のAIベースの画像認識技術である「PhotoGuard」を発表した。しかし、研究者たちは、トリミング、ノイズの追加、回転などの画像操作がシステムの注意をそらす可能性があることを認めている。

Sources

• Google DeepMind:
  • SynthID
  • Identifying AI-generated images with SynthID
• Google Cloud: Vertex AI extends enterprise-ready generative AI development with new models, tooling
• MIT Technology Review: Google DeepMind has launched a watermarking tool for AI-generated images