Google、AI生成画像に除去が不可能な透かしを埋め込む「SynthID」を開発

masapoco
投稿日 2023年8月30日 6:52
google deepmind synthid

Google DeepMindは、AIによって生成された画像が精巧になり、その画像がディープフェイクであるかどうかを見分けることがますます難しくなっている現状で、AIによって生成された画像を(機械が)容易に見分けることが出来る透かし技術「SynthID」を考案した。

SynthIDは、AIが生成した画像に目に見えない透かしを追加できるツールだ。この透かしは機械には認識出来るが、人間には見えない。実際、以下の例のようにSynthIDが適用された画像と適用されていない画像が並べて表示されているが、全く違いのないことが分かるだろう。

Google DeepMindによれば、透かしマーカーはAIが生成した画像の「ピクセルに直接」追加されるため、トリミング、フィルタリング、色の変更、高圧縮、その他ウェブ画像によくある修正などの画像操作に強くなるはずだという。

SynthIDは、電子透かしの生成と検出に2つのディープラーニングモデルを使用する。DeepMindは、敵対的な手法のリスクを最小限に抑えるために、SynthIDがどのように機能するかについては詳しく説明していない。

SynthIDはGoogle Imagenに独占的に提供

SynthIDは3段階の検出確率を出力する:マーカーが検出された、検出されなかった、検出された可能性がある。最後のメッセージには、画像がAIによって生成された可能性があるという警告が添えられている。

このツールは当初、Google CloudのMLプラットフォームVertex上でホストされているGoogleのAI画像生成ツールImagenのユーザーのみが利用できる。Imagenで画像を生成した後、ユーザーは透かしを入れるかどうかを選択できる。MIT Technology Reviewによると、Google DeepMindの研究担当副社長Pushmeet Kohli氏は、この電子透かしツールを「実験的」なものと位置づけ、広く採用される前にその長所と欠点を評価する計画を共有している。Kohli氏は、Imagen以外のビジュアルへの拡張や、GoogleのAI画像生成システムへの統合の可能性については言及を避けた。

AI画像に対する透かし技術としては、最近、マサチューセッツ工科大学(MIT)のコンピュータ科学・人工知能研究所(CSAIL)の研究チームは最近、AI画像を追跡可能にするためにピクセル操作を使用する、別のAIベースの画像認識技術である「PhotoGuard」を発表した。しかし、研究者たちは、トリミング、ノイズの追加、回転などの画像操作がシステムの注意をそらす可能性があることを認めている。


Sources



この記事が面白かったら是非シェアをお願いします!


  • TPU v5L Pod.max 2500x2500 1
    次の記事

    Google、AI処理能力が最大5倍となる「TPU v5e」やNVIDIA H100 GPUを展開し生成AIに特化したクラウドサービスを追加

    2023年8月30日 7:38
  • 前の記事

    Apple、iPhone 15シリーズの発表会を9月13日に開催へ

    2023年8月30日 6:08
    apple wonderlust 2023

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事