MIT、AIによる編集から画像を保護する「PhotoGuard」を公開

masapoco
投稿日 2023年7月28日 18:00
ai image

人工知能の台頭とともに、プライバシーや偽情報に関する新たな懸念が生じている。画像をスクリーンショットして編集することは誰にでもできるが、それには時間と労力、そしてスキルが必要だ。だが、画像生成AIを使えばそれらがなくなるため、悪意のある写真操作に対する敷居が低くなり、そうしたコンテンツが蔓延する可能性が高まる。これに先んじるため、マサチューセッツ工科大学(MIT)の博士課程の学生グループは、AIを活用した編集の試みに対して写真を「保護」するツールを開発した。

PhotoGuardと呼ばれるこのツールは、2つの異なる戦略を用いてAIから画像を保護する。ひとつは「エンコーダー」と呼ばれる方法で、画像内のピクセルの位置や色などの複雑な情報を取り込む。もうひとつは「拡散」と呼ばれるもので、一握りのピクセルを選択し、人間の目には見えない程度に修正する。どちらも、AIが対象画像を理解しようとする試みを混乱させ、あるもの(例えば、人物の写真)をまったく別のもの(平坦な灰色の正方形など)として認識させる。これにより、AIは元の画像に意味のある編集を加えることができなくなる。

PhotoGuardの変更はほとんど気づかれないため、写真の完全性を保護するためにこのツールを使用している人は、お気に入りの画像をソーシャルメディアで共有することができる。しかし、PhotoGuardの作者がMITのMadry Labが運営するGradient Scienceに寄稿したブログ投稿によると、それは真の目的ではない。「その代わりに、モデルを提供する企業自身が、自分の画像を編集から守るためのAPIを提供してくれることを望んでいます」と、彼らは語る。

PhotoGuardを試してみたい人は、HuggingFaceのインタラクティブなデモを使って試すことができる。

AIからコンテンツを保護する方法に取り組んでいるのは、MITだけではない。シカゴ大学のコンピューター科学者チームは2月、AIアートジェネレーターが人間のアーティストのコンテンツをスクレイピングして作品を盗用するのを防ぐ「Glaze」と呼ばれるツールを発表した。同チームはその後、Glazeをダウンロードできるようにし、さらに一般の人々が簡単に使えるようにツールをアップデートした。


Sources



この記事が面白かったら是非シェアをお願いします!


  • sdxlcoverimagemilkyweights
    次の記事

    次世代オープン画像生成モデル「Stable Diffusion XL 1.0」がついに公開

    2023年7月28日 18:33
  • 前の記事

    RobloxのMeta Questヘッドセット向けオープンベータがついに登場

    2023年7月28日 16:08
    roblox logo

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事