Meta、Facebook、Instagramなどに投稿されたAI生成画像に自動でラベル付けする計画を発表

masapoco
投稿日
2024年2月7日 8:35
Labeling AI Generated Images AI Transparency Header

Metaは、Facebook、Instagram、Threadsにアップロードされたコンテンツについて、OpenAIやGoogleなどの他社が提供するAI生成画像を検出し、それがAIによって生成されたことを明らかにするラベル付けを開始する計画を発表した。この動きは、同社のプラットフォームにおいて、ユーザーが目にするコンテンツが本物の写真や動画ではなく、デジタル合成されたメディアであることをユーザーに知らせることで、透明性を高めることを目的としている。

同社は、目に見えるラベル、目に見えない透かし、画像ファイルに埋め込まれたメタデータを通じて、動画や音声を含むAI生成コンテンツの透明性を高めることを目指している。

具体的には、Google、OpenAI、Microsoft、Adobe、Midjourney、Shutterstockなどの業界パートナーと協力し、C2PAやIPTCメタデータなど、AIが生成したコンテンツにタグを付け、識別するための共通規格を開発している。

また、MetaのAI機能で作成されたフォトリアリスティックな画像には、「Imagined with AI」という目に見えるラベルと目に見えない透かし、そして適切なメタデータも表示される。

「我々は現在この機能を構築しており、今後数ヶ月のうちに、各アプリがサポートするすべての言語でラベルの適用を開始する予定です」と、MetaのNick Clegg氏は述べている。

ただし、これは技術的に実現可能な最善のアプローチではあるが、AIが生成したコンテンツをすべて識別することは不可能であり、人間が不可視のタグを削除することもできる点について、Metaは注意も促している。

合わせてMetaは、AIが生成したコンテンツを自動的に認識するためのより高度な分類器の開発に取り組んでおり、画像作成プロセスに電子透かしを直接統合し、無効化しにくくするStable Signatureのような電子透かし技術を模索しているという。

ビデオやオーディオの検出技術が標準化され、成熟するまでは、Metaはまた、デジタル的に作成または修正された写実的なビデオやリアルに聞こえるオーディオを持つ有機的なコンテンツをラベル付けするようユーザーに促しており、これに従わない場合は、“罰則を科す”可能性もあるとMetaは述べている。これについては、Metaの方でもタグ付けツールを提供する予定だ。“特に高いリスク”をもたらす画像、動画、音声コンテンツは、より目立つようにラベル付けされる可能性があるとのことだ。

Metaはまた、コミュニティ基準を強化し、ポリシーに違反するコンテンツを特定するために、大規模言語モデル(LLM)をテストしている。Metaによると、初期のテストでは、LLMが既存の機械学習モデルよりも優れた性能を発揮できることを示している。

同社はまた、コンテンツがポリシーに違反していないと確信できる場合、LLMを使用してコンテンツをレビューキューから削除する。これにより、レビュアーはポリシー違反の可能性が高いコンテンツに集中することができる。

OpenAIはまた、言語モデルがコンテンツのモデレーションを部分的に自動化できる範囲をテストしている。


Source



この記事が面白かったら是非シェアをお願いします!


  • kirin bloomberg
    次の記事

    中国SMIC、5nmチップの生産ラインを建設中、早ければ年内に出荷か?

    2024年2月7日 10:33
  • 前の記事

    TSMC、熊本第二工場の建設を発表、2027年の稼働を目指す

    2024年2月7日 6:37
    JASM Exterior rendering
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事