Google、Geminiの画像生成機能に起こった問題の原因を説明

masapoco
投稿日
2024年2月25日 7:32
final keyword header.width 1600.format webp

今週、GoogleのチャットボットGemini(旧Bard)の画像生成機能が不適切な作品を作成しているという報告があった。具体的には、肌の色が黒い人々を、歴史的な経緯を無視した描写や、歴史上の人物や架空の人物にふさわしくない役柄で描かれていたと指摘されていた。

このアートワークが報告された後、GoogleはGeminiが画像ジェネレーターで人物のアートワークを作成する機能を一時的に停止すると発表した。同社はその後ブログを投稿誌、今回Geminiで起こったこと事態について説明を行っている。

Googleの上級副社長であるPrabhakar Raghavan氏によって書かれたこの投稿は、まずは謝罪から始まった「生成された画像の中には不正確なものや、不快感を与えるものさえあります。ユーザーからのフィードバックに感謝するとともに、この機能がうまく機能しなかったことを残念に思います」。

同氏は、今回の問題の原因が、チャットボットが幅広い人々を示す画像を生成するようにするためのGoogleの努力が、”明らかに範囲を示さないはずのケースを説明できなかった”と説明した。さらに、そのAIモデルは時間の経過とともに “ずっと用心深く”なり、本質的に不快でないプロンプトに答えることを拒否するようになった。「この2つのことが、あるケースではモデルを過剰に補正し、別のケースでは過剰に保守的にさせ、恥ずかしく間違った画像につながった」とRaghavan氏は書いている。

Googleは、Geminiの画像生成で実在の人物の暴力的な画像や露骨な性描写を作成できないようにし、作成される写真にはさまざまな民族のさまざまな特徴を持つ人物が登場するようにした。しかし、ユーザーが特定の民族や性別を想定した人物の画像を作成するよう要求すれば、それは可能なはずだ。最近ユーザーが発見したように、Geminiは、特に白人を要求するプロンプトに対して結果を生成することを拒否した。例えば、”Generate a glamour shot of a [ethnicity or nationality] couple”というプロンプトは、”Chinese”(中国人)、”Jewish”(ユダヤ人)、”South African”(南アフリカ人)のリクエストには機能したが、白人の画像をリクエストするものには機能しなかった。

Geminiはまた、歴史的に正確な画像を作成することにも問題を抱えている。ユーザーが第二次世界大戦中のドイツ兵の画像を要求すると、Geminiはナチスの制服を着た黒人男性やアジア人女性の画像を生成した。

Raghavan氏によると、GoogleはGeminiが特定のグループの画像生成を拒否したり、歴史的に不正確な写真を生成したりすることは意図していなかったという。彼はまた、Geminiの画像生成の改善に取り組むというGoogleの約束も繰り返した。しかし、そのためには「広範なテスト」が必要であるため、同社がこの機能をオンに戻すまでには時間がかかるかもしれない。

Googleがガードレールを修正するのにどれくらいの時間がかかるのか、Gemini画像ジェネレーターで人物を使ったアート制作が再びオンになるのかについては、まだ明らかにされていない。Raghavan氏は、Geminiが決して攻撃的なアートワークを作らないと約束することはできないが、Googleは “問題を発見したときはいつでも行動を起こし続ける”と述べた。


Source



この記事が面白かったら是非シェアをお願いします!


  • FireShot Capture 256 Suno AI www.suno .ai
    次の記事

    Sunoの新しい音楽AIモデルがこれまでよりも遥かに印象的で自然な音楽を生成している

    2024年2月25日 7:55
  • 前の記事

    ソフトウェアの改良だけでコンピューターの処理速度が2倍、エネルギー使用量が半分に

    2024年2月24日 14:46
    cc03c49cfb22d4728eb2d321f49bf434
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事