OpenAI、米・連邦取引委員会への提訴を受け新たなGPTモデルのリリースを中止せざるを得ない可能性

masapoco
投稿日 2023年3月31日 6:04
chatgpt unsplash

非営利のAI研究グループであるCenter for Artificial Intelligence and Digital Policy (CAIDP)は、連邦取引委員会Federal Trade Commission、略称: FTCにOpenAIを調査し、GPT-4のリリースを停止するよう求めた。CAIDPは、「OpenAIは、消費者市場向けに、偏った、欺瞞に満ちた、プライバシーと公共の安全に対するリスクのある製品GPT-4をリリースしました。出力は証明も再現もできない。展開前に独立した評価は行われていない」とFTCに提出された苦情の中で述べている。

CAIDPは、「OpenAIの調査を開始し、GPT-4のさらなる商用リリースを差し止め、消費者、企業、商用市場を保護するために必要なガードレールの確立を確実にする」とFTCに求めている。

この非営利団体は、「OpenAIの製品であるGPT-4は、透明性、説明可能性、公平性、および経験的な妥当性を促進する一方で、誰もこれらの要件を満たしていない。」と主張しました。

CAIDPは、「(FTCが)AIの利用は『透明性があり、説明可能で、公平で、経験則に基づくものであると同時に、説明責任を促進するものでなければならない』と宣言しています。ですが、OpenAIの製品GPT-4はこれらの要件を一切満たしていない」と主張している。

OpenAIは3月14日にGPT-4を発表し、ChatGPT Plusの加入者に提供されている。MicrosoftのBingは既にGPT-4を使用しており、OpenAIは、GPT-4が大幅な進歩であると述べ、GPT-3.5の下位10%に対して、GPT-4はテスト受験者のトップ10%のスコアを獲得する性能があると述べている。

CAIDPは、OpenAIがGPT-4の潜在的なリスクを評価するための外部の専門家を採用したことを明らかにしたが、AI分野の進歩が速すぎるという懸念を表明したグループは、CAIDPが初めてではない。先日、Future of Life Instituteは、AIシステムのトレーニングを「GPT-4よりも強力なAIシステムのトレーニングを少なくとも6か月間即座に中断するようAI研究所に呼びかける」という公開書簡を出している。この書簡の署名者には、Elon Musk氏、Steve Wozniak氏などの有名なテック業界の名前に加えて、多くの大学教授も含まれている。

OpenAIがFTCの規範に反しているとの主張

CAIDPは、FTCが連邦取引委員会法の第5条に基づいて、「商業に影響を与える不公正または欺瞞的な行為や慣行を調査、起訴、および禁止する」権限を使用して、OpenAIを調査するよう求めている。この団体は、「GPT-4の商業的リリースは、FTC法第5条、FTCがAI製品の使用と広告に関するビジネスへの指針として確立したガイダンス、および米国政府が正式に承認したAIのガバナンスのための新興の規範、および主要な専門家や科学団体が推奨するAIの普遍的指針に違反している」と主張している。

CAIDPは、「OpenAIによるGPTのさらなる商業展開を停止し、展開前にGPT製品を独立して評価し、GPT AIライフサイクル全体で評価を継続するように要求し、将来の展開前にFTCのAIガイダンスに準拠するように要求し、FTCの消費者詐欺を報告するための公開されたインシデント報告メカニズムを設立するように」とFTCに要求している。

より広義には、CAIDPは、「ジェネレーティブAI市場セクターの製品に対する基準の基準を規定するルールを発行するようにFTCに求めた」と述べている。

OpenAIはGPT-4の詳細を明らかにしていない

CAIDPの会長兼創設者であるMarc Rotenberg氏は、以前にElectronic Privacy Information Centerを共同設立して率いていた。彼はジョージタウン大学ロースクールの非常勤講師であり、国際経済協力機構が運営するAIの専門家グループにも参加していた。Rotenberg氏は、Future of Life Instituteの公開書簡にも署名し、CAIDPの苦情で引用されている。

CAIDPの議長兼リサーチディレクターであるMerve Hickok氏は、ミシガン大学のデータ倫理講師でもある。彼女は3月8日のAIに関する議会の公聴会で証言した。CAIDPのチームメンバーのリストには、テクノロジー、学術、プライバシー、法律、研究分野に関わる多くの人々が含まれている。

FTCは先月、AI製品を市場に投入する前に「合理的に予想されるリスクと影響を分析すること」を企業に警告している。同機関はまた、昨年の議会報告書で「不正確性、偏見、差別、商業監視のクリープなどのAIの被害に関する懸念」を取り上げている。

CAIDPは、GPT-4が多くの種類のリスクを引き起こし、その基盤技術が十分に説明されていないとFTCに指摘している。「OpenAIは、GPT-4のアーキテクチャ、モデルサイズ、ハードウェア、コンピューティングリソース、トレーニング技術、データセット構築、トレーニング方法に関する詳細を開示していません。研究コミュニティの慣行は、大規模言語モデルのトレーニングデータとトレーニング技術を文書化することですが、OpenAIはこれをGPT-4に対して行わなかった」。

「ジェネレーティブAIモデルは、販売した会社が以前に識別しなかった可能性のある振る舞いを示すことがあるため、消費者製品としては異例です」とCAIDPは指摘する。

OpenAIは子ども達を保護する措置を講じていない

CAIDPの訴状は、OpenAIがGPT-4のリスクに関するいくつかの声明を発表したことも指摘している。「OpenAIは、『特定の周縁化されたグループにとって有害なステレオタイプ的で侮蔑的な関連性を持つ、有害なステレオタイプ的で侮蔑的な関連性を再生する可能性がある』とGPT-4システムカードで述べています。また、OpenAI社のブログ投稿で、ChatGPTは『有害な指示に応答する場合があり、バイアスのある行動を示す場合がある』と述べています」

OpenAIは、これらのリスクを全て知った上で、GPT-4を商業用に公開しました」とFTCに対して苦情を述べている。GPT-4を使用することによる子供たちのリスクについて懸念を表明し、苦情では、「GPT-4システムカードには、OpenAIがテスト期間中に実施した安全性チェックの詳細は記載されておらず、OpenAIが子供たちを保護するために講じた措置も明示されていない」と述べている。

セキュリティとプライバシー上の懸念

サイバーセキュリティについて、CAIDPはEuropolの警告を引用し、ChatGPTは「高度に現実的なテキストを作成するために使用される可能性があり、フィッシング目的のテキスト、プロパガンダや偽情報のためのテキスト、またはChatGPTの異なるプログラミング言語の能力によって悪意のあるコードを生成するために使用される可能性がある」と指摘した。

プライバシーに関して、CAIDPは、OpenAIが今月報告された事件で、プライベートチャット履歴を他のユーザーに表示したことを指摘し、「システムのセッション間を移動し、特定のセッションを区別するためにシステムのユーザーが必要とする基本的な機能であるチャット履歴の表示を一時停止する必要があった」と述べている。

別の事例では、AI研究者は、「誰かのアカウントを乗っ取り、彼らのチャット履歴を表示し、彼らがそれに気づくことなく彼らの請求情報にアクセスすることができる」と説明した。研究者は先週、OpenAIが彼の報告を受け取った後、脆弱性を修正したと述べた。

GPT-4は、写真入力からのテキスト応答を提供する能力があり、「個人のプライバシーや自己決定権に対する驚異的な影響を持っている」とCAIDPは述べている。これにより、ユーザーは「人物のイメージを詳細な個人データにリンクさせることができます」と述べている

「OpenAIは、ビジュアルGPT-4として知られる画像からテキストへの機能のリリースを中止したと報じられていますが、現在の状況は確認できません」とCAIDPは述べている。

CAIDPが指摘するように、FTCはAIツールの規制に関心を示している。近年は、偏ったAIシステムが強制捜査の対象となる可能性があると警告しており、今週行われた司法省との共同イベントで、FTCのLina Khan委員長は、既存の大手ハイテク企業が競争を締め出そうとしている兆候を探すと述べた。しかし、ジェネレーティブAIの軍拡競争における主要なプレイヤーの1つであるOpenAIを調査することは、その取り組みが大きくエスカレートすることを意味する。

FTCがこの苦情に対応する保証はない。しかし、もしFTCが要件を定めた場合、この動きはAI業界全体の開発に影響を与えることになる。企業は評価を待つ必要があり、モデルが委員会の基準を満たせなかった場合、より多くの反響に直面するかも知れない。これは説明責任を向上させるかもしれないが、現在急速に進んでいるAIの開発ペースを遅らせることにもなりかねない。


Source



この記事が面白かったら是非シェアをお願いします!


  • 032923 MR plant scream feat
    次の記事

    植物もストレスを受けると「悲鳴」を上げることが判明

    2023年3月31日 6:26
  • 前の記事

    Googleは、Googleアシスタントを「Bard」に置き換えるべく組織改編を実施した模様

    2023年3月30日 15:02
    FireShot Capture 081 Welcome bard.google.com

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


今読まれている記事