OpenAI、最大2万ドルの報酬が得られるバグバウンティプログラムを開始

masapoco
投稿日 2023年4月12日 10:17
bug bounty program
bug bounty program

ChatGPTの台頭でその名を世界に轟かせている、AIのリーディングカンパニーであるOpenAIは、自社のChatGPTのような強力な言語モデルがもたらすサイバーセキュリティリスクの増大に対応するため、「バグバウンティプログラム」の開始を発表した。

このプログラムは、クラウドソーシングのサイバーセキュリティ企業であるBugcrowdと提携して運営されており、独立した研究者にOpenAIシステムの脆弱性を報告してもらい、重大性に応じて200ドルから2万ドルの金銭的報酬を支払う事で、同社システムの堅牢性を高めることを目的としている。OpenAIは、このプログラムは “安全で高度なAIを開発するためのコミットメント”の一部であると述べている。

「OpenAIバグバウンティプログラムは、当社の技術と会社の安全性を保つことに貢献するセキュリティ研究者の貴重な洞察を認識し、それに報いるための方法です」と、 OpenAIは述べている。

OpenAIの発表は一部の専門家から歓迎されたが、バグ報奨金プログラムでは、高度化するAI技術がもたらす広範なサイバーセキュリティリスクに完全に対処できるとは考えにくいとする声もある。

このプログラムの範囲は、OpenAIのシステムやパートナーに直接影響を与える可能性のある脆弱性に限定されている。また、なりすまし、合成メディア、自動ハッキングツールなど、こうした技術の悪意ある使用に関する広範な懸念には対処していないようだ。

また、OpenAI Application Programming Interface(API)と同社の人工知能チャットボット「ChatGPT」もプログラムの対象だが、同社は研究者に対して、セキュリティに影響がある場合を除き、別のフォームでモデル問題を報告するよう求めた。

モデル安全性の問題は、直接修正できる個別のバグではないため、バグバウンティプログラムにうまく当てはまりません。これらの問題に対処するには、多くの場合、実質的な研究と広範なアプローチが必要です。これらの懸念が適切に対処されるように、バグバウンティプログラムを通じて提出するのではなく、適切なフォームを使用して報告してください。適切な場所で報告することで、私たちの研究者がこれらの報告を利用してモデルを改善することができます。」とOpenAIは述べている。

先月、OpenAIはChatGPTの決済データ流出を公表し、同社がプラットフォームで使用するRedisクライアントのオープンソースライブラリのバグが原因であると報告した。

このバグのため、ChatGPT Plusのサブスクリプション購読者は、購読ページに他のユーザーのメールアドレスが表示されるようになった。ユーザーからの報告が相次いだため、OpenAIは問題を調査するためにChatGPTボットをオフラインにした。

同社は数日後に発表した事後報告で、このバグによってChatGPTサービスがPlus加入者のおよそ1.2%のチャットクエリと個人情報を流出させたと説明した。

公開された情報には、加入者の氏名、メールアドレス、支払い先住所、クレジットカード情報の一部が含まれていた。

同社は、本日の発表と今回の事件とを関連付けてはいないが、もしOpenAIの製品にセキュリティ上の欠陥がないかどうかを研究者がテストするためのバグ報奨金プログラムをすでに実施していれば、この問題はより早く発見され、データ漏洩は避けられた可能性があるだろう。

ただ残念ながら、OpenAIのバグバウンティプログラムは、対応する脅威の範囲が非常に限定的だ。

加えて、脱獄や安全性のバイパス、モデルに「悪いことを言わせる」、モデルに悪意のあるコードを書かせる、モデルに悪いことをする方法を教えてもらうなども対象外となっている。

その意味で、OpenAIのバグバウンティプログラムは、組織自身のセキュリティ態勢の改善に役立つことはあっても、社会全体にとってジェネレーティブAIやGPT-4がもたらすセキュリティリスクに対処することはほとんどないと言っていいだろう。


Source



この記事が面白かったら是非シェアをお願いします!


  • vjneBsmLhPJKuTCWcbHXFb.jpeg
    次の記事

    新しい膜が、柔軟なミラーを持つ宇宙望遠鏡を可能にする

    2023年4月12日 11:12
  • 前の記事

    Alibaba、すべての製品でジェネレーティブAIによる新たなサービスを展開へ

    2023年4月12日 6:51
    60ee7d67 53b6 4ab0 ba01 f26b357e5acd 8d2cd16b
この記事を書いた人
masapoco

スポンサーリンク

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

  • what is ai pc

    Intel、「AI PC」の要件は40TOPS以上の性能を持つNPUが必要と述べる、ただしMeteor Lakeはこれを満たさず

  • amazon anthropic

    Amazon、AIスタートアップのAnthropicに“現金”27億5千万ドルを投資

  • 854f82b63ec3ff5c24f3787df5d0afc3

    GPT-4がついに王座陥落、AnthropicのClaude 3がベンチマークで1位に輝く

  • gpt store

    OpenAI、カスタムGPT制作者に対する報酬プログラムのテストを開始

今読まれている記事