Microsoft、Gooogle、Open AI、Anthropicが1000万ドルのAI安全基金を開始

masapoco
投稿日
2023年10月26日 13:03
a1c6d2f06121012a9194c1fcbd0bb4ec

2023年7月、テック大手4社(Open AI、Microsoft、Google、Anthropic)は、Frontier Model Forumと呼ばれる、生成AI、特にフロンティアAIモデルの安全で責任ある開発を保証することを目的としたプラットフォームを発表した。

本日、各社は共同で、Frontier Model Forumの初代エグゼクティブ・ディレクターにChris Meserole氏を任命し、AI安全性分野の研究を促進するために1000万ドル以上のイニシアチブを持つAI安全性基金を設立することを発表した。さらに、Frontier Modelはレッド・チーミングに関する初の技術ワーキンググループの最新情報を共有している。

Googleのブログ記事によると、Meserole氏は最近まで、ブルッキングス研究所で人工知能・新興技術イニシアチブのディレクターを務めていたようだ。

Meserole氏は以下のように述べている:

「最も強力なAIモデルは、社会にとって大きな可能性を秘めていますが、その可能性を実現するためには、安全に開発し、評価する方法をよりよく理解する必要があります。私は、Frontier Model Forumでこの課題に挑戦できることを嬉しく思っています」。

AI安全性基金に関しては、4人の技術界の巨頭の他に、Patrick J. McGovern FoundationDavid and Lucile Packard Foundation、Eric Schmidt氏(Google元CEOで慈善家)、Jaan Tallinn氏(エストニアの億万長者)から大きな寄付が寄せられている。

また、発表では次のようにも述べられている:

「フォーラムは、Meseroleと協力し、パートナーシップ・オン・AI、MLCommons、その他の主要なNGO、政府機関、多国籍組織を含む、より広範な研究コミュニティとの関わりを深め、AIの安全な開発と利用を促進しながら、AIの利益の実現を支援することに興奮しています」。

以前、フォーラムのメンバーは、ホワイトハウスで自主的なAIの約束に合意した。その中には、AIフォーラムの脆弱性を報告し、第三者による発見を支援するという誓約も含まれていた。その後、今後の議論において共通の土台を確保するため、用語の定義やプロセスの確立に取り組んでいる。

この基金は、AIモデルをレッドチーム化するための新たなモデル評価と手法の開発を優先するとしている。これらは、フロンティア・システムの潜在的に危険な能力に対する評価技術の開発とテストに役立つだろう。

最新のワーキンググループの更新では、レッド・チーミングの定義として、「有害な能力、出力、またはインフラの脅威を特定するために、AIシステムや製品を調査するための構造化されたプロセス」を紹介した。また、この問題を浮き彫りにするケーススタディも共有した。

ブログでは、同フォーラムが最近進めているプロジェクトについても触れている。同フォーラムは、フロンティアAIラボがフロンティアAIモデル内の脆弱性や潜在的に危険な能力の発見とその緩和策に関連する情報を共有できるよう、新たな責任ある情報開示プロセスに取り組んでいる。また、将来的には戦略立案を支援するための諮問委員会の設立も計画している。

Meridian Instituteが運営するこのファンドは、今後数カ月以内に提案書を募集し、その後すぐに助成金が期待できる。


Sources



この記事が面白かったら是非シェアをお願いします!


  • roud about
    次の記事

    ラウンドアバウトとは?交通エンジニアが円形交差点の安全上の利点を説明する

    2023年10月26日 13:31
  • 前の記事

    Google、2024年に多くの「次世代AIモデル」シリーズのリリースを計画

    2023年10月26日 12:49
    e2deb80c8c45e74c33898602513f4877
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • Babylon 7

    Microsoft、Webゲーム用のグローバルイルミネーションサポートを追加したBabylon.js 7.0を公開

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

今読まれている記事