OpenAI、AGIの実現とその課題についての計画を概説

masapoco
投稿日 2023年2月26日 6:21
artificial intelligence

汎用人工知能(Artificial General Intelligence: AGI)とは、人間ができるあらゆるタスク、あるいはそれ以上のタスクを実行できるAIシステムを指す言葉だ。AGIの実現は、まさに「シンギュラリティ」の訪れであり、人類の未来に大きな影響を与える可能性があるため、AIの分野では最も野心的な目標の1つであり、議論を呼んでいる。ChatGPTを開発したOpenAIは、最近、AGIの作成と管理のため、同社がどう考えているのか、課題をどのように引き出していくかを示すブログ記事を発表している。

OpenAIの望むAGIは、「人類が宇宙を最大限に繁栄させるための力を与える」ものとのことだ。AGIには、誤用や事故、さらには社会の混乱など、潜在的なリスクや不確実性が存在する可能性がある。これに対処するため、OpenAIは、短期的なことを意図して、AGIに関する作業の指針となる一連の原則を提案している。曰く、

  • 実世界にあまり強力でないAIシステムを配備し、そこから学び、経験とフィードバックを得ること。
  • AIの利益とガバナンスへのアクセスを民主化する。
  • AIシステムが人間の価値観や好みに沿って行動するための新しいアライメント技術の開発。
  • AIの使用と規制に関する幅広い範囲に合意するための世界の制度を強化する。
  • AIの進歩に関する情報を一般市民と共有し、多様なステークホルダーから意見を求める。

AGIの発展が人類にどのような影響を与えるかを形成する要因は、他にもあることは確かだ。これらの要素には、タイムライン(AGIを作るのにかかる時間)、離陸速度(AGIが自己改良する速度)、調整(AGI開発において異なる主体がどれだけ協力または競争するか)、安全性(AGIが人間の目標とどれだけ整合するか)などが含まれる。OpenAIは、タイムラインを短くし、離陸速度を遅くすることで、政府、企業、一般市民が学習、適応、調整を行い、徐々に何が起こっているかを理解し、技術の長所と短所の両方を経験する時間を増やすことができると述べている。

とはいえ、OpenAIは、物事は予測不可能であり、特にAGIが主流となった後、将来起こりうる問題に対するすべての答えや解決策を同社自身が持っているわけではないという事実についても警告を発している。同社は、長期的には、これらのシステムをどのように管理するか、その利益をどのように公正に分配するか、アクセスをどのように公正に共有するかについての会話が必要であると期待している。

また、OpenAIは、会社の体制とミッションがどのように一致しているかについても強調した。AGI開発の理念と目標を憲章に掲げている。また、株主が得られる利益には上限があり、実際には非営利の理事会がその活動を監督している。理事会は、営利目的の利益が会社のミッションと相反する場合、それを無効化することも出来るとしている。


Source



この記事が面白かったら是非シェアをお願いします!


  • frying pan
    次の記事

    そのフライパンはアルツハイマーのリスクを招く?専門家が解説

    2023年2月26日 6:29
  • 前の記事

    世界初!傷の治りを高速化させる「電子包帯」の開発に成功

    2023年2月25日 18:24
    electric bantage

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事