OpenAI、AGIの実現とその課題についての計画を概説

masapoco
投稿日 2023年2月26日 6:21
artificial intelligence
artificial intelligence

汎用人工知能(Artificial General Intelligence: AGI)とは、人間ができるあらゆるタスク、あるいはそれ以上のタスクを実行できるAIシステムを指す言葉だ。AGIの実現は、まさに「シンギュラリティ」の訪れであり、人類の未来に大きな影響を与える可能性があるため、AIの分野では最も野心的な目標の1つであり、議論を呼んでいる。ChatGPTを開発したOpenAIは、最近、AGIの作成と管理のため、同社がどう考えているのか、課題をどのように引き出していくかを示すブログ記事を発表している。

OpenAIの望むAGIは、「人類が宇宙を最大限に繁栄させるための力を与える」ものとのことだ。AGIには、誤用や事故、さらには社会の混乱など、潜在的なリスクや不確実性が存在する可能性がある。これに対処するため、OpenAIは、短期的なことを意図して、AGIに関する作業の指針となる一連の原則を提案している。曰く、

  • 実世界にあまり強力でないAIシステムを配備し、そこから学び、経験とフィードバックを得ること。
  • AIの利益とガバナンスへのアクセスを民主化する。
  • AIシステムが人間の価値観や好みに沿って行動するための新しいアライメント技術の開発。
  • AIの使用と規制に関する幅広い範囲に合意するための世界の制度を強化する。
  • AIの進歩に関する情報を一般市民と共有し、多様なステークホルダーから意見を求める。

AGIの発展が人類にどのような影響を与えるかを形成する要因は、他にもあることは確かだ。これらの要素には、タイムライン(AGIを作るのにかかる時間)、離陸速度(AGIが自己改良する速度)、調整(AGI開発において異なる主体がどれだけ協力または競争するか)、安全性(AGIが人間の目標とどれだけ整合するか)などが含まれる。OpenAIは、タイムラインを短くし、離陸速度を遅くすることで、政府、企業、一般市民が学習、適応、調整を行い、徐々に何が起こっているかを理解し、技術の長所と短所の両方を経験する時間を増やすことができると述べている。

とはいえ、OpenAIは、物事は予測不可能であり、特にAGIが主流となった後、将来起こりうる問題に対するすべての答えや解決策を同社自身が持っているわけではないという事実についても警告を発している。同社は、長期的には、これらのシステムをどのように管理するか、その利益をどのように公正に分配するか、アクセスをどのように公正に共有するかについての会話が必要であると期待している。

また、OpenAIは、会社の体制とミッションがどのように一致しているかについても強調した。AGI開発の理念と目標を憲章に掲げている。また、株主が得られる利益には上限があり、実際には非営利の理事会がその活動を監督している。理事会は、営利目的の利益が会社のミッションと相反する場合、それを無効化することも出来るとしている。


Source



この記事が面白かったら是非シェアをお願いします!


  • 4k render July 2022
    次の記事

    人工重力型宇宙ステーションを目指すVastがLauncherを買収

    2023年2月26日 8:19
  • 前の記事

    世界初!傷の治りを高速化させる「電子包帯」の開発に成功

    2023年2月25日 18:24
    electric bantage
この記事を書いた人
masapoco

スポンサーリンク

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

  • what is ai pc

    Intel、「AI PC」の要件は40TOPS以上の性能を持つNPUが必要と述べる、ただしMeteor Lakeはこれを満たさず

  • amazon anthropic

    Amazon、AIスタートアップのAnthropicに“現金”27億5千万ドルを投資

  • 854f82b63ec3ff5c24f3787df5d0afc3

    GPT-4がついに王座陥落、AnthropicのClaude 3がベンチマークで1位に輝く

  • gpt store

    OpenAI、カスタムGPT制作者に対する報酬プログラムのテストを開始

今読まれている記事