AIの専門家は、ChatGPTは人々が思っている以上に“愚かだ”と語る

masapoco
投稿日
2023年5月22日 15:06
ai artiricial intelligence

AIの研究者でありロボット工学の大家であるRodney Brooks氏は、OpenAIの大規模言語モデル「ChatGPT」について、我々が大いに過大評価していると主張している。IEEE Spectrumとのインタビューで、Brooks氏はこれらのツールが我々が認識しているよりも遥かに「愚か」であり、人間と同等の知的レベルで任意のタスクを遂行する能力にはほど遠いと述べている。彼は、我々がAIの未来を不適切に予測する罪を多く犯していると言う。

Brooks氏は、ChatGPTのようなAIシステムの能力と限界を理解し、その能力を過大評価しないことの重要性を強調している。これらのモデルは人間のようなテキストを生成することはできても、人間のような理解や推論を持っているわけではないのだ。

「大規模言語モデルが得意なのは、答えがどのように聞こえるべきかを述べることであり、答えがどのようであるべきかとは異なります」とBrooks氏は述べている。

AIが人間と同等の知的レベルで動作するような一般的な人工知能(AGI)になる可能性はあるのだろうか?Brooks氏は否定する。「いいえ、なぜならそれは世界の基本的なモデルを持っていないからです。AIは世界とのつながりを持っていません。AIが持っている物、それは言語間の相関関係です」。

Brooks氏のコメントは、現在のAI技術が抱える制限と、それらが人間のように理論的に聞こえるように出力するように設計されているにもかかわらず、それが時に全く事実ではない結果を出力することを思い出させる。

「私たちは人が何かをするのを見て、彼らが何をできるかを知り、すぐに判断を下すことができます。しかし、パフォーマンスから能力への一般化のモデルはAIシステムには適用できません」。

つまり、現在の言語モデルは論理的に意味を推測する能力がないにもかかわらず、まるでそれが可能なように見えることでユーザーを簡単に誤解させるのだ。

研究者のBrooks氏は、「難解なコーディング」を助けるために大規模言語モデルを試してみたと述べているが、すぐに深刻な問題に直面した。「それは完全に自信を持って答えを出します、そして私はそれをある程度信じてしまうのです。そして半分は完全に間違っています。私はそのヒントを使って2、3時間を費やし、そして私は言います、『うまくいかなかった』と言うと、別のことをやってしまうんです」。

「それは知性と同じではありません」と彼は付け加えました。「それは相互作用と同じではありません。それは調べているだけです」。

Brooks氏は、この技術の将来的な発展が、AGI(Artificial General Intelligence:人工知能)の領域ではなく、興味深いところに行き着く可能性があると考えている。AIシステムが人間の知能を凌駕することのリスクを考えると、そのほうがいいのかも知れない。


Source



この記事が面白かったら是非シェアをお願いします!


  • micron
    次の記事

    米中のハイテク抗争が激化、中国政府が米Micron製品を規制へ

    2023年5月22日 17:15
  • 前の記事

    質の高い自然科学研究「Nature Index」ランキングで中国が初めて米国を抜いた

    2023年5月22日 13:42
    d41586 023 01705 7 25376686
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事