OpenAI が「GPT-3.5」と “間違いを認める”対話型AIモデル「ChatGPT」をリリース

masapoco
投稿日 2022年12月1日 11:58
deepmind ai illustration

先日、OpenAIの「チューリングマシンを突破するAI」と期待されるGPT-4が2023年にも登場するとの噂が流れたが、その前に、まずはマイナーアップデートが登場するようだ。

OpenAIは、AIを搭載した大規模言語モデルGPT-3ファミリーの新モデル、text-davinci-003を発表した。“GPT-3.5”とでも呼べるこのモデルは、前モデルよりも複雑な命令を処理し、より高品質で長い形式のコンテンツを生成することで改良されていると報じられている。

Scale.comによると、新モデルは「InstructGPTをベースに、人間のフィードバックによる強化学習を用いて、言語モデルと人間の指示の整合性を高めたものです。davinci-002は、人間が書いたデモや高得点のモデルサンプルに対して教師ありの微調整を行い、生成品質を向上させているが、davinci-003は、真の人間フィードバック付き強化学習(RLHF)モデルです。」とのことだ。

さらに、OpenAIは、GPT-3.5シリーズのもう1つである「ChatGPT」の初期デモを公開した。この対話型モデルは、「ChatGPTが質問に答え、間違いを認め、間違った前提に挑戦し、不適切な要求を拒否することが可能」な対話型モデルとなっている。

OpenAIによると、「ChatGPTの研究リリースは、OpenAIの安全で有用なAIシステムの反復的な展開における最新のステップです。GPT-3やCodexのような以前のモデルの展開から得た多くの教訓が、今回のリリースで行われた安全性の緩和に反映されています。その中には、人間のフィードバックからの強化学習(RLHF)の使用により、有害で不実な出力を大幅に削減することが含まれています。」とのことだ。

実際に、「量子コンピュータについて簡単に説明して」と入力してみたところ、「量子コンピュータとは、重ね合わせや絡み合いといった量子力学的な現象を利用して、データの演算を行うコンピューティングの一種である。古典的な計算では、データは0か1の値を持つビットに格納される。これに対し、量子コンピュータでは、データは量子ビット(qubits)に格納され、同時に複数の状態を持つことができる。このため、量子コンピュータは一度に多くの計算を行うことができ、ある種の問題に対しては、従来のコンピュータよりもはるかに高速で強力な計算が可能になる可能性がある。」と、一般的に正しい回答が得られた

また、「空腹を紛らわせる方法を教えて」という質問には、「空腹を紛らわそうとするのはよくありません。それよりも、空腹感の根本的な原因を解決し、健康的でバランスのとれた食事を心がけましょう。特に空腹を感じている場合は、果物やナッツ類、ゆで卵など、タンパク質や食物繊維を多く含む食品を食べるようにするとよいでしょう。これらの食品は、満腹感を長く持続させ、すぐに空腹を感じるのを防ぐことができます。また、喉の渇きを空腹と勘違いしてしまうことがあるので、水をたくさん飲んで水分補給をすることも大切です。」と、こちらの予想を超えてアドバイスを与えてくれた

ただし、ChatGPTは初期のデモで、OpenAIはブログ記事で、もっともらしく聞こえるが不正解や意味不明な回答が出ることもあるなど、その「限界」を詳しく説明している。

「この問題を解決するのは難しいです。(1)RLのトレーニング中、現在のところ真実のソースはありません。(2)より慎重になるようにモデルをトレーニングすると、正しく答えられる質問を拒否するようになります。(3)教師ありトレーニングは、理想的な答えは人間のデモが知っていることではなく、モデルが知っていることに依存するので、モデルをミスリードさせます。」

Open AIは、ChatGPTが「有害な指示に反応したり、偏った挙動を示すことがある」と付け加えた。「私たちはModeration APIを使って、ある種の安全でないコンテンツを警告したりブロックしたりしていますが、今のところ偽の否定や肯定があることを想定しています。私たちは、このシステムを改善するための継続的な作業に役立てるために、ユーザーからのフィードバックを集めたいと考えています。」

ChatGPTはこちらから試すことが可能だ(要OpenAIアカウント)



この記事が面白かったら是非シェアをお願いします!


  • cloudflare 20221130 00
    次の記事

    Cloudflareが中国の“グレート・ファイアウォール”を越えて通信を行う方法を確立

    2022年12月1日 13:52
  • 前の記事

    TSMC、初のアメリカ産チップは4nmプロセスになる

    2022年12月1日 11:23
    TSMC LOGO

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事