ChatGPTが話題だが、そのあり方はAIの進歩を鈍化させる可能性をはらんでいる

ChatGPTは、最新かつ最も印象的な人工知能チャットボットだ。2週間前にリリースされ、わずか5日で100万ユーザーを達成した。あまりに多く利用されているため、サーバーが何度も容量に達している程だ。

開発したOpenAIは、すでにGoogleを倒す存在として取り沙汰されている。ChatGPTが段落ごと答えを説明してくれるのに、なぜ検索エンジンで調べるのか？ (両方を並行して行えるChrome拡張機能もある)

しかし、ChatGPTの能力の背後にある秘密のソースを知ることがなかったらどうだろうか？

このチャットボットには、過去数十年間に公開された科学文献に掲載された数多くの技術的進歩が活用されている。しかし、独自の技術革新は秘密だ。OpenAIは、技術的・ビジネス的な堀を築き、他を寄せ付けないようにしているのかもしれない。

できること(できないこと)

ChatGPTはとても有能だ。俳句が欲しい？もちろん可能だ。

ジョークはどうだろうか？問題ない。

ChatGPTは他にもいろいろな芸当ができる。ユーザーの仕様に合わせてコンピュータコードを書いたり、ビジネスレターや賃貸契約の下書き、宿題の作文、さらには大学受験に合格することも可能だ。

しかし、重要なのは、ChatGPTができないことだ。例えば、真実と虚偽を区別するのに苦労する。また、説得力のある嘘をつくこともしばしばだ。

ChatGPTは、携帯電話のオートコンプリートのようなものだ。携帯電話は単語の辞書で学習しているので、単語を補完してくれる。ChatGPTは、Web上のほとんどすべての情報を学習しているので、文章全体、あるいは段落全体を補完することができる。

しかし、ChatGPTは自分が何を言っているかは理解せず、どの単語が次に来る可能性が高いかだけを理解する。

名前だけ“Open”

これまで、AIの進歩には査読付き文献がつきものだ。

例えば2018年、Google Brainチームが、現在ほとんどの自然言語処理システムが基づいている（ChatGPTもそうだと思われる）BERTニューラルネットワークを開発したとき、その方法は査読付き科学論文に掲載され、コードはオープンソース化された。

そして2021年、DeepMindのタンパク質折り畳みソフトウェア「AlphaFold 2」は、Science誌のBreakthrough of the Yearに選ばれた。このソフトウェアとその結果はオープンソース化され、世界中の科学者が生物学と医学の進歩のために利用できるようになったのだ。

だだが、ChatGPTのリリース後、OpenAIはその仕組みを説明する短いブログ記事を書いているにすぎない。科学的な出版物や、コードがオープンソース化されることは全く示唆されていない。

なぜChatGPTが秘密にされているのかを理解するには、その背後にある企業について少し理解する必要がある。

OpenAIは、おそらくシリコンバレーから生まれた最も奇妙な企業の1つだ。2015年に非営利団体として設立され、「人類全体に利益をもたらす」方法で「友好的な」AIを推進・開発することを目的としている。Elon Musk氏、Peter Thiel氏ら、有力テック関係者は、その目標に向けて10億米ドルの寄付を約束した。

彼らの考えは、営利企業が人類の繁栄に合致した、より高性能なAIを開発することは信頼できないというものだった。そのため、AIは非営利団体によって、その名が示すようにオープンな形で開発される必要があったのだ。

だが2019年、OpenAIは上限付きの営利企業に移行し（投資家のリターンは最大で投資の100倍に制限される）、Microsoftから10億米ドルの投資を受け、規模を拡大してハイテク大手と競争できるようになった。

OpenAIの当初のオープン化計画には、お金が邪魔をしたようだ。

ユーザーから利益を得る

さらにOpenAIは、ユーザーからのフィードバックにより、ChatGPTが混乱する偽の答えをフィルタリングしているようだ。

ブログによると、OpenAIは当初、ChatGPTで強化学習を使い、コストのかかる手作業で構築したトレーニングセットを使って、偽の回答や問題のある回答をランク付けしていたそうだ。

しかし、ChatGPTは現在、100万人以上のユーザーによってチューニングされているようだ。このような人間のフィードバックを得るには、他の方法では法外なコストがかかると想像される。

私たちは今、科学文献に記載されていない方法と、名前だけオープンにしているように見える会社に限定されたデータセットを使って、AIが大幅に進歩するという見通しに直面している。

As an AI researcher, I find the glorification of closed-source, proprietary models problematic. We should be emphasizing sharing and open-sourcing AI models, datasets and code, be it in conferences or in the press (4/4).
— Sasha Luccioni, PhD ???✨? (@SashaMTL) December 9, 2022

次はどこへ向かう？

過去10年間、AIが急速に進歩したのは、学者や企業によるオープンな取り組みが大きな要因だった。私たちが持っている主要なAIツールは、すべてオープンソース化されている。

しかし、より高性能なAIを開発する競争において、それは終わりつつあるのかもしれない。AIにおけるオープン性が薄れれば、結果的にこの分野の進歩が鈍化する可能性がある。また、新たな独占企業が生まれるかもしれない。

そして、歴史が証明しているように、透明性の欠如は、技術領域における悪行の引き金となる。そのため、ChatGPTを賞賛（あるいは批判）する一方で、それがどのような経緯で生まれたのかを見過ごすべきではないだろう。

私たちが注意深くなければ、AIの黄金時代を象徴するようなものが、実はその終わりを告げているのかもしれないのだ。

本記事は、Toby Walsh氏によって執筆され、The Conversationに掲載された記事「Everyone’s having a field day with ChatGPT – but nobody knows how it actually works」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。