MENU
  • TECHテクノロジー
  • SCIENCEサイエンス
  • ENTERTAINMENTエンターテインメント
  • REVIEWSレビュー
あなたの好奇心を刺激する、テック・サイエンスニュース情報が満載! | TEXAL
TEXAL
  • TECHテクノロジー
  • SCIENCEサイエンス
  • ENTERTAINMENTエンターテインメント
  • REVIEWSレビュー
  • テクノロジー
  • サイエンス
  • モバイル
  • エンタメ
  • ゲーム
TEXAL
  • TECHテクノロジー
  • SCIENCEサイエンス
  • ENTERTAINMENTエンターテインメント
  • REVIEWSレビュー
  1. ホーム
  2. テクノロジー
  3. ChatGPTが話題だが、そのあり方はAIの進歩を鈍化させる可能性をはらんでいる

ChatGPTが話題だが、そのあり方はAIの進歩を鈍化させる可能性をはらんでいる

2022 12/18
テクノロジー
2022年12月18日

スポンサーリンク

ChatGPTは、最新かつ最も印象的な人工知能チャットボットだ。2週間前にリリースされ、わずか5日で100万ユーザーを達成した。あまりに多く利用されているため、サーバーが何度も容量に達している程だ。

開発したOpenAIは、すでにGoogleを倒す存在として取り沙汰されている。ChatGPTが段落ごと答えを説明してくれるのに、なぜ検索エンジンで調べるのか? (両方を並行して行えるChrome拡張機能もある)

しかし、ChatGPTの能力の背後にある秘密のソースを知ることがなかったらどうだろうか?

このチャットボットには、過去数十年間に公開された科学文献に掲載された数多くの技術的進歩が活用されている。しかし、独自の技術革新は秘密だ。OpenAIは、技術的・ビジネス的な堀を築き、他を寄せ付けないようにしているのかもしれない。

file 20221212 1960 oz0t5e
ChatPGTのサイトがユーザー流入で複数回ダウン。

できること(できないこと)

ChatGPTはとても有能だ。俳句が欲しい?もちろん可能だ。

ジョークはどうだろうか?問題ない。

ChatGPTは他にもいろいろな芸当ができる。ユーザーの仕様に合わせてコンピュータコードを書いたり、ビジネスレターや賃貸契約の下書き、宿題の作文、さらには大学受験に合格することも可能だ。

しかし、重要なのは、ChatGPTができないことだ。例えば、真実と虚偽を区別するのに苦労する。また、説得力のある嘘をつくこともしばしばだ。

ChatGPTは、携帯電話のオートコンプリートのようなものだ。携帯電話は単語の辞書で学習しているので、単語を補完してくれる。ChatGPTは、Web上のほとんどすべての情報を学習しているので、文章全体、あるいは段落全体を補完することができる。

しかし、ChatGPTは自分が何を言っているかは理解せず、どの単語が次に来る可能性が高いかだけを理解する。

名前だけ“Open”

これまで、AIの進歩には査読付き文献がつきものだ。

例えば2018年、Google Brainチームが、現在ほとんどの自然言語処理システムが基づいている(ChatGPTもそうだと思われる)BERTニューラルネットワークを開発したとき、その方法は査読付き科学論文に掲載され、コードはオープンソース化された。

そして2021年、DeepMindのタンパク質折り畳みソフトウェア「AlphaFold 2」は、Science誌のBreakthrough of the Yearに選ばれた。このソフトウェアとその結果はオープンソース化され、世界中の科学者が生物学と医学の進歩のために利用できるようになったのだ。

だだが、ChatGPTのリリース後、OpenAIはその仕組みを説明する短いブログ記事を書いているにすぎない。科学的な出版物や、コードがオープンソース化されることは全く示唆されていない。

なぜChatGPTが秘密にされているのかを理解するには、その背後にある企業について少し理解する必要がある。

OpenAIは、おそらくシリコンバレーから生まれた最も奇妙な企業の1つだ。2015年に非営利団体として設立され、「人類全体に利益をもたらす」方法で「友好的な」AIを推進・開発することを目的としている。Elon Musk氏、Peter Thiel氏ら、有力テック関係者は、その目標に向けて10億米ドルの寄付を約束した。

彼らの考えは、営利企業が人類の繁栄に合致した、より高性能なAIを開発することは信頼できないというものだった。そのため、AIは非営利団体によって、その名が示すようにオープンな形で開発される必要があったのだ。

だが2019年、OpenAIは上限付きの営利企業に移行し(投資家のリターンは最大で投資の100倍に制限される)、Microsoftから10億米ドルの投資を受け、規模を拡大してハイテク大手と競争できるようになった。

OpenAIの当初のオープン化計画には、お金が邪魔をしたようだ。

ユーザーから利益を得る

さらにOpenAIは、ユーザーからのフィードバックにより、ChatGPTが混乱する偽の答えをフィルタリングしているようだ。

ブログによると、OpenAIは当初、ChatGPTで強化学習を使い、コストのかかる手作業で構築したトレーニングセットを使って、偽の回答や問題のある回答をランク付けしていたそうだ。

しかし、ChatGPTは現在、100万人以上のユーザーによってチューニングされているようだ。このような人間のフィードバックを得るには、他の方法では法外なコストがかかると想像される。

私たちは今、科学文献に記載されていない方法と、名前だけオープンにしているように見える会社に限定されたデータセットを使って、AIが大幅に進歩するという見通しに直面している。

As an AI researcher, I find the glorification of closed-source, proprietary models problematic. We should be emphasizing sharing and open-sourcing AI models, datasets and code, be it in conferences or in the press (4/4).

— Dr. Sasha Luccioni 💻🌎✨🤗 (@SashaMTL) December 9, 2022

次はどこへ向かう?

過去10年間、AIが急速に進歩したのは、学者や企業によるオープンな取り組みが大きな要因だった。私たちが持っている主要なAIツールは、すべてオープンソース化されている。

しかし、より高性能なAIを開発する競争において、それは終わりつつあるのかもしれない。AIにおけるオープン性が薄れれば、結果的にこの分野の進歩が鈍化する可能性がある。また、新たな独占企業が生まれるかもしれない。

そして、歴史が証明しているように、透明性の欠如は、技術領域における悪行の引き金となる。そのため、ChatGPTを賞賛(あるいは批判)する一方で、それがどのような経緯で生まれたのかを見過ごすべきではないだろう。

私たちが注意深くなければ、AIの黄金時代を象徴するようなものが、実はその終わりを告げているのかもしれないのだ。

本記事はThe Conversationに掲載された記事「Everyone’s having a field day with ChatGPT – but nobody knows how it actually works」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。

著者紹介
toby walsh

Prof. Toby Walsh

Professor of AI at UNSW, Research Group Leader, UNSW Sydney

オーストラリアのシドニーにあるニューサウスウェールズ大学のローレイト・フェローであり、人工知能のサイエンティア教授である。オーストラリア科学アカデミーのフェローであり、近著『Machines Behaving Badly』では、自律兵器などAIが抱える倫理的課題を探求している。この分野での提唱により、ロシアから追放されたこともある。

Webサイト:http://www.cse.unsw.edu.au/~tw/

Twitter: @TobyWalsh

TEXALでは、テクノロジー、サイエンス、ゲーム、エンターテインメントなどからその日の話題のニュースや、噂、リーク情報、レビューなど、毎日配信しています。最新のニュースはホームページで確認出来ます。Googleニュース、Twitter、FacebookでTEXALをフォローして、最新情報を入手する事も出来ます。記事の感想や、お問い合わせなども随時受け付けています。よろしくお願いいたします。

スポンサーリンク

テクノロジー
AI ChatGPT OpenAI The Conversation
よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

コメント

コメントする コメントをキャンセル

CAPTCHA


スポンサーリンク
今読まれている記事
人気のタグ
AI Amazon AMD Android Apple CPU DJI Google GPU Intel iOS iPadOS iPhone iPhone 14 Pro Mac Meta Microsoft NASA Nintendo Switch NVIDIA PCゲーム PS5 Qualcomm Samsung SNS Sony The Conversation TSMC Twitter VR Windows XR アップデート ガジェット ゲーム サブスクリプション スマートフォン ドローン ベータテスト 乗り物 半導体 噂 天文学 宇宙 自動車
PVアクセスランキング にほんブログ村
スポンサーリンク
  • テクノロジー
  • サイエンス
  • モバイル
  • エンタメ
  • ゲーム