先日、GoogleはSundar Pichai氏のブログ投稿にて、AIチャットボット「Bard」を発表した。これはOpenAIのChatGPTのライバルで、「今後数週間でより広く一般に公開される」予定とされている。しかし、このボットのデモとして披露された動画では、専門家によると事実ではない回答が提示されているとのことだ。

Googleが共有した動画には、Bardが質問に答える様子が描かれている。「ジェイムズ・ウェッブ宇宙望遠鏡はどんな新しい発見をしたのか、9歳の子どもに伝えられるように教えて。」という質問に答えている。Bardは、望遠鏡が 「JWSTはわれわれの太陽系の外にある惑星の撮影に歴史上初めて成功しました」と述べたものを含む、3つの箇条書きを返している。

しかし、Twitterでは多くの天文学者が、これは間違っていて、「太陽系外惑星の最初の画像は2004年に撮影されている」と、全くの事実誤認であると指摘している。NASAのWebサイトに掲載されているように、最初の太陽系外惑星の撮影は、2M1207bである。

「『Bard』が感動するのは確かだが、記録しておこう。JWSTは “太陽系外の惑星の最初の画像”を撮影していない」と宇宙物理学者のGrant Tremblay氏はツイートした。

この失態は、SNSの一部の人たちにとっては笑い話かもしれないが、Googleにとっては笑い話ではないだろう。Reutersによると、このミスの話が広まってから間もなく、Googleの親会社であるAlphabetの株価は8％下落したと報じられている。この結果、市場価値は1000億ドル以上失われた。

BardやChatGPTのようなAIツールが、検証済みの信頼できるデータベースではなく、インターネットから情報を引っ張ってくるために事実誤認をすることは珍しいことではない。問題は、これらのシステムが、回答が真実であると信じさせるような権威ある方法で情報を提示することだ。

Microsoftは、ユーザーに責任を負わせることで、そこから生じる責任から自らを先制して守っている。これは、「BingはAIを搭載しているため、驚きや間違いが起こる可能性があります。必ず事実を確認し、フィードバックを共有することで、私たちは学び、改善することができます！」と、免責事項を掲載している。

Googleの広報担当者はThe Vergeにこのミスについて語っている。「これは、厳格なテストプロセスの重要性を強調しており、私たちは今週、Trusted Testerプログラムで開始しているものです。我々は、Bardの回答が品質、安全性、実世界の情報に基づいた高い水準を満たしていることを確認するために、外部のフィードバックと我々自身の内部テストを組み合わせます。」

Source

• Reuters: Alphabet shares dive after Google AI chatbot Bard flubs answer in ad
• New Scientist: Google Bard advert shows new AI search tool making a factual error
• via The Verge: Google’s AI chatbot Bard makes factual error in first demo