検索エンジン大手のGoogleは、人工知能（AI）チャットボット「Bard」が出した「悪い回答」を修正するために、人間の従業員の手を借りているようだ。同社CEOのSundar Pichai氏は、毎日2～4時間を費やして製品の改善に協力するよう従業員に求めていた。
OpenAIに既に多額の出資を行っているMicrosoftは、ChatGPTを発展させた独自のPrometheus Modelを採用した同社の検索エンジン「Bing」のチャットボットを限定されたユーザーに対して解放しており、検索エンジン市場におけるGoogleの優位性を脅かすことになりかねない。Googleは、人気が高まっているOpenAIの製品に対抗して、AIチャットボット「Bard」を発表した。
しかし、Bardはプロモーションイベントで不正確な回答をしたため、Googleの株価は9%も暴落した。Googleは、これから発売するAI製品に対する風評を払拭する必要があると考えており、後手に回っている状況だ。
GoogleはBardをどのように修正するのか？
CNBCによると、Googleの検索担当副社長であるPrabhakar Raghavan氏が送ったメールでは、同社のチャットボットが正しく回答できるように従業員に呼びかけているとのことだ。
メールの中でRaghavan氏は、Bardの技術はエキサイティングだが、まだ初期段階であると書いている。Googleはそれを正しく理解することに熱心で、社内テストに参加することで、社員はモデルの訓練を加速させ、その負荷能力をテストすることになるのだという。
Raghavan氏は、Googleのスタッフに、自分がよく理解しているトピックの答えを書き直すように勧めたが、チャットボットに教える前に考慮すべきこと、してはいけないことのリストも提供したとのことだ。
「やるべきこと」の中には、丁寧でカジュアル、かつ親しみやすい回答を心がけ、一人称で、偏見のない中立的な口調で回答するようにという指示が含まれている。
また、従業員にはステレオタイプを作らず、人種、国籍、性別、年齢、宗教、性的指向、政治思想、所在地、または同様のカテゴリーに基づく推定を避けるよう指示されたと、CNBCは述べている。
また、Googleは、以前チャットボットが感覚を持つという主張をした経験からか、そのチャットボットが人のように見えたり、感情を表示したりしないように工夫している。また、Googleは従業員に対して、法律や医療、金融に関するアドバイスをする回答には注釈をつけるよう指示しているが、改善しないことを主張している。
その努力に対して、Google社員は「Momaバッジ」を受け取り、社内の社員プロフィールに表示できるようになる。また、上位10名の投稿者はリスニングセッションに招待され、Bardのチームと面会し、フィードバックをライブで共有する機会を持つことになるとのことだ。
しかし、従業員からは、Pichai CEOがBardの展開を急いだことに対し、近視眼的とまで批判されている。
Source
コメントを残す