Tesla CEOでX（旧Twitter）のElon Musk氏は “X”プレミアムユーザーのために “X”のデータでトレーニングされ、作成されたチャットボット「Grok」を公開した。ChatGPTのOpenAIとは対照的に、このGrokは応答にもっと創造的で自由裁量を与えられている。

Musk氏とxAIによると、Grokをユーモアがあり、機知に富み、反抗的で、ほとんどどんな質問にも答えることができるチャットボットと説明している。Grokは、インターネットとXのデータに基づくモデル知識と、Xからのリアルタイム情報を使って回答を提供する。xAIによると、このチャットボットは、他のほとんどのAIシステムでは拒否されるような「スパイシーな質問」にも答えるという。

Announcing Grok!

Grok is an AI modeled after the Hitchhiker’s Guide to the Galaxy, so intended to answer almost anything and, far harder, even suggest what questions to ask!

Grok is designed to answer questions with a bit of wit and has a rebellious streak, so please don’t use…

— xAI (@xai) November 5, 2023

Grokはまだ初期のベータ製品である。それでも、すでにいくつかの機械学習ベンチマークや、2023年のハンガリー全国高校数学決勝で印象的な結果を示している。Grok-1はまた非常に効率的で、同等のモデルの半分しか学習リソースを使用していないという。xAIのブログによると、Grokは開発開始から4ヶ月が経過し、トレーニングはわずか2ヶ月で終了したという。開発チームは性能比較表を掲載し、このLLMの性能を誇っている。

xAIチームによれば、Grokは常に改良を続けており、ユーザーにGrokを試してもらい、フィードバックを提供するよう呼びかけている。彼らは、Grokが誰にとっても強力な研究アシスタントとして機能し、関連情報に素早くアクセスし、データを処理し、新しいアイデアを思いつく手助けになることを願っている。

xAIの研究

xAIチームはGrokの作成だけでなく、AI研究分野の発展にも注力している。彼らは、信頼性の高い推論を実現することが、現在のシステムの限界に対処するための最も重要な研究方向であると考えているという。彼らがxAIで取り組んでいる有望な研究の方向性は以下の通りだ：

ツール支援によるスケーラブルな監視：人間のフィードバックはAIシステムを改善するために不可欠だが、特に複雑なタスクを扱う場合、一貫性のある正確なフィードバックを提供することは困難だ。AIは様々なソースからリファレンスを検索し、外部ツールで中間ステップを検証し、必要に応じて人間のフィードバックを求めることで、スケーラブルな監視を支援することが出来る。xAIチームはモデルの助けを借りて、AIチューターの時間を最も効果的に使うことを目指しているという。

安全性、信頼性、接地性を確保するための形式的検証との統合：実世界について深く推論できるAIシステムを作るために、xAIチームはより曖昧でなく、より検証可能な状況での推論スキルを開発することを計画している。これにより、人間のフィードバックや現実世界との相互作用なしにシステムを評価できるようになる。このアプローチの当面の主な目標のひとつは、コードの正しさ、特にAIの安全性に関して形式的に検証可能な側面について、形式的な保証を与えることである。

ロングコンテキストの理解と検索：特定のコンテキストで役立つ知識を効率的に発見するためのモデルを訓練することは、知識豊富なシステムを作り出すための核心である。xAIチームは、必要な時にいつでも情報を見つけて取り出すことができる手法に取り組んでいる。

逆境に強い：敵対的な例は、最適化者がAIシステムの脆弱性を容易に突くことができることを示している。これらの脆弱性はディープラーニングモデルの長年の弱点である。xAIチームは特にLLM、報酬モデル、監視システムのロバスト性を向上させることに関心を持っています。

マルチモーダル機能：現在、Grokは視覚や音声などの他の感覚を持っていない。ユーザーをより良く支援するために、xAIチームはGrokにこれらの異なる感覚を装備させ、リアルタイムのインタラクションや支援を含む、より幅広いアプリケーションを可能にする。

xAIチームは、AIが社会に大きな科学的・経済的価値をもたらす計り知れない可能性を秘めていると信じており、悪意のある利用による壊滅的な事態に対する信頼できるセーフガードの開発に取り組んでいるという。

Grokへのアクセスは？

xAIチームは、Grokのプロトタイプを試用し、より広範なリリース前にその機能を改善するのに役立つ貴重なフィードバックを提供するために、米国内の限られたユーザー数にまずはGrokを提供している。Grokのウェイティングリストにはこちらから参加できる。このリリースはxAIの第一歩である。今後数ヶ月の間に新しい機能と特徴を展開する予定である。

Sources

• xAI: Announcing Grok