OpenAIの次期大規模言語モデル「GPT-4.5 Turbo」の存在が公式サイトからリークされた。これは、BingやDuckDuck Goのような検索エンジンがインデックスした内容から判明した物で、RedditやXなどで拡散されている。

実際にインデックスされたGPT-4.5 Turboのリンクは404ページにつながっているが、検索エンジンには、「GPT-4.5 TurboはOpenAIのこれまでで最も速く、最も正確で、最もスケーラブルなモデルである」というティーザーテキストが表示されている。それ以上の詳細は不明だ。

OpenAIのGPT-4は、2023年3月14日にリリースされた。今回明らかになったGPT-4.5 Turboが発表されるのも、この記念日に当てる可能性が高そうだ。

では、GPT-4.5 Turboはどのようなモデルになるのだろうか？インデックスされた内容からは、モデルが同時に処理できる単語の数を決めるコンテキスト・ウィンドウが拡大され、GPT-4 Turboの128kの2倍の256kになる事が示されている。256,000トークンは約20万語に相当する。

しかし、入力データの量よりも重要なのは、モデルがいかに確実にすべてのデータを処理するかである。大きなコンテキスト・ウィンドウを持つ現在のモデルは、途中の情報を無視する“Lost in the middle”の傾向があり、例えば大規模な文書のテキスト分析にはあまり価値がない。

GPT-4.5 Turboがここでより良いパフォーマンスを発揮できれば、それ以外のパフォーマンスが現行モデルと同様であったとしても、OpenAIの優位性は揺るがないだろう。GoogleはGemini 1.5で強力なラージコンテキストモデルをベータテストしており、“Lost in the middle”現象に有効に対処出来ると述べている。

ティーザーの説明では、GPT-4.5 Turboが6月にリリースされることを示唆されている。これはOpenAIにとってかなり異例なことである。これまで、新しく導入されたモデルは発売後すぐに利用可能になっていた。

戦略的な作戦かもしれない。OpenAIの競争相手であるAnthropicは最近、少なくとも多くの分野でGPT-4と同等のモデルであるClaude 3をリリースした。OpenAIは、顧客がAnthropicに乗り換えるのを防ぐために、6月までは書類上だけでも、できるだけ早くモデルのリーダーシップを取り戻したいと考えているのかもしれない。

少なくとも2023年12月以降、GPT-4.5 Turboのリリースが予定されているという噂がある。その噂によれば、新モデルにはテキストや画像に加えて、動画や3D機能が搭載される可能性があるという。だが今回のティーザーリークでは、マルチモーダル機能については触れられていない。