Googleの生成AI「Gemini」シリーズの最小モデルである「Gemini Nano」は、“いくつかのハードウェア上の制限”のため、Pixel 8端末では利用できないようだ。
12月に発表されたNanoは、クラウド上で処理が行われるその他のGeminiモデルとは異なり、Googleの最新のPixel 8 ProやSamsungのGalaxy S24ラインなどのハイエンドAndroidスマートフォン上で動作する様に構築されている。このモデルは、録音した音声をテキストとして要約したり、テキストメッセージへの素早い返信を自動生成してくれるMagic Composeなど、いくつかの機能をデバイスで高速に提供してくれる。
だが、The Android Showの最新エピソードのパネルディスカッションで、Androidの生成AIに携わるエンジニアのTerence Zhang氏によって、残念な知らせがもたらされた。彼は、”いくつかのハードウェアの制限”によって、この目玉とも言えるAI機能が、標準版のPixel 8には搭載されない事が明らかにされた。(以下のビデオの42:57)
Pixel 8とPixel 8 Proの両デバイスが同じGoogle Tensor G3プロセッサーとCPU、GPUコアを搭載していることを考えると、残るスペックの差である搭載RAMの違いによるところが大きいだろう。Pixel 8 Proは12GBのRAMを搭載しているが、Pixel 8は8GBのRAMを搭載している。
それなりに高性能な大規模言語モデルは、一般的にメモリと処理能力を大量に消費するため、たとえ8GBのDRAMを搭載したスマートフォンであっても実行するのは難しい。ここが決定的な差になったのかも知れない。
Googleが今回開発したAICoreはAndroidシステム・サービスであり、アプリケーションがGoogle Nanoにテキスト生成などのML推論タスクを実行させるために利用できる。
Zhang氏は、AICoreは基本的にGemini NanoのAPIサーフェスであり、このモデルはデバイスのコンピューティングパワーによって制約を受けると述べた。Pixel 8のようにNanoがない機種では、AICoreは使用できない。
AICoreは、リモートクラウドサービスへのインターネット接続を必要とせずに、アプリがローカルデバイス上でGemini Nanoを利用できるという利点がある。データがスマートフォンから離れることがないため、モデルによって生成されたテキストはすべて非公開であり、待ち時間も短縮されるため、より高速に実行できる。「最後に、最も重要なのは、無料であることです」とZhang氏は言う。すべてのワークロードはデバイス上のハードウェアを使用して実行されるため、クラウドからLLMにアクセスするのとは異なり、モデルと対話するために通信量や利用料なども発生しない。
「AICoreは現在、Google Pixel 8 ProとSamsung S24シリーズ端末でのみ利用可能です」と、Googleは開発者向けドキュメントで明言している。
Sources
コメントを残す