多くのAndroidスマートフォンに採用されているSnapdragonチップを製造するQualcommは、新世代プロセッサーを通じて、GPT-4やDALL-E2などのAIモデルをスマートフォンで実行できるように取り組んでいるようだ。
生成AIの処理にはコストがかかりすぎる
現在、ユーザーは生成AIモデルを使用する場合、Webを通じて、クラウド上でこれらのモデルにアクセスすることができる。しかし、これに必要な処理コストは莫大で、以前半導体調査会社SemiAnalysisのチーフアナリストであるDylan Patel氏は、ChatGPTの稼働により、OpenAIは1日に約70万米ドルのコストをかけている可能性があると報じられていた。
発生したコストは、ほとんどがサーバーの稼働にかかるものだ。Patel氏は、これまでで最も高度な大規模言語モデルであるGPT-4を実行する場合、コストはさらに高くなる可能性があると見ている。
Qualcommが5月に発表したホワイトペーパーで、生成AIを使った検索では、従来の検索方法と比較してクエリあたりのコストが10倍になると推定されると述べている。したがって、Hybrid AIを活用することで、生成AIの開発者やプロバイダーは、エッジデバイスが提供するコンピューティングパワーを活用し、コスト削減につなげることが出来るとのことだ。
「ハイブリッドAIアーキテクチャ（またはデバイス単体でAIを実行）は、パフォーマンス、パーソナライズ、プライバシー、セキュリティという付加的な利点を、グローバル規模で提供します」とQualcommは述べている。
あらゆるデバイスにAIを搭載
今年の初め、Qualcommのエンジニアのグループが、テキストから画像へのAIモデル「Stable Diffusion」をAndroidデバイス上で実行することに成功した。こうした動きに関して、デバイス上でAIモデルを実行する技術に取り組んでいる企業は、Qualcommだけではない。
Appleも、音声認識、自然言語処理、コンピュータビジョンなど、さまざまなタスクのためのデバイス上のAIモデルを開発し、その利用を推進している。
同社は、iPhone、iPad、Macなどのデバイス上で動作するAIチップやアルゴリズムの開発に多額の投資を行っている。現在、AppleがLarge Language Models（LLM）のようなGPTモデルを構築しているかどうかは分かっていない。しかし、Appleは、Appleのデバイス上で完全に動作する同様の技術を明らかにし、ユーザーに、より速く、より応答性の高い、プライベートな体験を提供する可能性がある。そして、実際に生成AI関連の人材を積極登用しているとの報道も出ている。
AIモデルの実行は、GoogleとMicrosoftのような多くの企業にとって、AIの覇権を争うアプローチになり得る。 また、エッジデバイスでのハイブリッドAI駆動の実現は、現在AI処理関連で大きく業績を伸ばしているNVIDIAに対して、その急成長にブレーキをかけることにも繋がるかもしれない。
Source
コメントを残す