Qualcommはスマートフォンでの生成AI処理を実現させたい

masapoco
投稿日 2023年6月6日 13:32
QUALCOMM SNAPDRAGON 8GEN2 2
QUALCOMM SNAPDRAGON 8GEN2 2

多くのAndroidスマートフォンに採用されているSnapdragonチップを製造するQualcommは、新世代プロセッサーを通じて、GPT-4やDALL-E2などのAIモデルをスマートフォンで実行できるように取り組んでいるようだ。

生成AIの処理にはコストがかかりすぎる

現在、ユーザーは生成AIモデルを使用する場合、Webを通じて、クラウド上でこれらのモデルにアクセスすることができる。しかし、これに必要な処理コストは莫大で、以前半導体調査会社SemiAnalysisのチーフアナリストであるDylan Patel氏は、ChatGPTの稼働により、OpenAIは1日に約70万米ドルのコストをかけている可能性があると報じられていた

発生したコストは、ほとんどがサーバーの稼働にかかるものだ。Patel氏は、これまでで最も高度な大規模言語モデルであるGPT-4を実行する場合、コストはさらに高くなる可能性があると見ている。

Qualcommが5月に発表したホワイトペーパーで、生成AIを使った検索では、従来の検索方法と比較してクエリあたりのコストが10倍になると推定されると述べている。したがって、Hybrid AIを活用することで、生成AIの開発者やプロバイダーは、エッジデバイスが提供するコンピューティングパワーを活用し、コスト削減につなげることが出来るとのことだ。

「ハイブリッドAIアーキテクチャ(またはデバイス単体でAIを実行)は、パフォーマンス、パーソナライズ、プライバシー、セキュリティという付加的な利点を、グローバル規模で提供します」とQualcommは述べている。

あらゆるデバイスにAIを搭載

今年の初め、Qualcommのエンジニアのグループが、テキストから画像へのAIモデル「Stable Diffusion」をAndroidデバイス上で実行することに成功した。こうした動きに関して、デバイス上でAIモデルを実行する技術に取り組んでいる企業は、Qualcommだけではない。

Appleも、音声認識、自然言語処理、コンピュータビジョンなど、さまざまなタスクのためのデバイス上のAIモデルを開発し、その利用を推進している。

同社は、iPhone、iPad、Macなどのデバイス上で動作するAIチップやアルゴリズムの開発に多額の投資を行っている。現在、AppleがLarge Language Models(LLM)のようなGPTモデルを構築しているかどうかは分かっていない。しかし、Appleは、Appleのデバイス上で完全に動作する同様の技術を明らかにし、ユーザーに、より速く、より応答性の高い、プライベートな体験を提供する可能性がある。そして、実際に生成AI関連の人材を積極登用しているとの報道も出ている。

AIモデルの実行は、GoogleとMicrosoftのような多くの企業にとって、AIの覇権を争うアプローチになり得る。 また、エッジデバイスでのハイブリッドAI駆動の実現は、現在AI処理関連で大きく業績を伸ばしているNVIDIAに対して、その急成長にブレーキをかけることにも繋がるかもしれない。


Source



この記事が面白かったら是非シェアをお願いします!


  • semiconductor wafer
    次の記事

    TSMC、AppleやNVIDIAからの要求を満たすべく2nmプロセスの開発を加速

    2023年6月6日 15:49
  • 前の記事

    Apple、新たなMac Pro及びMac Studio向け「M2 Ultra」プロセッサを発表

    2023年6月6日 12:15
    Apple WWDC23 M2 Ultra chip 230605
この記事を書いた人
masapoco

スポンサーリンク

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

  • what is ai pc

    Intel、「AI PC」の要件は40TOPS以上の性能を持つNPUが必要と述べる、ただしMeteor Lakeはこれを満たさず

  • amazon anthropic

    Amazon、AIスタートアップのAnthropicに“現金”27億5千万ドルを投資

今読まれている記事