Qualcommは、開発者によるアプリでのAIや生成AI機能の迅速な実装を支援する、「Qualcomm AI Hub」を発表した。これは、AIモデルをSnapdragonおよびQualcommのプラットフォームで展開するために、あらかじめ最適化されたモデルのライブラリである。

このライブラリには、Whisper、ControlNet、Stable Diffusion、Baichuan 7Bなど、75以上のAIおよび生成AIモデルが満載されている。これらはすべて、オンデバイス実行用に量子化（縮小）・最適化されており、メモリ使用率が低く、電力効率に優れている。これらは、AIエンジン内のすべてのコアを含め、Qualcommのチップの特殊なハードウェアを活用するように構築されており、開発者は、これらのモデルをアプリケーションに統合することも可能だ。

これらのモデルは現在、Qualcommのサイト、GitHub、Hugging Faceで公開されている。新しいモデルも順次追加される予定で、開発者はQualcommがクラウドでホストするデバイスで今日から使用可能だ。Qualcommは、さまざまな入力を受け入れることができる70億パラメータの大規模マルチモーダルモデルであるLarge Language and Visual Assistant（LLaVA）のデモを行っている。この同じLMMは、Snapdragon X Eliteを搭載したWindows PCで実行出来る。

さらにQualcommは、AndroidスマートフォンでLow Rank Adaptation（LoRA）のデモも行った。Stable Diffusionを実行することで、ユーザーはスマートフォンで画像を生成することができ、LoRAは学習可能なパラメータの数を減らすことができる。MWCでは、Xiaomi、Oppo、およびHonorのスマートフォンで他のAI搭載機能が披露される予定です。PCでは、QualcommがSnapdragon X EliteとGIMPを搭載したWindowsマシンでStable Diffusionプラグインを使用してプログラム内から画像を生成するデモも行っている。

Qualcommの取り組みは、生成AIに関してWindows PCをより優れたものにすることを目的としており、7秒未満で画像を生成できるとしている。これらの機能はすべてQualcomm製のプラットフォームで実現されているが、コンシューマー向けデバイスに搭載されるかどうかは未知数だ。この技術は強力だが、Qualcommが過去にリリースしたプラットフォームでは、実際にユーザーが利用可能になる事がなくデモだけで終わる事もあったので、これが実用化される事が期待される。

Sources

• Qualcomm: Qualcomm AI Hub