Qualcomm、オンデバイスAI開発を支援する「Qualcomm AI Hub」を発表

masapoco
投稿日
2024年2月26日 17:38
Hero Image On deviceAI

Qualcommは、開発者によるアプリでのAIや生成AI機能の迅速な実装を支援する、「Qualcomm AI Hub」を発表した。これは、AIモデルをSnapdragonおよびQualcommのプラットフォームで展開するために、あらかじめ最適化されたモデルのライブラリである。

このライブラリには、Whisper、ControlNet、Stable Diffusion、Baichuan 7Bなど、75以上のAIおよび生成AIモデルが満載されている。これらはすべて、オンデバイス実行用に量子化(縮小)・最適化されており、メモリ使用率が低く、電力効率に優れている。これらは、AIエンジン内のすべてのコアを含め、Qualcommのチップの特殊なハードウェアを活用するように構築されており、開発者は、これらのモデルをアプリケーションに統合することも可能だ。

これらのモデルは現在、Qualcommのサイト、GitHub、Hugging Faceで公開されている。新しいモデルも順次追加される予定で、開発者はQualcommがクラウドでホストするデバイスで今日から使用可能だ。Qualcommは、さまざまな入力を受け入れることができる70億パラメータの大規模マルチモーダルモデルであるLarge Language and Visual Assistant(LLaVA)のデモを行っている。この同じLMMは、Snapdragon X Eliteを搭載したWindows PCで実行出来る。

さらにQualcommは、AndroidスマートフォンでLow Rank Adaptation(LoRA)のデモも行った。Stable Diffusionを実行することで、ユーザーはスマートフォンで画像を生成することができ、LoRAは学習可能なパラメータの数を減らすことができる。MWCでは、Xiaomi、Oppo、およびHonorのスマートフォンで他のAI搭載機能が披露される予定です。PCでは、QualcommがSnapdragon X EliteとGIMPを搭載したWindowsマシンでStable Diffusionプラグインを使用してプログラム内から画像を生成するデモも行っている。

Qualcommの取り組みは、生成AIに関してWindows PCをより優れたものにすることを目的としており、7秒未満で画像を生成できるとしている。これらの機能はすべてQualcomm製のプラットフォームで実現されているが、コンシューマー向けデバイスに搭載されるかどうかは未知数だ。この技術は強力だが、Qualcommが過去にリリースしたプラットフォームでは、実際にユーザーが利用可能になる事がなくデモだけで終わる事もあったので、これが実用化される事が期待される。


Sources



この記事が面白かったら是非シェアをお願いします!


  • google Tensor
    次の記事

    Google、MWCでアクセシビリティと生産性の新機能を発表

    2024年2月26日 18:08
  • 前の記事

    AIスタートアップGroqがLLMを超高速で処理するLPUを発表、ほぼリアルタイムでのテキストを生成が可能に

    2024年2月26日 14:55
    groq chip
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事