Qualcomm、”縮小”させたStable DiffusionでスマホでデスクトップPC並みの画像生成速度を実現する事に成功

masapoco
投稿日
2023年2月24日 6:29
stable diffusion images 2

昨年、大いに話題になった「Stable Diffusion」などのジェネレーティブAIによる画像生成は、スマートフォンアプリでも展開されていたが、これはクラウド上の強力なサーバーで動作していた。その処理は複雑な物で、通常はサーバーや強力なデスクトップマシンによる処理が必要な物だが、Qualcommが今回発表した物は、スマートフォンによるAI処理の新たな可能性を提示する物だ。同社は「Stable Diffusion」をスマートフォン上で動作するように改良し、強力なデスクトップマシンと同等の速度で動作させることが出来たと報告している。

Qualcommによると、Snapdragon 8 Gen 2によって、Stable Diffusionで512 x 512の猫画像の生成をわずか14.4秒で行う事に成功したとのことだ。2022年末、AppleはStable Diffusionを同社のCore MLフレームワーク上で動作させるための最適化をリリースしたが、現世代のiPhoneでは、画像の生成に1分程度かかっている。

この記録的な結果を実現したのは、最近の世代でAIに特化した強化が行われたHexagonデジタルシグナルプロセッサのおかげだ。

Qualcommのエンジニアは、量子化という手法でStable Diffusionのモデルを縮小し、スマートフォンでの実行に適したものにした。これは、FP32形式でリリースされたStable Diffusionのv1.5を元に、最新のAI研究を駆使してモデルをINT8(8ビットデータ空間)に圧縮するものである。これにより、Stable Diffusionモデルはモバイルハードウェア上でより効率的かつ高速に動作し、QualcommのAdaptive Roundingなどのテクノロジーにより、再トレーニングの必要なくモデルの精度を維持することができるようになった。

Qualcommは、これは「エッジAI」の始まりであり、私たちのパーソナルデバイスがクラウドに頼らずローカルでAIモデルを実行するのに十分なパワーを持つ時代の始まりであると述べている。Stable Diffusionのような大規模で高度なAIモデルを携帯電話で実行出来るようになることは、VR/ARヘッドセット、タブレット、ラップトップなど、同様のハードウェアを持つデバイスでも実行できることを意味する。

ただし、Qualcommは内部テスト用に今回のバージョンのStable Diffusionを作成し、公にリリースすることについては言及していない。


Source



この記事が面白かったら是非シェアをお願いします!


  • massive galaxies main
    次の記事

    ジェイムズ・ウェッブ宇宙望遠鏡の最新の発見は、現在の宇宙論を完全に覆す可能性がある

    2023年2月24日 6:46
  • 前の記事

    Google、「消しゴムマジック」ツールをiPhoneを含む全てのスマートフォンで利用可能に(有料)

    2023年2月24日 6:01
    1 Magic Eraser Header.width 1000.format webp
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事