スマートフォンやノートPCに今後登場するCPUやAPUではAI処理に特化したNPUが搭載されるが、デスクトップでは先日AMDが発表したRyzen 8000Gで先行するが、IntelはまだArrow Lakeを出していない。
デスクトップPCでのAI処理はCPUとGPUで可能であり、NVIDIAのGPUが利用される傾向が高いためあまり優先順位が高くないのかも知れないが、AI処理に特化したNPUは電力効率においてはGPUを上回る。消費電力に関する懸念が従来から少ないデスクトップPCでの需要は少ないかも知れないが、個人用途は別として、ビジネスで大量に利用する企業ならば、その消費電力差は無視出来ない程大きくなるだろう。
CES 2024において、Lenovo ThinkCentre Neo UltraデスクトップPCで動作したMemryXのディスクリートAIアクセラレータ「MX3」は、そんな需要を喚起するかも知れない。
「現在我々が目にしているのは、ディスクリート・グラフィックスカードは、フォームファクターや消費電力、熱設計などの点であまりにハングリーだということです。5〜10ワット程度のNPUカードがあれば、一定レベルのAI機能を実現できます」と、Lenovoのプロダクトマネージャー、Bryan Lin氏はPCWorldのインタビューで語っている。
今後、IntelがArrow Lakeプロセッサを発売すれば、搭載されたNPUでデスクトップPCでの効率的なAI処理が可能になることが予想されるが、同氏はArrow LakeのAI機能はまだユーザーの需要を満たすには足りないと言う：「Arrow Lakeの場合、私が感じているのは、まだパワーが非常に限られているということです。ですから、少なくとも今から18～24カ月後には、ディスクリート（AIアクセラレーター）はまだその一部になっていると思います。特にデスクトップでは、バッテリーの制約がありません」。
ThinkCentre Neo Ultraは、最大64GBのDDR5-5200メモリーを搭載し、未公開アーキテクチャのIntel Core i9 vProプロセッサーを搭載する。また、クリエイタークラスのNVIDIA GeForce RTX 4060 GPU、最大4TBのSSDストレージ、350Wの内蔵電源が搭載される。筐体は3.6リットルで、サイズは7.67 x 7.67 x 4.21インチ。
加えて、Lenovoによれば“AIエンジン”と呼んでいるものを搭載しており、ワークロードを最も適した場所にルーティングするとLin氏は述べた。
ディスクリートAIアクセラレータ MemryX MX3
今回のLenovoのデモでは、MX3チップ4個がM.2 PCI ExpressカードにマウントされLenovo ThinkCentre Neo Ultraで動作されていた。USB 3.2 USBカードでも動作が可能だという。
MemryXの製品・事業開発担当副社長であるRoger Peene氏によると、MX3はデフォルトで、より一般的な指標である整数演算ではなく、16ビットの浮動小数点演算と8ビットのウェイトに設定されており、各MX3の処理能力を従来のTOPSではなく、10TFLOPS（1兆浮動小数点演算）と評価している。
「ディスクリート・ソリューションを使う機会があれば、IntelかAMDがそれを統合するまで、誰もがそれを使うだろう。ですので、Intelが遅れていることは誰もが知っている……彼らはマーケティングを強化している。彼らは明らかに、LenovoがPCでAIを実行するために新興企業を選んだことを快く思っていない。そういう話ですね」。
Peene氏によれば、各MX3の消費電力は平均1～2ワットだとは言う。このチップは、Linux、Android、Windowsのほか、TensorFlow、TensorFlow-lite、PyTorch、ONNX、Kerasフレームワークをサポートしている。
各チップは、必要に応じてスケーリングされた1,000万個の8ビットパラメーターを持つモデルを実行できる。MX3はすぐに、416×416、375fps（x2）のYOLO v7 tinyをプルーニングやトレーニングなしで、または1403fpsのSSDMobileNet（224×224）を実行できるという。
MemryXのAIチップは、まず画像認識のためのAIとして位置づけられており、MemryXのデモでは、建設作業員が適切な防護服を着ているかどうかを認識できることを披露している。だが、AIはもちろん画像認識だけではなく、ゲーム、アバター、現地語モデル／チャットボットなど、あらゆる目的に利用できる。
価格や発売時期などは未定だが、NVIDIAやIntel、AMDと言ったトッププレイヤーとは別の所で戦っているこうしたスタートアップのユニークな動きは興味深い。
Sources
コメントを残す