AIスタートアップのExtropicが、GPU、CPU、TPUを凌駕する超伝導プロセッサーの開発を発表

masapoco
投稿日
2024年3月20日 11:27
extropic

AIスタートアップ「Extropic」はこれまでステルス・モードであったが、今回同社がAI処理用に“熱力学コンピューティング”によるAIアクセラレータのプロトタイプの開発と製造を行う事を明らかにした。Extropicの主張するこの新たなプロセッサーは、従来の”デジタルプロセッサー(CPU/GPU/TPU/FPGA)よりも何桁も高速でエネルギー効率に優れた”AIアクセラレーターの実現を可能にするとしている。

同社はまた、同社が構築しようとしているフルスタックの熱力学コンピューティングに基づくアック心的なアプローチを概説する簡単な論文も公開した。

Extropic社は、元Alphabet Xの量子研究者Guillaume Verdon氏が率いており、最近1410万ドルのシード資金調達ラウンドを終了している。

Extropicは、現在利用可能なデジタルプロセッサーはAIアクセラレーションに適していないと主張している。論文の中で、Extropic社は、パラメータ化された確率的アナログ回路の開発に裏打ちされた技術を構築している。別の言い方をすれば、これらの回路は、自然界に見られるランダム性を模倣することで、幅広いタスクを処理できる高度で調整可能な電子回路のようなもので、不確実性や予測を伴う複雑なコンピューティング・タスクに特に有用である。

スケーラブルであれば、これは従来のデジタル・コンピューティングとは一線を画すものである。

Extropicの「アクセラレーター」は、複雑なエネルギーランドスケープからのサンプリングを必要とするアルゴリズムの実行時間とエネルギー効率の大幅な改善を約束する。ブラウン運動の原理にインスパイアされたこの新しいクラスのアクセラレーターは、プログラム可能なランダム性を活用するという全く新たなアプローチに基づく物だ。

生成AIの急速な進歩は、コンピューティングパワーへの追求に拍車をかけているが、半導体の進歩は物理学的な限界により、実に袋小路に近付きつつある。Extropicは、トランジスタが原子サイズに近づき、熱雑音がデジタル演算を困難にするなど、この技術の物理的限界に近づきつつあることを指摘している。研究チームはこれを “ムーアの壁”と呼んでいる。

特に、消費電力の急増により、AIデータセンターには原子力発電所が必要とまで言われる今日、Extropic社は、計算能力とAIの拡張における持続可能性の追求には、前例のないインフラとエンジニアリングの大改革が必要だと報告している。

Extropicの論文は、生物学的システムの効率性にヒントを得た彼らの代替案を垣間見せるものだ。自然界では、コンピューティングは硬直的でもなく、デジタルのみでもない。むしろ、細胞内の化学反応ネットワークに内在するランダム性と離散的な相互作用によって繁栄している、と論文は述べている。この生物学的効率性は、従来のデジタル・ロジックの限界を超える可能性を示唆している。

Extropicのアプローチの中心は、エネルギー・ベース・モデル(EBM)で、熱力学と確率論的機械学習の交差点に位置する。これらのモデル、特に指数族は、最小限のデータで確率分布を効率的にパラメータ化する方法を提示する。これは、まれではあるがインパクトのある事象をモデル化し、高度なエントロピーと目標分布の正確な反映を可能にするために極めて重要である。

Extropicでは、低温で動作し、ジョセフソン効果を利用して非ガウス確率分布にアクセスするように設計された超伝導チップの技術的実力についても掘り下げている。下の画像は、最初のExtropicチップ・ニューロン・デザインの顕微鏡画像である。このチップはアルミニウムからナノ加工され、低温で動作するため超伝導になるという。この進歩は、これらのチップのエネルギー効率を強調するだけでなく、室温動作に適した半導体デバイスを通じて技術的な範囲を広げるというExtropic社のコミットメントを強調している。

論文によると「Extropicの超伝導チップは完全に受動的であり、その状態を測定または操作するときにのみエネルギーを消費する。このため、これらのニューロンは宇宙で最もエネルギー効率が高いと思われる。これらのシステムは、規模が大きくなるほどエネルギー効率が高くなります。Extropicはこれらのシステムで、政府、銀行、プライベート・クラウドなど、少量で高価値の顧客をターゲットにしている」とのことだ。

ハードウェアにとどまらず、Extropicは抽象的なEBM仕様と実用的なハードウェア制御の橋渡しをするソフトウェア層を構築している。この取り組みは、ディープラーニングに固有のメモリ制限を超越し、AIの境界を再定義しうるAIアクセラレーションの新時代を告げることを目指している。


論文

参考文献



この記事が面白かったら是非シェアをお願いします!


  • amd instinct mi300x
    次の記事

    AMD、まもなくAIチップ「MI300X」を大量出荷、市場の7%を確保する可能性が伝えられる

    2024年3月20日 16:12
  • 前の記事

    Ubisoft、NVIDIA、Inworld AIが協力し、AIを用いて人間と自然な会話を繰り広げられる「Neo NPC」を制作へ

    2024年3月20日 10:35
    UN Bloom Welcome 960x540
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事