CentMLがAIチップ不足に立ち向かう:最適化技術で新たな可能性を切り開く

masapoco
投稿日 2023年6月10日 15:51
centml

AIスタートアップのCentMLは、AI特需による世界的なGPU不足に対抗するため、マシンラーニングモデルを最適化し、より高速に動作させ、計算コストを削減することを目指している。

CentMLによれば、AI開発の最大の障害の一つは計算リソースへのアクセスだ。実際、推論ワークロードが加速するにつれてそのリソース不足は増加する一方なのはよく知られた所だろう。CentMLのアプローチは、現在のAIチップ供給と既存の在庫を拡大し、精度に影響を与えることがないとのことだ。

小規模企業がGPUにアクセスするのは困難

CentMLは、AIに特化したRadical Venturesが主導する2022年のシードラウンドで350万ドルを調達した。共同創設者でCEOのGennady Pekhimenko氏は、大規模言語モデルのサイズの軌道を見たとき、「ハードウェアとその上のソフトウェアスタックを所有している者が優位に立つことが明らかだった」と述べている。

しかし、NVIDIAは常に最も高価なチップ、例えば最新のA100やH100 GPUを販売したがっており、最低でも1万ドルもする高価なこれらは、小規模企業がアクセスするのを困難にしている。だが、実はNVIDIAにはあまりクローズアップされないが、安価なチップも存在する。Pekhimenko氏は、「私たちは、クラウドで利用可能な最も高価なものだけでなく、すべてのGPUで効率的にモデルを最適化するソフトウェアを開発しています」と述べている。つまり、AI処理に最適化された様なGPU以外によって、既存のパフォーマンスと同等のものを実現しようとしているのだ。

より効率的なAIチップへのアクセス

推論のコストが「指数関数的に」増加する中(ChatGPTのようなモデルは運用に何百万ドルもの費用がかかる)、CentMLは強力なオープンソースコンパイラを使用して、企業の特定の推論パイプラインとハードウェアに最適に動作するように最適化を自動的に調整する。

競合するOctoMLも、モデルのパフォーマンスを自動的に最大化するためのコンパイラ技術を基盤にしているが、これは古い技術です。「彼らのソリューションはクラウドでは競争力がありません。私たちはその欠点を知っていて、それらの欠点がない新しい技術を構築しました」とPekhimenko氏はVentureBeatに対して述べている。

Radical VenturesのパートナーであるDavid Katz氏は、AIチップへのアクセスを得るための競争がGame of Thronesのようになっていると述べている。彼は、「これらのモデル、そして大規模なモデルを動かすために必要な計算力に対する飽くなき欲求があります」とVentureBeatに語り、昨年RadicalがCentMLに投資したことを付け加えた。

CentMLの提供するものは、市場に「少しの効率性」をもたらす。さらに、複雑で10億以上のパラメータを持つモデルも既存のハードウェアで動作することを示している。「だから、同じ量のGPUが必要ないし、必ずしもA100が必要なわけではない」と彼は述べている。結果的に彼らのアプローチは、“市場のGPUを増やしている”と言えるだろう。


Source



この記事が面白かったら是非シェアをお願いします!


  • netflix
    次の記事

    Netflix、パスワード共有の禁止ポリシー導入後に米国において加入者数の顕著な伸びが確認された

    2023年6月10日 16:22
  • 前の記事

    NVIDIAのGPUを使って、量子アルゴリズムシミュレーションを行う事に成功

    2023年6月10日 14:39
    nvidia a100 gpu

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事