NVIDIA、2024年には最大200万台のH100 GPUを生産する可能性

masapoco
投稿日 2023年8月26日 16:25
nvidia gh200 grace hopper superchip platform

先日、NVIDIAは空前のAIブームの波に乗り、まさにゴールドラッシュで1人大量のスコップを売りさばいている同社は、データセンター向けコンピュートGPUで1四半期に100億ドル以上を稼いだばかりだが、この件に詳しい情報筋の話を引用したFinancial Timesの報道によると、その生産量を3倍にする計画のようだ。

この計画は非常に野心的であり、もしNVIDIAがこれを成功させ、人工知能(AI)やハイパフォーマンス・コンピューティング(HPC)アプリケーション向けのA100、H100、その他のコンピュートCPUの需要が好調を維持すれば、まさに同社にとって空前の好景気をもたらす可能性がある。

NVIDIAのフラッグシップGPUであるH100の需要は非常に高く、2024年までバックオーダーが積み上がっている状態のようだ。Financial Timesによると、2024年のH100出荷予測は150万〜200万個で、今年予想される50万個から大幅に増加すると、この件に詳しい情報筋からの話を引用している。

NVIDIAのCUDAフレームワークはAIとHPCワークロード向けに調整されているため、NVIDIAのコンピュートGPUでしか動作しないアプリケーションは何百とある。AWSとGoogleの両社は、AIのトレーニングや推論ワークロード用に独自のカスタムAIプロセッサーを持っているが、クライアントがNVIDIAのコンピュートGPUでアプリケーションを実行することを望むため、NVIDIAのコンピュートGPUを大量に購入しなければならない。

しかし、NVIDIA H100コンピュートGPU、GH200 Grace Hopperスーパーコンピューティング・プラットフォーム、およびその基盤製品の供給を増やすことは容易ではない。NVIDIAのGH100は複雑なプロセッサーで、製造はかなり難しい。出力を3倍にするためには、いくつかのボトルネックを取り除かなければならない。

まず、GH100コンピュートGPUは814mm2の巨大なシリコンであるため、大量生産はかなり難しい。現在、同製品の歩留まりはそれなりに高いと思われるが、NVIDIAがGH100ベースの製品の生産量を3倍にするには、TSMCから大量の4Nウェハー供給を確保する必要がある。大雑把に見積もっても、TSMCとNVIDIAが300mmウェハあたり最大65個のチップを供給できることになる。

このようなチップを200万個製造するには、約3万1,000枚のウェハーが必要になる。確かに可能ではあるが、TSMCの5nmクラスウェハーの総生産量(月産約15万枚)のごく一部である。この生産能力は現在、AMD CPU/GPU、Apple、NVIDIA、その他の企業で共有されている。

第2に、GH100はHBM2EまたはHBM3メモリに依存し、TSMCのCoWoSパッケージを使用するため、NVIDIAはこの面でも供給を確保する必要がある。現在、TSMCはCoWoSパッケージの需要を満たすのに苦労している。

第3に、H100ベースのデバイスはHBM2E、HBM3、またはHBM3Eメモリを使用するため、NvidiaはMicron、Samsung、SK hynixなどの企業から十分なHBMメモリパッケージを調達する必要がある。

最後に、NVIDIAのH100コンピュートカードまたはSXMモジュールはどこかにインストールされなければならないため、NVIDIAはパートナーもAIサーバーの出力を少なくとも3倍にする必要がある。

しかし、もしNVIDIAが必要なH100 GPUをすべて供給することができれば、NVIDIAは来年、この取り組みで巨額の利益を上げることができるだろう。


Sources



この記事が面白かったら是非シェアをお願いします!


  • Cyberpunk 2077 NVIDIA DLSS 3.5 6 1456x819 1
    次の記事

    NVIDIA DLSS 3.5 SDKがサポートドキュメントとともに公開

    2023年8月27日 6:40
  • 前の記事

    人間の“涙”で充電できるスマートコンタクトレンズ用の画期的なバッテリーが開発された

    2023年8月26日 15:52
    flexible battery for smart contact lenses

スポンサーリンク


この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事