ジェネレーティブAIの活況により、NVIDIA GPUの需要が供給を上回る可能性

masapoco
投稿日
2023年2月12日 15:30
nvidia rtx 4000

ChatGPTをはじめとする言語/画像/動画生成ツールは、AIの処理能力に大きく依存しているが、このAI関連の処理に強いGPUを提供しているのがNVIDIAだ。OpenAIは、増大するAI要件に対応するためにNVIDIAのGPUを活用している。だが、昨年から続くジェネレーティブAIの活況は、NVIDIAのGPU供給能力を上回る需要を呼ぶ可能性がある。

FierceElectronicsが報じたように、ChatGPT(Open.AIによるベータ版)はNVIDIAの1万個のGPUでトレーニングされていたが、リリース後の尋常ではない人気により、システムが過負荷になり、ユーザーの需要に応えられない程となった。これを無料で提供し続けることは、OpenAIとしても負担が大きく、このため、ピーク時でもサーバーへの一般的なアクセスを提供するだけでなく、より速いレスポンスタイムと新機能&改善への優先アクセスを実現する、新しいChatGPT Plusという有料のサブスクリプションプランを発表している。ChatGPT Plus のサブスクリプションは、月額 20 ドルで利用できる。

“ChatGPT”や他のディープラーニングモデルが、将来的に他のベンダーのGPUでトレーニングまたは実行される可能性はあります。しかし、現在、NVIDIA GPUは、その高い性能とCUDAのサポートにより、深層学習コミュニティで広く使用されています。CUDAは、NVIDIA社が開発した並列計算プラットフォームとプログラミングモデルで、NVIDIA GPU上で効率的に計算を行うことができます。TensorFlowやPyTorchなど、多くの深層学習ライブラリやフレームワークは、CUDAのサポートを内蔵しており、NVIDIA GPUに最適化されています。

FierceElectoronics

MicrosoftやGoogleなどの大手ハイテク企業も、ChatGPTのようなを検索エンジンに統合することを計画しているとForbesは報じている。Googleがこれをすべての検索クエリに組み込むには、512,820台のA100 HGXサーバーと合計4,102,568個のA100 GPUが必要となり、サーバーとネットワークのコストだけで1,000億ドル規模の設備投資になるはずとのことだ。

Googleが行うすべての検索に現在のChatGPTを導入するには、512,820.51台のA100 HGXサーバーと合計4,102,568個のA100 GPUが必要になります。これらのサーバーとネットワークの総コストが、設備投資だけで1,000億ドルを超え、そのうちNvidiaが多くの部分を受け取ることになる。もちろん、こんなことはあり得ないのだが、ソフトウェアやハードウェアの改良が行われないと仮定すれば、楽しい思考実験だ。

Semi Analysis

Investing.comによると、アナリストの予測では、BETAで使用されていた1万個のNVIDIA GPUに対して、現在のChatGPTのモデルは約2万5000個ほどのNVIDIA GPUで学習されているとのことです。

「GPT 5は現在25k GPU、つまり225ミリメートルほどのNVIDIAハードウェアで学習されており、推論コストは我々が見た数字よりもずっと低いと思われる」とアナリストは書いている。「さらに、推論コストの削減は、クラウドの巨人たちによる『検索コスト』論争を解決する上で重要な意味を持つだろう。」

Investing.com

これはNVIDIAにとっては良いニュースかも知れないが、消費者、特にゲーマーにとってはあまり良いニュースではない。もしNVIDIAがAI GPUビジネスに機会を見出したら、ゲーミングGPUの代わりにそちらに優先的に供給する可能性もある。ゲーミングGPUは、すでに今期、旧正月の影響で供給が制限されると伝えられており、在庫はまだあるものの、すでに品薄になっているハイエンドGPUにとっては問題となるかも知れない。さらに、ハイエンドGPUは、サーバーパーツとしてより高いAI機能をはるかに低価格で提供するものでもあり、ゲーマーからさらに供給を奪って有利な選択肢となる可能性がある。


Source



この記事が面白かったら是非シェアをお願いします!


  • Opera ChatGPT Integration
    次の記事

    Opera、ChatGPTを利用したWebページの要約機能をブラウザに搭載

    2023年2月13日 5:29
  • 前の記事

    『ホグワーツ・レガシー』RTX 4090でのプレイはDLSS 3とレイトレーシングにより印象的に見える

    2023年2月12日 13:05
    hogwarts legacy showcase ray tracing tweaks dlss3
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事