AIスタートアップ企業であるInflection AIは、22,000個のNVIDIA H100 GPUを搭載した最先端のスーパーコンピュータを構築している。

Inflection AIは、“すべての人のためのパーソナルAI”の実現を目指すAIスタートアップだ。同社は、最近発表したチャットボット「Pi」を動かすAIモデル「Inflection-1」で広く知られている。このAIモデルは、ChatGPTやグーグルのLaMDAモデルのレベルにはまだ達していないが、報告によると、Inflection-1は「常識的な」タスクで優れたパフォーマンスを発揮し、パーソナル・アシスタンスなどのアプリケーションに適しているという。

先日、Inflection社が世界最大級のAIベース・スーパーコンピューターを開発中であることが発表されたが、ついにその全貌が明らかになった。Inflectionのスーパーコンピューターには、22,000個のH100 GPUが搭載され、Intel Xeon CPUの4ノードラックが700個近く搭載されると報告されている。このスーパーコンピューターは、31メガワットという驚異的なパワーを利用することになる。

このスパコンに関する驚くべき事実は、22,000個のNVIDIA H100 GPUを搭載していることである。ここ数年、H100の需要は莫大で、NVIDIAが注文の殺到に対応できないため、1台でも入手するのが困難であることは周知の通りだ。Inflection AIの場合、NVIDIAは同社への出資を検討しており、そのため同社の場合、このような大量のGPUを手に入れることが容易になっているのだろう。

Inflection AIは、これまでにMicrosoftやNVIDIAらから約15億ドルの投資を集めており、現在の企業価値は40億ドルだという。このスーパーコンピューターによって、AIモデル「Inflection 1」は、特にコーディング作業において、同社が遅れているため、大幅に改善されることが期待される。

Source

• HardwareLUXX: Startup baut Supercomputer mit 22.000 H100-GPUs