メタ社、24,000個のNVIDIA H100 GPUを搭載した「AIに特化した」データセンターのデュオを開発

Meta社は、nVIDIAの最先端アクセラレータを通じてAIに特化した開発に秀でることを意図し、2つの新しいデータセンター・クラスタを明らかにした。

NVIDIAのAI GPU「H100」を使って大規模な開発を計画するMetaのAIコンピュートパワーの増強は続く

マーク・ザッカーバーグのMeta AIベンチャーは、生成AIに次ぐAGIの分野で急速な開発を進め、新たな高みに到達した。

Datacenter Dynamicsが報じたように、最適なコンピューティング・パワーを達成するため、メタ社は音声認識や画像認識といった消費者向けアプリケーションにおけるAI研究とLLM開発を唯一の目的として、2つの新しいデータセンター・クラスターを開発した。

同社は、nVIDIAのH100 AI GPUを統合することを決定し、両クラスタには24,576ユニットが搭載されている。

もう一方のクラスタは、NVIDIAのQuantum2 InfiniBandファブリックを搭載し、シームレスな相互接続を実現している。

さらに、これらのクラスターはメタ独自のオープンGPU Grand Teton AIプラットフォーム上に構築されており、ホストからGPUへの帯域幅と計算能力を向上させることで、現代のアクセラレーターに存在する能力を活用できるように構築されている。

将来を見据えたとき、昨日や今日うまくいったことが明日のニーズには十分でない可能性があることを私たちは認識しています。そのため私たちは、物理レイヤーや仮想レイヤーからソフトウェア・レイヤー、そしてそれ以上に至るまで、インフラのあらゆる側面を常に評価し、改善しています。私たちの目標は、急速に進化する新しいモデルや研究をサポートするために、柔軟で信頼性の高いシステムを作ることです。
- メタのブログ記事

メタ社の2つの新しいクラスターは、競合他社よりも大規模なAIコンピューティング能力を持つリーディング・フォースになるという同社の計画の一部である。

nVIDIAのH100sの統合は、今年末までにこれらのAI GPUを35万個採用し、合計60万個のH100sをバッグに入れるという計画の下で行われた。

これは間違いなく、この技術がここ数年で大量に採用されているAIの時代を前進させるための、同社による「筋金入り」のコミットメントである。

そして、その様子から察するに、メタ社はAIインフラを急速に成長させ、次世代コンポーネントで進化させる計画を持っているようだ。

ソース：wccftech - Meta Develops A Duo of “AI-Focused” Data Centers, Equipped With 24,000 NVIDIA H100 GPUs

解説：

Meta社が24,000のH100をデータセンターに導入

わざわざこの話題を取り上げたのは今何が起きているのかということを知ってほしいからです。

前々からデータセンターには最低でも数千、万単位のnVIDIA製GPUが導入されていると書きましたが、それを裏付ける話です。

このような大規模な投資をしているわけですから、GPUなどいくらあっても足りないわけです。

RTX5090がベンチャーやスタートアップの標的にされ、ゲーマーの手に渡らないのではないかと心配しているのも、RDNA4のNavi41/42がキャンセルされるのもこのような状況を反映してのものです。

Navi41/42が使う予定(と推測されている)のTSMC3nmはMI400シリーズに使うのでしょう。