Meta社は、nVIDIAの最先端アクセラレータを通じてAIに特化した開発に秀でることを意図し、2つの新しいデータセンター・クラスタを明らかにした。
NVIDIAのAI GPU「H100」を使って大規模な開発を計画するMetaのAIコンピュートパワーの増強は続く
マーク・ザッカーバーグのMeta AIベンチャーは、生成AIに次ぐAGIの分野で急速な開発を進め、新たな高みに到達した。
Datacenter Dynamicsが報じたように、最適なコンピューティング・パワーを達成するため、メタ社は音声認識や画像認識といった消費者向けアプリケーションにおけるAI研究とLLM開発を唯一の目的として、2つの新しいデータセンター・クラスターを開発した。
同社は、nVIDIAのH100 AI GPUを統合することを決定し、両クラスタには24,576ユニットが搭載されている。
もう一方のクラスタは、NVIDIAのQuantum2 InfiniBandファブリックを搭載し、シームレスな相互接続を実現している。
さらに、これらのクラスターはメタ独自のオープンGPU Grand Teton AIプラットフォーム上に構築されており、ホストからGPUへの帯域幅と計算能力を向上させることで、現代のアクセラレーターに存在する能力を活用できるように構築されている。
将来を見据えたとき、昨日や今日うまくいったことが明日のニーズには十分でない可能性があることを私たちは認識しています。そのため私たちは、物理レイヤーや仮想レイヤーからソフトウェア・レイヤー、そしてそれ以上に至るまで、インフラのあらゆる側面を常に評価し、改善しています。私たちの目標は、急速に進化する新しいモデルや研究をサポートするために、柔軟で信頼性の高いシステムを作ることです。
– メタのブログ記事
メタ社の2つの新しいクラスターは、競合他社よりも大規模なAIコンピューティング能力を持つリーディング・フォースになるという同社の計画の一部である。
nVIDIAのH100sの統合は、今年末までにこれらのAI GPUを35万個採用し、合計60万個のH100sをバッグに入れるという計画の下で行われた。
これは間違いなく、この技術がここ数年で大量に採用されているAIの時代を前進させるための、同社による「筋金入り」のコミットメントである。
そして、その様子から察するに、メタ社はAIインフラを急速に成長させ、次世代コンポーネントで進化させる計画を持っているようだ。
ソース：wccftech – Meta Develops A Duo of “AI-Focused” Data Centers, Equipped With 24,000 NVIDIA H100 GPUs
解説：
Meta社が24,000のH100をデータセンターに導入
わざわざこの話題を取り上げたのは今何が起きているのかということを知ってほしいからです。
前々からデータセンターには最低でも数千、万単位のnVIDIA製GPUが導入されていると書きましたが、それを裏付ける話です。
このような大規模な投資をしているわけですから、GPUなどいくらあっても足りないわけです。
RTX5090がベンチャーやスタートアップの標的にされ、ゲーマーの手に渡らないのではないかと心配しているのも、RDNA4のNavi41/42がキャンセルされるのもこのような状況を反映してのものです。
Navi41/42が使う予定(と推測されている)のTSMC3nmはMI400シリーズに使うのでしょう。
おそらく、Navi43から型落ちの5nmか6nmを使う予定なのでしょうから、Navi43だけは無事だったということになります。
コスパなどという言葉を乱発して1円でも安く買おうとする貧乏くさいゲーマーを相手にするより、予定分をキャンセルしてでも高値で買ってくれるデータセンター向けの製品を作ったほうが利益が出るという経営判断なのでしょう。
とても合理的だとは思いますが、ゲーマーとしては残念です。
さて、容量がおおいnVIDIAに関してはこのような話は当然出ていませんが、その分、市場に投入される最新のフラッグシップであるRTX5090にこれらデータセンター向けのGPUが回ってこない、回ってきても高くて買えないと思っている弱小法人ユーザーが群がるのではないかとわたくしは予想しています。
原因はあまりに大きなAI/ML需要に対して製品が全く足りてないことだと思います。
2024年中には解消できないでしょう。
ここ数年でIntel/nVIDIA/AMD以外で製品を投入できる企業もほとんどないのではないかと思います。
RTX5090を狙っているユーザーは早めに行動を起こしたほうがよいでしょう。