NVIDIA、GPT-3 175B 大規模言語モデルにおける次世代GPU「B100 Blackwell」の性能を予告

次世代HPCアクセラレータの最初の「グラフ」を公開。

B100とGB200 GPUは標準的なグラフィックス・プロセッサーではなく、従来のグラフィックス機能の領域を超えています。

これらのデータセンター・アクセラレータは、現在、複雑なタスクを引き受け、特に大規模言語モデルに関する技術革新に拍車をかけています。

エヌビディアは、勢いが増すと予想しており、2024年に正当な市場シェアを確保することを目指している。

同社は、B100 GPUが来年発売されることを確認している。SuperComputing 2023 Special Addressの最新のスライドでは、以前は明確に確認されていなかったものの、Blackwellが本当に来年デビューすることが確認されている。

なお、Blackwell HPCのニュースは、このアーキテクチャのゲーミングバージョンの可能性には移らないはずだ。

これは、このアーキテクチャの初期世代であるGB100のみを指している。

NVIDIAは、B100がGPT-3モデルの推論を大幅に向上させ、1,780億のパラメータを提供することを明らかにしている。

この改善は、既存のH200アーキテクチャがすでに提供しているものより、2倍以上になる可能性があります。

しかし、このグラフが明示的にラージ・ランゲージ・モデル（LLM）性能を強調している一方で、コアと電力効率が大幅に向上しない限り、これは必ずしも同レベルの生の計算能力にはならないことを明確にすることが重要です。

さらにNVIDIAは、B100ではメモリ帯域幅がさらに向上すると断言している。

現在のHopper GPUはすでにHBM3eテクノロジーを採用しており、最大4.8TB/秒の帯域幅を提供している。

今後登場するBlackwellチップは、この技術を引き続き採用し、場合によってはスタックを追加して帯域幅を向上させると予想される。

NVIDIAは、今年のGH200 GPUにHBM3eを統合することで示したように、将来のメモリ技術サポートを念頭に置いてアーキテクチャを設計するというコミットメントを強調している。

NVIDIAは、潜在的なゲーミングBlackwellアーキテクチャに関する詳細について沈黙を守っている。

しかし、RTX 5000シリーズ用のGB20xチップの新シリーズの可能性を示唆する憶測もありますが、正確なリリース時期はまだ明らかにされていません。

「Blackwell」という名称は、ゲーム理論、確率論、情報理論への貢献で知られるアメリカの統計学者・数学者であるDavid Harold Blackwellに由来することは注目に値する。

ブラックウェル・アーキテクチャーの後継者はまだ決まっていない。

NVIDIA GPUアーキテクチャ