マイニングと GPU の状況が繰り返しが回避できることを願っています。
中国の一部の地域では価格が GPU あたり 70,000 ドル (データセンターの H800 GPU の価格) を超えているため、GPU の需要が再び高まっていることは間違いなく、米国のコンピューティング業界のリーダーたちは、クラウドベースのGPUリソースが満杯で、GPUハードウェアの供給が今後1年間すべて予約されているとソーシャルメディアで訴えている。
厳しい時代には抜本的な対策が必要であり、家庭用デスクトップ PC に搭載されるべき GPU が、代わりに AI 業界のプレーヤーによって利用されているという証拠が見え始めています。
当然のことながら、ゲーマーや愛好家は、消費者向け GPU の供給を激減させたクリプトマイニングのブームが再び起こることを心配するでしょう。昔のマイニングの「兄弟たち」は、AI の「兄弟たち」に取って代わられ、私たちの貴重なゲーム用 GPU を奪い取られる運命なのでしょうか?
AI に焦点を当てた企業が消費者向け GPU を買い占めているという最初の確かな証拠は、象徴的な IT ハッカーであり起業家である George Hotz (別名 geohot) がツイートした自慢話から来ています。
AMDは（クアルコムとは異なり）チップを購入するのが楽しいです。 今日は 7.38 PFLOPS のコンピューティングが提供されましたが、さらにエクサフロップスが追加される予定です。ROCm GitHub でさらにアクティブになっているのを見るのはうれしいです。私たちは @__tinygrad__ より上のレイヤーに取り組んでいます。pic.twitter.com/5yE11TVA5FA
2023 年 8 月 1 日
上のツイートを拡大すると、現在 Comma AI と呼ばれる AI による自動運転支援ビジネスを率いている Hotz 氏が、AMD ゲーミング GPU のケースを買い占めていることについて話しているのがわかります。
この画像は、「7.38 PFLOPS のコンピューティング」と称される、部分的に展開された状態を示しています。
写真では XFX MERC 310 GPU がはっきりと確認でき、箱には「AMD Radeon RX 7900 XTX」と書かれています。
これは、AMD の主力コンシューマ GPU と、頻繁に更新されるまとめで 2023 年のゲーム向けベスト グラフィック カードの 2 位をベースにした XFX 設計です。
Hotz のステートメントと画像からの計算では、この「7.38 PFLOPS」バッチには 60 個の GPU が含まれています (FP16 パフォーマンスに基づく)。 これらの RX 7900 XTX カードの価格は、この記事の執筆時点で Amazon で 979.99 ドルです。
したがって、Hotz は、この控えめな GPU パワーのスタックに約 60,000 ドルをつぎ込んだようです。
Comma AI の創設者兼社長が「今後さらにエクサ FLOPS が起こる」と言っているように、これが単なる大海の一滴であることは明らかです。
参考までに、1 エクサ FLOPS は 1,000 ペタ FLOPS のパフォーマンスに相当します。
Hotz 氏が最大 7.38 エクサ FLOPS の GPU コンピューティング (最初のバッチの 1,000 x ) の購入を目指していると仮定すると、この消費者向けグラフィックス カードの買い占めに最大 6,000 万ドルの予算を計上した可能性があります。
あるいは、約 2 エクサ FLOPS の AI コンピューティングしか必要としない場合、おそらくわずか 2,000 万ドルしかかかりません。
上記の AMD GPU の購入に関する興味深い点は、特定の AI ワークロードが大量のメモリを使用する可能性があることです。
122.88 テラ FLOPS の FP16 数値処理能力「のみ」を搭載した AMD 7900 XTX に GPU ごとに 1,000 ドル近く支払うのは奇妙に思えるかもしれません。R
TX 4060 の価格が 300 ドルで、約 121 テラ FLOPS の FP16 コンピューティング (スパーシティあり) を提供できることを考えると、AMD GPU 3 倍の VRAM を提供します。
したがって、ワークロードにメモリが必要な場合、同じ 24 GB を取得するには 3 枚の RTX 4060 カードまたは 2 枚の RTX 4070 カードが必要になります。
さらに、これらすべての GPU を搭載するサーバーも必要になります。
George Hotz 氏のツイートされた声明は、GPU に対する AI 業界の需要が加熱しているという警告の兆候を初めて見たわけではありません。
数日前、中国における GPU の急速なインフレについて報告しました。
米国による対中追加制裁への懸念が、A800やH800 GPUなどのアクセラレータの価格高騰につながったと考えられる。
数週間前、差し迫った制裁への懸念から、A800の価格はほぼ一夜にして20％急騰した。
他の最近の指標を考慮すると、AI の台頭がコンピューティング中心の GPU の供給に大きな影響を与えていることが明確にわかります。
唯一の問題は、その飽くなき需要がどこまでゲーム用 GPU にも波及するかということだ。
ソース：Tom's Hardqare - Evidence Shows AI-Driven Companies Are Buying up Gaming GPUs
解説：
マイニングの悪夢が再びやっているのか？
今度はAIのサーバーでゲーミングGPUを買い集めているようです。
人気なのは意外なことにAMDの Radeon RX7900XTXです。
こちらは、24GBのメモリを搭載していることが理由です。
私もROCmのセットアップスクリプトを配布していますが、既に生成AIを使っている方はご存知と思いますが、生成AIは学習データ、1GB未満から8GB程度まで、をオンメモリに納めなくてはなりません。
そのため、メモリは最低8GB以上必須とされており、追加学習を行うならば最低16GBはあった方が良いとされています。
これがRTX4060の8GBよりRX7900XTXが重宝される理由でしょう。
本家のRadeon PRO W7900は48GBメモリですから、生成AI用途においてGPUのメモリ搭載量が如何に重要なのかがわかるのではないでしょうか。
今のところゲーミング市場にはGPUが残っており、マイニング企業のように露骨に店頭に出る前のGPUをかっさらっては言っていないようですが、そのうち影響が出るかもしれませんね。
皮肉なのはAI用途では優れているはずの「ケチケチVRAM」のGeforceがそのメモリ搭載量の少なさゆえに避けられているところです。(苦笑。
皮ジャンはビジネスチャンスを逃して歯噛みしているのか、それても無言でサーバーGPUの製造に切り替えているのでしょうか。
AMDのGPU Radeonシリーズ
Radeon 7000シリーズ
Radeon RX 6000シリーズ
※ SAPPHIREはAMD Radeon専業のメーカーであり、Radeonのリファレンス的なメーカーです。
