3090は4090ほどパワフルではないが、同じ量のVRAMを搭載している
最近、中国の工場では、現在禁止されているGeForce RTX 4090をAIアクセラレータに解体している。
現在、旧世代のRTX 3090カードも俎上に載せられている。
暗号通貨ブームの際にGPUが最もホットな商品であったように、高速なAIハードウェアと大量のメモリを搭載したハイエンドのNvidia GPUは、米国が中国への輸出を厳しくする中でも、AIワークロードにとって理想的な選択肢となっている。
RTX 3090もまた、米国政府が中国への輸出を禁止しているGPUの長いリストに含まれているため、この動きは理にかなっているが、この目的のためにGPUを取り壊す工場側の自暴自棄(あるいは機知に富んだ)臭いがする。
RTX 3090(および3090 Ti)にも、この目的のためにRTX 4090と同じ24GBのVRAMが搭載されており、これはLLM(大規模言語モデル)にとって重要だ。
ゲーム性能では、RTX 4090はRTX 3090よりかなり速いが、AIモデルの中には、計算よりもメモリを必要とするものもある。
これらのGPUは特にブロワースタイルのカードに再利用されており、これには2つの大きな理由がある。
1つは、GPU用のブロワースタイルの筐体は、オリジナルのクーラーよりもはるかに小さいため、サーバーにより多くのGPUを同時に取り付けることができます。
しかし、設置面積を削減するだけでなく、オープンエアによるGPU冷却は、マルチGPUセットアップで特に問題となる周囲温度の上昇を招くため、ブロア式GPUクーラーは、マルチGPU使用シナリオでの使用に実際に適しています。
特に強力なGPUの場合、ブロワー式冷却には欠点がありますが、エンジニアリングの観点から、これはおそらく中国で輸出が禁止されている既存のRTX在庫の最良の使用例です。
しかし、ハイエンドGPUの価格への影響は回復に時間がかかるかもしれない。
解説:
今度はRTX3090もAIアクセラレーターに換装へ
先日、中国でRTX4090のメモリを(恐らくは48GBに)換装してAIアクセラレーターとして使用されている話を取り上げました。
今度は一世代前のフラッグシップRTX3090もAIアクセラレーターとして使用されているという話です。
元記事の写真ではRTX3090がブロワーファンに載せ替えられていますが、これは、スペースを取るコンシュマー向けのノーマルな冷却クーラーよりも多くのGPUをサーバーに搭載できるからのようです。
RTX3090はもう生産していないため、中古市場からの在庫が払底しそうな話です。
中国は人件費が上がったと言いますが、このような作業をしてペイするということは、極めて違法性の高い労働力を集めて作業しているのでしょうね。
中国らしい話です。