最近実施された調査で、AIの専門家の多くがNVIDIAからAMD Instinct MI300X GPUへの乗り換えを検討していることが明らかになった。
AMDのInstinct MI300Xは、現在進行中のAI "ゴールドラッシュ "に参入するための入り口となるかもしれない。
TensorWaveで働くJeff Tatarchuk氏は最近、82人のエンジニアとAI専門家を対象に調査を行い、その約50％がAMD Instinct MI300X GPUの利用に自信を示していると述べた。
それとは別に、ジェフは、TensorWaveがMI300X AIアクセラレータを採用するとも述べている。
一般的に、同社のInstinctラインアップは、NVIDIAのような他社に比べて採用レベルが低いことを考えると、これはチーム・レッドにとってもう1つの有望なニュースである。
In a survey conducted recently among 82 engineers and AI professionals, it stated 50% of the respondents are actively considering using the AMD Instinct MI300X GPU.
The top three reasons for considering the AMD MI300X are availability, cost, and performance, in that order.
We… pic.twitter.com/ZckHBj6b20
— Jeff Tatarchuk (@jtatarchuk) March 8, 2024
MI300X Instinct AI GPUについて簡単に説明すると、CDNA 3アーキテクチャのみで設計されており、多くのことが行われている。
5nmと6nmのIPが混在し、最大1,530億トランジスタ（MI300X）を実現する。
MI300Xは、前モデルのMI250X（128GB）より50％多いHBM3容量を誇っている。以下は、NVIDIAのH100との比較である：
- 2.4倍のメモリ容量
- 1.6倍のメモリ帯域幅
- 1.3倍 fp8 演算性能
- 1.3倍 FP16演算性能
- 1v1比較でH100（Llama 2 70B）より最大20%高速
- 1v1比較でH100（FlashAttention 2）に対して最大20%高速
- 8v8サーバーでH100（Llama 2 70B）に対して最大40%高速
- 8v8サーバーでH100 (Bloom 176B)に対して最大60%高速化
先日、AMDのフラッグシップAIアクセラレーター「インスティンクト」が市場の競合他社に「頭痛の種」をもたらしていることをお伝えした。
というのも、MI300Xによる性能向上が非常に大きいだけでなく、NVIDIAが現在、受注残の「重み」から抜け出せず、新規顧客獲得の成長を妨げている中、AMDは完璧なタイミングでリリースしたからだ。
チーム・レッドは望んでいたようなスタートを切ることはできなかったが、これからの時期は、市場競争相手と真っ向からぶつかる可能性があり、同社にとって実り多いものになる可能性があるようだ。
解説：
市場でMI300A/Xの評価が高まっている
と元記事にはありますが、実際にはあまりにH100が手に入らないため、AMD製品で代替するしかないなというのが本当のところだと思います。
ハードウェア的には威勢の良い数字が並んでいますが、ROCm上でこれらの数字と同じ数字が出るのかはちょっと疑問ですね。
RX7900XTXも数字の上ではRTX4080より上です。
しかし、実際にStable Diffusion WebUIで使用するとRTX4070Tiより下の性能しかありません。
今まで否定的なことを書いてきましたが、実際、多くの企業から注目されるということはソフトウェアに関するサードパーティーの大規模な投資が集まってもおかしくはなく、朗報だと思います。
同業他社がなぜ来ないのかといえば、ROCmの1.9は2018年に公開されており、5年以上前からAI/MLやGPGPUへの投資を行っていたということになります。
最初はインストールして使えるところまでもっていくにも大変だったようですが、今はそれほど困難ではありません。
それは5年という下地があったからだと思います。
ソフトウェア環境は一朝一夕でどうにかなるものではなく、AMDの下地があって初めて十分ではなくてもnVIDIA製品に近接する性能が出せるのでしょう。
この勢いでコンシュマー向けのRadeonのソフト環境も整備されてほしいところですが、MI300や続くMI400のためにRDNA4の上位製品がキャンセルされる状況をみるとなかなかに厳しいのかなと思います。
経営判断のみでいえば、これほど市場から歓迎されていますので、AMDの判断は正しかったということが言えると思います。
もちろんゲーマー、ホビイストにとっては非常に残念な限りではありますが。
AMDのGPU Radeonシリーズ
Radeon 7000シリーズ
Radeon RX 6000シリーズ
※ SAPPHIREはAMD Radeon専業のメーカーであり、Radeonのリファレンス的なメーカーです。
