最初のROCm 5.7サポートでは、Radeon 7900X、7900 XTX、W7900デスクトップ・グラフィックス・カードでPyTorchがサポートされました。
AMDは、RDNA3デスクトップ・グラフィックス・カードRadeon RX 7900 XT、7900 XTX、Radeon Pro 7900の3機種が、PyTorchとそのROCmソフトウェアによる機械学習開発をサポートすると発表した。
PyTorchはもともとMeta AIによって作られましたが、現在はLinux Foundationの一部となっています。
したがって、画像認識や言語処理アプリで使用される機械学習の一種であるディープラーニング・モデルを構築するためのオープンソースのフレームワークである。
それぞれのRDNA 3 Radeonグラフィックス・カードは、Ubuntu 22.04専用のAMD ROCm 5.7を活用しています。
AMDは、便利なガイドで詳細な手順を提供しています。
AMD ROCmメモリーのハードウェア要件
AMDは、ROCmをサポートするための前提条件のリストを用意しており、そのうちの1つは、2つの特定のAMD x670マザーボード（GigabyteのX670 Aorus Elite AXとAsus Prime X670-P WIFI）でiGPUを無効にすることを要求しています。
GPUチップの設計者は、2つのメモリ要件を推奨しています。
AMDが推奨するように、64GB RAMとGPUに24GB GPU VRAMを搭載したシステムが必要であり、最小メモリ要件は16Bシステムメモリと8GBビデオメモリです。
RX 7900 XT GPUは、20GB GDDR6メモリを搭載しており、これらの推奨要件に該当します。
一方、Radeon RX 7900 XTXは、推奨VRAM要件を満たしています。
Pro W7900ワークステーション・グラフィックス・カードは、48GB GDDR6チップをスタックしているため、この要件を上回っています。
AMD Radeon 7900 XTは、TSMC製の5nm Navi 31コアをベースにした168個のAIアクセラレーターを採用している。
数カ月前、AMDはROCm 5.6アップデートに、デスクトップ向けのRadeon RX 7950 XTX、7950 XT、7800 XT、7700 XT、7600 XT、7500 XT、ノートブック向けのRadeon RX 7600M XT、7600M、7700S、7600Sといった未発表のグラフィックカードをリストアップした。
そのため、これらのGPUが発表され、リリースされた場合、初日サポートが有効になる可能性が高い。
RX 7900 GREの不思議な扱い
技術的には、Radeon RX 7900 GREは160個のアクセラレータと16GBのビデオメモリを搭載している。
一方、Radeon RX 7900 GREは中国限定GPU（2023年がウサギ年であることからGolden Rabbit Edition）で、国内市場ではシステムインテグレーター経由でのみ購入可能である。
米国は中国で特定のAIアクセラレータ輸出を禁止している。
ROCmドライバがこの「Golden Rabbit」グラフィックカードで動作するかどうかは不明だ。
しばらく様子を見る必要がある。
もう一方の陣営では・・・
NvidiaもPyTorchをサポートしており、AMDと同様にDocker Engineが必要だ。
また、NvidiaのGPUドライバとContainer Toolkitも必要だ。PyTorchはNvidiaのTensorコアとAMDのAIアクセラレータの両方を活用する。
インテルもPyTorchをサポートしており、互換性のあるシステムでこれを有効にするための広範なドキュメントがある。
NvidiaもPyTorchをサポートしており、AMDと同様にDocker Engineが必要だ。
また、NvidiaのGPUドライバとContainer Toolkitも必要だ。PyTorchはNvidiaのTensorコアとAMDのAIアクセラレータの両方を活用する。
インテルもPyTorchをサポートしており、互換性のあるシステムでこれを有効にするための広範なドキュメントを用意している。
3つのグラフィックス・チップ・メーカーすべてにおける新しいサポート拡張は、多くの開発者が機械学習とAI開発を加速させるのに役立つだろう。
ハイエンドGPUを有効にすることで、これらのグラフィックスの価格が高くなるのかどうか、気になる人もいるかもしれない。
デスクトップ・グレードのグラフィック・カードがGPUクリプトマイニングなど他の目的に使用される場合、同様の傾向が見られるからだ。
ソース：Tom’s Hardware – AMD arms three of its gaming GPUs with PyTorch and ROCm support for AI development
解説：
ROCmがようやくRDNA3を正式サポート
正式サポートバージョンのROCm5.7.1がリリースされたのは2023/10/18ロンチなので、当サイトから見れば全然遅いニュースです。
どのような経緯でこのニュースが今頃出てきたのかちょっとわかりません。
正式サポートされたのはRX7900XT/XTXとPro W7900の三種となります。
正式と書いているのはROCm5.5から暫定サポートされているからです。
暫定サポートとは正式に動くことになっていなくても環境変数に特定の文字列を指定すれば動くということです。
後述する当サイト配布のセットアップスクリプトで上書きするwebui-user.shには以下のように追記してあります。
#Radeon VII
#HSA_OVERRIDE_GFX_VERSION=9.0.6#RX5700XT/RX5700/RX5500XT
#RX6950XT/RX6900XT/RX6800XT/RX6800
#RX6750XT/RX6700XT/RX6700/RX6650XT/RX6600XT/RX6600/RX6500XT/RX6400
#HSA_OVERRIDE_GFX_VERSION=10.3.0#RX7900XTX/RX7900XT(default)
HSA_OVERRIDE_GFX_VERSION=11.0.0#RX7800XT/RX7700XT/RX7600
#HSA_OVERRIDE_GFX_VERSION=11.0.1
Stable Diffusion WebUIの場合環境変数「HSA_OVERRIDE_GFX_VERSION」を上のように指定すればコメントアウトしてあるGPUで動作するはずです。(未確認)
RDNA1でもRDNA2のGFXバージョンを指定すれば動作する(未確認)と言われていますので、RDNA3ならば問題なく動くと思われます。
誤解する方はいないと思いますが、Windowsでは動きません。
OSはLinux、私の配布するスクリプトではUbuntuかLubuntuでなくてはいけません。
またWSL2では動作しません。
Ubuntuベースなら他のディストリビューションでも動くかもしれませんが、もちろん未確認です。
注意
これで一般向けのRadeonで正式にサポートされたのはRadeonVIIとRX7900XT/XTXの3種類となります。
誤解しないで頂きたいのはROCmは基本的にはゲーミング向けGPUは正式にサポートしていません。
しているのはRadeon ProやInstinctとRadeonVIIとRX7900XT/XTXだけとなります。
もちろん、他のRDNA2/3でも動きますが、環境変数を特定の文字列に書き換えたら動作はすると言うだけで、なんら保証があるわけではないということです。
このあたりはきちんと正式にサポートされているRTX4000シリーズとは違います。
世界最速でRX7900XTXでStable Diffusion WebUIに挑戦(ROCm 5.7正式版)セットアップスクリプト配布
上は当サイトで配布しているセットアップスクリプトの解説記事になります。
二回コマンドを実行するだけでクリーンインストールしたUbuntuにROCm5.7をインストールしてStable Diffusion WebUIをインストール・起動するところまでやってくれますので、興味のある方は是非チャンレジしてみてください。
テストはLubuntu22.4で行っています。
RDNA3が正式にサポートされるのはROCm6.0からと言われていましたが、5.7.1から正式にサポートされたのは驚きです。
まさかとは思いますが、「年内はROCm6.0は出せないよ」と言う意味ではないことを祈りたいです。
前からの噂ではRDNA3の正式サポートはROCm6.0からで、ROCm6.0とROCm5.7以前ではバイナリ互換性がなくなると言われていました。
ROCm5.5からROCm5.6では速度が上がったのでROCm6.0ではさらに速度が向上することを期待したいです。