AMDはROCm 6.1ソフトウェア・スタックのリリースを準備しており、今回はサポート強化と広範な最適化変更が施されている。
AMDのROCm 6.1ソフトウェア・スタックは、開発が現在の軌道を維持し続ければ、NVIDIA CUDAを上回る可能性がある。
2023年12月には、AMDのAIアクセラレータInstinct MI300A/MIX300Xをサポートし、スタックの状態を改善するためにいくつかの変更を加えたROCm 6.0が登場した。
今回発表されたROCm 6.1も同様の内容となっている。
しかし、最新のアップデートには、製品の互換性の代わりに、AMDのAI製品のコンピューティング能力を強化するための新たな追加と修正が含まれている。
Phoronixによると、AMDはROCmソフトウェアスタック内で継続的なアップデートをプッシュしており、新しい反復のリリースが近いことを示唆している。
チーム・レッドは、オープンソースのディープラーニング・ライブラリ「MIOpen」に新機能を追加し、AIベースのパラメータ予測モデルといくつかの修正を含むようになった。
さらに、AMDのグラフ推論エンジンであるMIGraphXは、FP8をサポートし、Llama-2やStable Diffusion 2.1といったいくつかのLLMモデルのサポートを拡張した。
もうひとつのエキサイティングな進展は、AMDのHIP APIに加えられた変更である。
HIP APIは、ヘテロジニアス・コンピューティング・システム上でのコード・ポータビリティとプログラミングをターゲットとしている。
これは、AMD以外のプラットフォーム向けにAPIのバックエンド実装を提供することを目的とした、新しい「hipother」リポジトリが付属するようになった。
私たちは最近、ZLUDAを通じてCUDAライブラリがROCmプラットフォーム上で活用される、コード移植の機会を見た。
ヘテロジニアス・プログラミングは、ここ最近注目されてこなかったが、今後は変わるかもしれない。
AMDの関係者は、ROCmは大規模な言語モデルのトレーニングにおいてCUDAとソフトウェア的に同等に達しており、継続的なアップデートにより、このスタックを業界の競合他社と真っ向から競争するポジションに導くことができると述べている。
ソース：wccftech – AMD Preps For ROCm 6.1 Release, Now Coming With Enhanced Support & Features
解説：
何かよくわからないが凄い自信だ・・・・。
当サイトはROCmのエンドユーザー向けのセットアップスクリプトを公開している世界で唯一のサイトだと思います。
その立場から言わせてもらえれば、現時点でのROCmはCUDAと同等ではないです。
OSがLinuxであることがよくないのか、あまり認知が広がってないので、とりあえずRadeonもAI用途で使えるということを周知している段階ですが、その立場から言わせてもらえれば、こんなことぶち上げて大丈夫か？というのが本音です。
ROCmは非常にバージョンアップの早いソフトウェアです。
3-4か月に一回バージョンアップして、それまでとバイナリ互換性がなくなることもしばしばです。
ROCm5.7.3とROCm6.0はバイナリの互換性がなくなり、pytorch2.2.1以前のビルドはできなくなりました。
※ ソースを直せば動くと思われますが、もちろんそんなことをする人は誰もいません。
ROCm6.0以降で動くのは今のところPytorch2.3.0のみです。
画像生成AIを動作させるところまでをお手伝いしている立場から言うと、割と依存関係のエラーが出ている感じです。
pytorchもバージョンアップがそこそこ早いですから、これでも問題ないのかもしれません。
しかし、nVIDIAと比べるとサポートが充実しているとはとてもいいがたい状況です。
これでも昔と比較するとかなり改善されたとのことですが、昔はどれだけひどい状況だったのでしょう。
ちょっと想像つかないですね(苦笑。
今のところのRadeonの画像生成AI環境はあまり恵まれているとはいいがたいですが、AMDさんには何とか頑張っていただきたいところです。
ROCm6.1で何か変わるところがあるのか、わたくしも少し期待したいと思います。
でもおそらく、内部的に変わったとしてもユーザーに見える部分で変わることはあまりないんじゃないかと思います。
ROCm6.0も内部的にかなり変わったようですが、ユーザーの目に見える部分で変化したのはバイナリ互換性が失われて、gfx803のビルドターゲットがなくなっただけです。(苦笑。
ちなみにROCm6.0はgfx900=Vega10のビルドターゲットから保持していますが、内部的にはgfx803の互換性も持っているそうです。
そのため、rocmblasをオプションをつけてビルドしなおすとgfx803でも使えるよとredditで教えていただきましたが、依存関係がどうなるのかわかりませんし、さすがにそれを配布するわけにはいかないと思いますので、やはりわたくしの手にはちょっと余る感じです。
追加されるファイルを依存関係を解決しつつ、*.debパッケージで提供できるだけの技術があればよかったのかもしれませんが、申し訳ありませんがわたくしには無理です。
さらに言うと、旧モデルのGPUでは、サポートが切られた以後の新しい機能には対応していないようです。
使えたとしてもサポートされていた時までの機能にしか有効にならないようですね。
それでも使えないよりは全然マシですが。
ROCmのバージョンアップを皆が楽しみにするような状況になったらうれしいです。