コード移植」ライブラリとして有名なZLUDAが今、復活を遂げ、特にAIワークロード向けの「マルチGPU」互換性をサポートするために開発が進められている。
ZLUDAは現在、「匿名 」スポンサーの下で開発されており、AIコンピューティングを新たなレベルに引き上げる可能性が高い。
ZLUDAライブラリは数ヶ月前に話題になり、当初はNVIDIAのソフトウェアスタックでIntel GPUをサポートするために設計されたが、最終的にAMDがこのプロジェクトを担当し、複数の開発者とともに、境界を打ち破り、自社のAIハードウェア上でNVIDIAのCUDAにアクセスできるように成型した。
しかし、AMDは法的な懸念からプロジェクトの廃止を決定した。
Phoronixの新しいレポートによると、ZLUDAのオリジナル開発者であるAndrzej Janikは、ZLUDAが匿名のスポンサーの下で開発段階に戻ったことを発表した。
ZLUDAは現在、マルチGPUをサポートできるように調整中で、これはライブラリがAMDやNVIDIAのどのアーキテクチャとも互換性があることを意味する。
現在、ZLUDAはプロフェッショナル向けワークロードに最適化する代わりに、AI/MLワークロードにフォーカスしている。
これは、ZLUDAがLlama.cpp、PyTorch、TensorFlowなどのライブラリをサポートすることを意味し、特にNVIDIAのコードパスを他のGPUベンダーと互換性を持たせるために再構築することに重点を置いている。
関係する開発者はすでにAMDのRDNA GPUでもテストを開始しており、ZLUDAはROCm 6.1+コンピュートスタックのサポートとともに、RDNA1+アーキテクチャをサポートすると言われている。
現在、ライブラリが市場に復活する時期について、開発者のJanik氏は、ライブラリが形になるまで約1年かかると主張している。
このプロジェクトが成功すれば、AIソフトウェア・スタックに存在する排他的な境界線が崩れ、アーキテクチャが互いの能力を活用して最適な最終結果を得られるようになるかもしれない。
解説：
ZLUDAがマルチGPUをサポートするプロジェクトとして再始動
CUDA用のバイナリはNVIIDA製品以外をターゲットとするようにしてはならないという条項があり、ZLUDAはライセンス違反の可能性が高いことと、AMDが公式にライセンス違反としてZLUDAに警告しましたので、わたくしもZLUDAのセットアップスクリプトを放棄しました。
一応まだ配布はしていますが、メンテはしない方針です。
ZLUDAはRDNA1をサポートする予定とあります。
Radeonはついに公式にWindowsでもAI/ML用途に対応しました。
WSL2にて使用することが可能です。
しかし、サポートされているのはRDNA3の一部のモデルのみであり、オープンソースのプロジェクトに対して待ったをかけるならば、せめて同レベルのサポートは欲しいところです。
WSL2でもRDNA1からの対応を進めていただきたいところです。
生成AIのローカルアプリを使う方法は
- Windows上でネイティブな環境でpytorch、Tensor Flowなどを直接実行する方法
- WSL2用のバイナリを使う方法
- Intelの AI playgroundのような独自のアプリを使用する方法
一番簡単な方法は3番目の「Intelの AI playgroundのような独自のアプリを使用する方法」でしょう。
こちらは現在Intel製品のみですが、ぜひともできる限り簡単な方法で手軽にローカル生成AIアプリを使えるようにしていただきたいところです。
ROCmはドライバに密接に結びついた20GB前後のファイル群をインストールする大掛かりな仕組みです。
開発には莫大な労力がかかっていると思いますが、ぜひとも対応を進めていただきたいところです。
RDNA4からはラインナップがミドルレンジ以下となり、ローカルAIアプリとの親和性が落ちます。
こちらもROCmの対象になるのかどうかというのは気になるところですね。
ライセンス違反なので仕方ないですが、Radeonユーザーからすると、AIアプリにアクセスする方法の一つをつぶすなら公式での対応を拡充してほしいというのが本音(感情論)だと思います。
AMDのGPU Radeonシリーズ
Radeon 7000シリーズ
Radeon RX 6000シリーズ
※ SAPPHIREはAMD Radeon専業のメーカーであり、Radeonのリファレンス的なメーカーです。
