AMD、Ryzen AIソフトウェア・プラットフォーム・バージョン0.8とWindows 11 OSを発表。
AMDによると、同社のRyzen AIハードウェア・エンジンを搭載したRyzen 7040シリーズ・アクセラレーテッド・プロセッシング・ユニットは、半年以上前から出荷されているが、それを利用するためのツールは公開されていなかった。
それが今週、AMDはRyzen AIソフトウェア・プラットフォームのバージョン0.8を公開した。
AMDのRyzen AI for Windowsは、Zen 4マイクロアーキテクチャに基づくRyzen 7040シリーズAPUに内蔵されたハードウェア・ユニットだ。AMDのVitis AIは、AI推論のための堅牢なツールセットを提供し、TensorFlow、PyTorch、ONNXなどの一般的なフレームワークとシームレスに統合します。
ハードウェア展開用にモデルを最適化するために、AMDは専用の量子化ツールを提供しています。
ONNXランタイムは、AMDデバイス上でのONNXモデルの効率的な実行を保証します。
合理化された開発体験のために、AMDは特定のフレームワークに合わせて設定済みのDockerコンテナを提供しています。
さらに、このプラットフォームは、Visual StudioやPythonなどの一般的な開発環境との統合をサポートしており、AI開発を容易にします。
AMDがRyzen AIをサポートするソフトウェアを掲載したことは、タイムリーなことだ: ライバルのインテルは今月、コードネーム「Meteor Lake」と呼ばれる第14世代Coreプロセッサを発表する予定だが、このCPUの特徴のひとつはAIアクセラレーションだ。
ブルーカンパニーのAIエンジンがそのままプログラムで動作するかどうかはまだわからないが、少なくとも一部のソフトウェア開発者は近い将来、AMDのRyzen AIエンジンを自社製品で使用できるようになるだろう。
AMDのRyzen XDNA AIエンジンは、オーディオ、写真、ビデオ処理など、より負荷の低いAI推論ワークロード向けに設計されたオンダイ・アクセラレーターだ。
オンライン・サービスよりも高速な応答時間を実現し、CPUやGPUベースのソリューションよりも電力効率に優れている。
このエンジンは、最大4つのAIストリームを同時に処理でき、INT8命令とbfloat16命令を処理する。AMDは、このエンジンはアップルのM2プロセッサーのニューラル・エンジンよりも高速だと主張している。
ソース:Tom's Hardware - AMD Posts Ryzen AI Software Platform Preview for Developers
解説:
漸くRyzen AIをサポートするソフトウェア環境のVer0.8が登場。
APUに搭載されているはずの「AIEを使用した何か」の話が全然出てこなかったのでどうしたものかと思っていたのですが、ようやく開発ツールがロンチされるようですね。
RVCのようなリアルタイム処理やローカル向けLLM、Stable Diffusionのような生成系AIを実行するにはかなり性能が不足しているとは思いますが、将来的にはAPUに搭載されている演算器だけで今のトップGPUに匹敵する速度が出せるようになるかもしれません。
この分野は1か月で全く状況が変わってしまうことがありますので、絶対にないと言い切れないのが怖いところです。
時を同じくしてIntelもCPUにVPUを搭載します。
この(x86の)CPUを巻き込んだ仕組みと言うのはnVIDIAが提供できないものなのでこれらが将来的にどのような結果をもたらすのかに関しては興味津々ですね。
もっとも今のところAIの主戦場と言うのはサーバー向けであり、クライアント向けはあまり存在感は発揮できないでしょう。
しかし、我々一般ユーザーが真っ先に振れることが出来のはクライアント向けPCでも実行できるソフトウェアであり、これらをキャッチアップしていくのはこれからどのような変化が起きるのかを知るのに重要なことだと思います。
今後もAI/MLのクライアント向けのセットアップスクリプトの配布は続けていきたいと思います。
AMDのGPU Radeonシリーズ
Radeon 7000シリーズ
Radeon RX 6000シリーズ
※ SAPPHIREはAMD Radeon専業のメーカーであり、Radeonのリファレンス的なメーカーです。