インテルはすでにタスクマネージャーをサポートしており、今度はAMDの番だ。
AMDは、同社のXDNAニューラル・プロセッシング・ユニット（NPU）のシステム・モニタリングが、マイクロソフトのコンピューター・ドライバー・モデルを通じて、Windowsタスク・マネージャーにまもなく提供されることを確認した。
現在、Windows 11はインテルの新CPU「Core Ultra Meteor Lake」に搭載されたNPUユニットしか監視できないが、このアップデートが来ればそれも変わるだろう。
正確なリリーススケジュールは明らかにされていないが、AMDはおそらくマイクロソフトの次のAIに焦点を当てたパッチであるWindows 11 24H2との統合を狙っていると考えるのが妥当だろう。
AMDは、Windows 11がAMDのXDNA NPUの使用率を監視できるように、MicrosoftのCompute Driver Model（MCDM）を使用する予定だ。MCDMは、Microsoft Windows Display Driver Model（WDDM）の派生モデルで、NPUのような計算専用のマイクロチッププロセッサー向けに特別に設計されている。
AMDによると、MCDMは、WindowsがCPUやGPUと同様に、電源管理やスケジューリングなど、NPUを管理することも可能にする。
これは、NPUの採用が拡大し、複数のプログラムがNPU上で同時に実行されようとする際に重要になるだろう。
AMDの実装がIntelの実装のような場合、タスクマネージャーは、NPUが使用しているメモリの総量と共有量とともに、NPUの計算とコピーの使用率を2つの別々のグラフで表示します。
これらの第一世代の実装には専用メモリがないため、システムRAMを共有することになります。
しかし、将来的にNPU専用メモリが実装されれば、タスクマネージャーはGPUと同様にそれを表示するはずだ。
AMDは、Task ManagerのNPUモニタリングは将来のコンピューティングにとって非常に重要であるとしている。
NPUモニタリングは、ソフトウェア開発を容易にするだけでなく、バッテリー寿命の最大化などユーザーデバイスの最適化を改善することができると考えている。
我々はNPUサポートの黎明期にいるが、多くのAI支援プログラムがこれらの新しいAIに特化したプロセッシング・ユニットで実行されるのを見ることができるだろう。
ニューラル・プロセッシング・ユニットの主な利点は、ローカライズされたハードウェア・アクセラレーション機能であり、（NvidiaがChat with RTXで実証したように）AIプログラムをローカル・マシン自体で実行できるようになる。
NPUはまた、インターネット接続がない環境や、インターネットサービスが不安定で信頼性の低い環境でもAIワークロードを実行できる。
AMDはすでに、XDNA2と名付けられた第2世代のNPUアーキテクチャを開発している。
最初の実装は2023年にAMDのRyzen 7040 Phoenix CPUでデビューし、10TOPS（INT8テラオプス）の性能を特徴としていた。
AMDのXDNA2バージョンは3倍高速で、より新しいRyzen 8040シリーズのStrix PointモバイルCPUに搭載されている。
AMDのデスクトップ向けRyzen 8000G APUもこのNPUを搭載しているが、これらはすべて、第1世代のXDNAチップを搭載したAMDの古いPhoenixアーキテクチャをベースにしている。
ソース：Tom’s Hardware – AMD confirms AI NPU monitoring is coming to Windows Task Manager
解説：
Ryzen APUに搭載のNPUシステムモニタリングがタスクマネージャで確認可能に
良いニュースだと思います。
現状、期待値だけが高く、実際には何をやるのかわからないNPUがどのような場面で動いているのかを視覚的に確認できるのは大きいでしょう。
大変革だそうですが、何が変わるのか具体的な用途で示されていないのはちょっとどうなのかと思います。
前からずっと同じことを言っていますが、やはりNPUを使った具体的な用途というのはまだはっきりしていません。
OpenAIが提供するような極めて高性能のLLMや画像生成AIや動画生成AIは現状300万円以上するようなデータセンターのサーバーに搭載されているAI/MLアクセラレーターが必須で、具体的にメリットを提示できるような用途ではクラウドサービスを利用するという選択肢になろうかと思います。
※ ローカルPCでやるならばゲーミングPCクラスのGPUが必要でしょう。
現状ではIntelもAMDも一般提供されるコマンドラインベースのStable Diffusionも公開されてない状態です。
もっと性能のハードルが高めのLLMはもっと難しいでしょう。
ほかにローカルPCで動かすAIタスクというのはわたくしの貧困な発想では思い浮かばないので、もし思い当たる方がいたら教えてください。
もっとIntelは2世代で5倍、AMDはRyzen7000UとRyzen8000UとではNPUの性能が60%程アップしています。
おそらく3世代後(3年後)には10倍くらいの性能になっている可能性もあるので、実用的に使えるようになる状況はすぐにやってくるかもしれません。
しかし、今あるNPUは3年後の製品の1/10の性能しかないわけで、これで世の中を変えるのは無理じゃないかなあと思います。(苦笑。
というわけで、今は黎明期の製品ですから、過剰な期待は3年後まで取っておきましょう。