OpenAIのGPT-OSS 20Bおよび120B AIモデルのリリースに伴い、AMDはRyzen AI MAXおよびRadeon GPUが強化された機能によりこれらのモデルをフルサポートすることを発表しました。
AMDのRyzen AI MAX+ 395 APUは、OpenAIのGPT-OSS 120B AIモデルをネイティブに実行できる唯一のAIチップであり、Radeon GPUのサポートも発表されました。
昨日、OpenAIは2019年のGPT-2の後継となる、全く新しい2つのAIモデル、GPT-OSS 20BとGPT-OSS 120Bをリリースしました。
AMDは、Ryzen AI CPUとRadeon GPUがこれらのモデルをDay-0サポートし、LM Studioから試用できることを発表しました。
では、GPT-OSSとは何でしょうか？これは、複雑な推論やエージェント機能を処理するように設計されたオープンウェイトモデルです。
ほとんどのAI PCやAIチップは20Bモデルを処理できますが、120Bモデルはより多くのハードウェアリソースを必要とします。
そこでAMDのStrix HaloやRyzen AI MAXチップの出番です。
最大128GBのメモリプールを備えたこれらのチップは、このようなAIモデルをネイティブに処理できるように設計されています。
GGML変換されたMXFP4ウェイトは約61GBのVRAMを必要とし、AMD Ryzen AI Max+ 395プロセッサの96GB専用グラフィックメモリに無理なく収まります。
この機能を利用するには、AMD Software: Adrenalin Edition 25.8.1 WHQL以上のドライババージョンが必要です。
最大30トークン/秒の速度を誇るAMDのお客様は、データセンタークラスの最先端モデルを利用できるだけでなく、Ryzen AI Max+プラットフォームの帯域幅とOpenAI GPT-OSS 120BのMixture-of-Expertsアーキテクチャにより、非常に実用的なパフォーマンスを実現しています。
Ryzen AI Max+ 395（128GB）は大容量メモリを搭載しているため、このモデルでModel Context Protocol（MCP）実装もサポートしています。
AMD Ryzen AI 300シリーズプロセッサをお使いのお客様は、OpenAIのより小型の20Bモデルもフル活用できます。
OpenAI GPT-OSS 20Bモデルで超高速パフォーマンスを実現するには、デスクトップシステムでAMD Radeon 9070 XT 16GBグラフィックスカードを使用できます。
この構成は、超高速のトークン/秒を実現するだけでなく、TTFTにおいても驚異的な優位性を発揮します。
つまり、20B モデルでモデル コンテキスト プロトコル (MCP) 実装を利用するユーザーは、通常、計算が制限される状況でこの設定により、非常に応答性の高い TTFT パフォーマンスを実感できることになります。
OpenAIのGPT-OSS 120Bおよび20BモデルをAMD Ryzen AIプロセッサとRadeonグラフィックスカードで体験してください。
- AMD Software: Adrenalin Edition 25.8.1 WHQL以降のドライバーをダウンロードしてインストールしてください。古いドライバーではパフォーマンスが低下したり、サポートが受けられなかったりする場合がありますのでご注意ください。
- AMD Ryzen AI搭載マシンをお使いの場合は、デスクトップを右クリック > AMD Software: Adrenalin Edition > パフォーマンスタブ > チューニングタブ > 可変グラフィックスメモリ > 下記の仕様表に従ってVGMを設定してください。AMD Radeonグラフィックスカードをお使いの場合は、この手順を省略して続行できます。
- LM Studioをダウンロードしてインストールします。
- オンボーディングをスキップします。
- 検出タブ（虫眼鏡）に移動します。
- 「gpt-oss」を検索します。左側に「LM Studio community」というプレフィックスが付いたオプションが表示されます。 20Bまたは120Bのいずれか（下記の表でお使いの製品に対応する方）を選択してください。ダウンロードをクリックしてください。
- チャットタブに移動します。
- 上部のドロップダウンメニューをクリックし、OpenAIモデルを選択します。「パラメータを手動でロード」をクリックしてください。
- 「GPUオフロード」スライダーを最大まで上げます。設定を記憶するにチェックを入れてください。
- ロードをクリックしてください。120Bモデルをお使いの場合は、読み込みに時間がかかり、読み込みバーが停止しているように見える場合があります（ほとんどのSSDはバースト後に読み取り速度が低下しますが、これはメモリに移動するのに十分な容量のモデルです）。
- プロンプトを開始してください！
AMDはOpenAIのGPT-OSSモデルの製品サポートリストも公開しました。
Ryzen AI MAX+ 395は120Bモデルに対応できる唯一のチップですが、Radeon RX 9000、Radeon AI PRO R9000、Radeon RX 7000など、16GB以上のメモリを搭載したGPUは、GPT-OSS 20Bモデルを比較的容易に処理できます。
解説：
Ryzen AI MAX=Strix HaloでOpenAIのGPT-OSSの20Bと120Bモデルの実行が可能に。
LM Studio上から実行できるようになりました。
画像生成はAmuse、LLMはLM-StudioとRyzenやRadeonでWindowsで実行できる環境が整ってきたようです。
私自身はホビーAIerですが、やはりPythonやGit、Pytorchを使って実行する従来のスタイルにこだわっているのであまり魅力的に感じない話ですが、特に凝ったことをしないのであれば十分な環境だと思います。
ちょっとだけローカル生成AIを体験したいというライトユーザーには十分ですし、そういうユーザーが大半を占めるのではないでしょうか。
RyzenAIというネーミングやNPUが搭載されているのに使いどころがなかったことなど前々からの不満を解消するという点で、非常に有難い話だと思います。
このGPT-OSS-120BはGPT4-mini並みの性能があるようです。
前にあまり役に立たないと書きましたが、そこそこの実用性は担保されていると思います。
ただし、月額3000円程度で使えるChatGPTの有料プラント比較すると実用性が高いとは言えないので本当にローカルLLMに興味のある方向けですね。
クラウドLLMの場合は特別な金を払わなくても勝手にバージョンアップしてくれますからその点でも優れています。
ファインチューニングなどのローカルLLMの利点というものがもう少し手軽に利用できるようになれば良いのですが、今しばらく時間が必要だと思います。
アニメのキャラやタレントなどのファインチューニングが権利者にお金がわたる形で手軽に利用できるようになり、音声でやり取りできればあたかも本人と会話しているような感覚を得られると思います。
完成度の高い3Dアバターが用意されればなおよいでしょう。
これは非常に満足感が高いユーザー体験が得られるのではないでしょうか。
LLMをユーザーアシスタントとして使う最終的な姿だと思います。
AIキャバクラ(ホスト)をイメージしてみてください。
VRやMRを利用すればあなたの自宅で手軽に憧れのアイドルや推しのキャラクターに接待を受けることができるようになると思います。
こういう未来に徐々に近づいています。