Intel、ウィンドウズ・コパイロットとAI PCプラットフォームの最低要件として40TOPSのNPU性能を提示

Intelは、WindowsベースのAI PCでマイクロソフトのCopilotをローカルに実行するために必要な計算性能を公開した。

マイクロソフトのCopilotをローカルで実行するには、少なくとも40 AI TOPSが必要であり、NPUはIntel、AMDおよび将来のWindowsベースPCにとって不可欠なコンポーネントとなる。

次世代CPUに統合されたIntelの専用ニューラル・プロセッシング・ユニットにより、AIエンジンをローカル・システムで実行する可能性がついに実現するかもしれない。

台北で開催されたIntelのAI SummitでのTom's HardwareによるQnAセッションで、マイクロソフトのCopilotがついにIntelのAI PC上で素朴に動作することが明らかになった。

これは、消費者によるAI PCの採用の時代を示すものであり、インテルのNPUタイルは、新しいPC標準の普及をさらに促進することになりそうだ。

しかし、NPUに40TOPSを要求する次世代AI PCへと進化していくでしょう。そのようなカテゴリーに入る次世代製品が登場する予定です。

そして、その次世代に行くにつれて、より多くのことをローカルで実行できるようになる。コパイロットを実行するように、コパイロットのより多くの要素がクライアント上でローカルに実行されるようになる。Copilotのすべてがローカルで実行されるわけではありませんが、NPUで実行される主要な機能の多くが表示されるようになるでしょう。

- インテルのクライアント・コンピューティング・グループ担当副社長Todd Lewellen（Tom's Hardwareより)

※　画像をクリックすると拡大します。

NPUの性能要件に最も近いのはAMDのHawk Point APUで、このAPUはNPUオンボードで約16TOPSを備えている。

同様に、インテルが最近リリースしたMeteor Lake SKUも要件に大きく遅れており、マイクロソフトのCopilotをローカルで実行することは、現在の消費者にとって問題であることを意味する。

しかし、クアルコムのSnapdragon X Elite SoCは、「Hexagon」NPUによって45 TOPSのパワーを提供することを約束しており、マイクロソフトの閾値を満たす可能性がある。

※　画像をクリックすると拡大します。

AMDやIntelの将来的なラインナップによって、NPU性能はその壁を超えることが予想されるが、現時点では、クアルコムが他社よりも5倍近いNPU性能を誇り、まさにリードしているように見える。

AI PCの時代はまさに目前に迫っており、メーカー各社はこの技術の能力を製品ラインナップに組み込むべくしのぎを削っている。

インテルはすでに、Lunar Lake CPUがMeteor Lake CPUの3倍のNPU AI性能を提供し、Panther Lakeはさらに2倍の演算性能を提供すると発表している。

AMDもまた、近日発売予定のStrix Point APUで3倍のAI NPU性能向上を提供する予定だ。

2024 AI PCプラットフォーム

ソース：wccftech - Intel Outlines 40 TOPS NPU Performance As Minimum Requirement For Windows Copilot & AI PC Platforms

解説：

Intelが内臓のNPUを使ってWindows Copilotを動かすとのこと。

NPUを何に使うのかと思っていましたが、当面の用途としてはLLM(Windows Copilot)を動かすようですね。

LLMというとどうしてもChatGPT4が先に立ってしまい、あまりにも巨大な仕組みを必要とするものという先入観がありますが、Windows CopilotのようにWindowsを使うユーザーのサポートに用途を限定すれば、ローカルで動かすのに十分ということなのでしょう。

一応同じGPT4を使っているはずですが、ローカルで本当に動かせるようになるのですかね。

ローカルで動かすと賢さが失われるなどでは無ければよいのですが・・・・(苦笑。

一応、CopilotにGPT4との性能の違いを聞いてみました。

ChatGPT4とWindows Copilotの性能の違いを教えてください。

Copilot
ChatGPT-4とWindows Copilotは、どちらもAIを活用したツールですが、異なる特徴と用途を持っています。

ChatGPT-4:

開発者: OpenAI（アメリカ）
特徴: 対話能力が高く、人間とのコミュニケーションを重視
用途: コーチング、アイデアの壁打ち、創作物の生成
言語モデル: GPT-4（無料版）またはGPT-4 Turbo（有料版）

Windows Copilot:

開発者: Microsoft
特徴: 検索エンジン「Bing」を利用した最新情報の収集
用途: 最新情報の取得、情報源の確認
言語モデル: GPT-4またはGPT-4 Turbo（無料版および有料版）
以下に、両者の違いを詳しく説明します。

目的と用途:

ChatGPT-4は文章の生成や翻訳、質問への応答を得意としています。チャット形式で自然言語で質問し、回答も自然な言葉で返します。創造的な分野を得意としています。
Windows Copilotはビジネスツールを補助し、生産性を上げることを目的としています。日々の作業を効率化させるために、メール文章の作成やグラフの作成、議事録の作成などをサポートします。

言語モデル:

両者は同じGPT-4を使用していますが、有料版と無料版で異なるモデルが利用可能です。
ChatGPT-4の無料版はGPT-3.5と1つ前のモデルのみ使用できます。有料版ではGPT-4またはGPT-4 Turboを使用可能です。
Windows Copilotは無料版でもGPT-4またはGPT-4 Turboを使うことができます。

機能:

ChatGPT-4はテキストのみのやり取りで、文章の生成や質問への回答に特化しています。
Windows CopilotはマルチモーダルなAI技術を使っており、テキスト以外にも画像や音声、動画などのデータを処理できます。例えば、チャット画面にお店の外観写真を貼り付けて「ここは何というお店ですか」と質問することも可能です。
料金体系:

ChatGPT-4の有料版はChatGPT Plusで、Windows Copilotの有料版はCopilot Proです。それぞれ対応しているサービスに違いがあります。
総括すると、両者は異なる目的と用途を持ち、無料版でも高性能のGPT-4を活用できる点が共通しています。12345

詳細情報
1 avepoint.com2 anakin.ai3 tokusengai.com4 note.com5 808hanablog.com+1 その他

 

自分で言っているのですから、間違いなのでしょう・・・などということはなく、外部のサイトからの情報をまとめて最後に引用という形で表示するようです。

Copilotを使い込んでいるわけではないので、どこまで使い物になるかはわたくしにはわかりませんが、昔のイルカくんよりは賢そうです。

少なくとも会話のやりとりで「お前を消す方法」と打ち込まれるほど邪魔な場所には表示されないです。(苦笑。

わたくしの期待していた答えは、パラメーター数、必要とされる処理速度、ローカルで実行する必然性、それによりどのくらいの生産性向上が期待されているかなどですが、やはり今一つパッとしない答えしか返ってきませんでした。

正直、サイトにある答えではなく、制作側が意図した仕様やどのように活用することを期待・想定しているのかが知りたかったです。

オフィシャルLLMなので、その程度のデータはあらかじめ持っていてほしかったところですね。

目的が違うことによって、どのように仕様が違うのかも知りたかったところです。

一応今回調べていくうちに「GPT for ALL」というローカル実行できるオフライン版が存在するようです。

しかし、オンラインとオフライン、どの程度の違いがあるのかまでははっきり書かれていませんでした。

この分野はまだまだこれからだなあと思います。

少なくとも今返ってくる答えに関しては、あまり必要性を感じないレベルのものでした。