ジム・ケラー氏は、NVIDIAのBlackwell GPUについて興味深い提案をしており、同社は別のコスト効率の良いインターコネクト方式を利用すべきだったと主張している。
ジム・ケラー氏は、NVIDIAはBlackwell GPUアーキテクチャの研究開発コストを10億ドル削減できたと信じている。
TenstorrentのCEOであるJim Kellerは、技術製品に関する彼の見解が非常に面白いことで知られている。
最近、彼はNVIDIAのCUDAを沼地と呼んだ。
ジムは今回、チームグリーンのBlackwell GPUの研究開発予算を批判し、同社は単に相互接続方式を変更するだけで数十億ドルを節約できたはずだと主張した。
以下のXに関する彼のツイートで見ることができる：
— Jim Keller (@jimkxa) April 11, 2024
Blackwellインターコネクトに関して、NVIDIAは同社の第5世代「NVLINK」インターコネクト技術を利用している。
NVLINKは、帯域幅、レイテンシ、スケーラビリティの面で他の方式より大きな利点がある一方で、他のメーカーのハードウェアに対応できない「独自」であるため、遅れをとっている。
さらに、NVLINKの利用は業界の力学では高コストの動きと言われており、特にジム・ケラー氏は市場に対して「オープンソース」思想を推進しているため、これを批判しているが、NVLINKはここでは正反対である。
この場合、代替案はイーサネット相互接続である。イーサネットは、より費用対効果の高いオプションであり、NVLINKの専有状態を破壊し、最終的にはるかに優れたエコシステムを提供するが、性能の数値に関しては、イーサネットは、InfiniBandと組み合わせたチーム・グリーンのNVLINKに追いつくことを検討する必要がある。
しかし、まだ開発段階にある。
ジム・ケラー氏は、NVIDIAがBlackwellに費やした100億ドルという途方もない研究開発費は過剰であり、インターコネクトを変更するだけで大幅に削減できたはずだと考えている。
ジムは複数の企業、特にNVIDIAをネットで何度も批判しているが、Blackwellのコストは単に法外であるため、彼の主張はある程度実現可能であると思われる。
しかし、NVIDIAのBlackwell AI GPUのコストについてどう言われようとも、これらのチップの需要が非常に高く、インテルやAMDのような企業でさえ、Blackwellの発表によって加速しているNVIDIAの優位性を破るのに苦労していることは間違いない。
解説：
ジム・ケラー氏がNVIDIAを批判
Blackwellの開発費が高すぎるという話のようです。
確かにジム・ケラー氏は卓越した結果を出してきていますが、これはちょっとNVIDIAが気の毒かなと思います。
先頭を走っている人と後から追いかける人では見える景色は全く違うと思うからです。
ジム・ケラー氏は天才的な結果を出してきていますし、名前だけで半導体業界の名だたる人物が集まってくるくらいの人物ですから、NVIDIAの技術者ではできないことでも出来てしまうかもしれません。
外から見た結果論と中から見た意見というのは全く違うのでNVIDIAの反論というのも聞いてみたいものですが、おそらく、NVIDIAはこの種の批判には反応しないでしょう。
この投稿自体がジム・ケラー氏の戦略である可能性もあって、今から第一世代の製品を販売するまでにイメージを作っておきたいという思惑もあるのかもしれません。
つまりはポジショントークですね。
NVIIDA=暴利をむさぼる悪というイメージ付けと自社がAI/ML市場のホワイトナイトになるという演出をしたいのかもしれません。
ジム・ケラー氏のテンストレントの第一世代の製品が世に出れば彼の主張が正しいのか同課は判断できると思います。
今のところ後追いの製品として高く評価されたのは彼の古巣であるAMDのMI300シリーズだと思います。
こちらは製品の性能というよりは、AI/MLアクセラレーターが枯渇している中でいち早く製品を出すことができたという点を評価されてのものだと思います。
ROCmが「一番重要な製品」と位置付けて早くから投資をし続けてきたことが実を結んだ結果でしょう。
IntelのOneAPIは2022年の末に発表されたわけですから、2016年にVer1.0が公開されたROCmとは7年の開きがあるということになります。
後発のIntelやAMDのたどってきた道を振り返ると、ジム・ケラー氏の生み出す製品がどのようなポジションを狙ってくるのかは興味深いところです。
CUDAという土壌の上で育ってきたAI/MLの世界を自分の作った土壌に移すのは並大抵ではないと思います。
可能ならば、テンストレントの製品がホビー向けにも出てくれると嬉しいかなと思います。