テンストレントは、RISC-Vアーキテクチャを採用し、スケーラビリティを飛躍的に向上させた最先端の高性能AIチップ「Wormhole」を発表した。
テンストレントがAI業界で大胆な声明を発表、ハイエンドのWormhole AIチップと専用ワークステーションを発表
テンストレントのCEOでチップの専門家であるジム・ケラー氏は、NVIDIAのようなAIハイプの動き方を批判しているのをよく見かけるが、彼の会社の新しいAIソリューションを考えると、一流のものであることが期待される。
テンストレントの新しいAIプロセッサーは、パワフルでありながら費用対効果の高いソリューションを消費者に提供することを目的としており、同時に拡張性も備えている。
AIチップだけでなく、テンストレントは新しいWormholeプラットフォーム専用のワークステーション・ソリューションも発表しており、潜在的な購入者に完全なパッケージを提供している。
テンストレントは、Wormhole AIチップをPCIeカードとして、Wormhole n150とWormhole n300の2種類の構成で提供することを決定した。
Wormhole n150には、72個のTensixコアを搭載したシングルプロセッサが搭載されている。
テンストレント社によると、各Tensixコアは「5つのRISC-Vベイビーコア」を搭載しており、スケーラビリティとマルチチップ開発をより効果的に行うことができる。
このプロセッサのTDPは160Wで、262TFLOPSのFP8性能を発揮する。興味深いことに、Wormhole n150アドインカードは、288GB/秒の帯域幅を持つ12GBのGDDR6メモリを搭載している。
Wormhole n300は、プロセッサーを2基搭載し、n150の2倍の演算能力と24GBのGDDR6メモリーを搭載していることを除けば、ほとんど変更点はない。
AIチップのWormholeのラインナップは、書類上では能力不足に見えるかもしれないが、テンストレントは、膨大なスケーラビリティを提供することで、AI製品の競争力を高めることを計画している。
つまり、複数のワームホール・プロセッサーは、統合されたパワーが必要なときに1つのユニットとして機能することもできるし、個別に利用することもできる。インターコネクトにイーサネットを使用しているため、ジム・ケラーは高く評価している。
TT-QuietBoxは、AMD EPYCプロセッサー、液冷、Wormhole n300 AIカード4xを搭載しており、合計8つのプロセッサーをオンボードで利用できる。
TT-LoudBoxは、インテルのXeonアーキテクチャと強化された仕様を搭載しているが、液冷を提供しないため、「LoudBox 」という名前になっている。
さて、価格についてだが、テンストレントのWormhole n150は999ドル、n300は1,399ドルで販売されており、市場の競合製品が提供する価格よりも驚異的に安い。
確かに、NVIDIAのAI GPU「H100」などの製品との性能差はかなり大きいが、AIチップがその1/10の価格で入手できることを考えれば、それだけの価値はある。
ワークステーションの場合、TT-LoudBoxは6,000ドル、TT-QuietBoxは1,500ドルで販売されている。
全体として、テンストレントの新製品は実に堅実で、AIスタートアップ企業や、低・中級のAIコンピューティング・パワーを予算内で探している個人にとって有益であることが証明されるだろう。
解説:
テンストレントがバックエンドサーバー向けAIアクセラレーターWormHole n150/n300を発表。
特に高性能というわけではなく、そこそこの性能に低発熱なプロセッサを接続できるようにしたもののようですね。
各接続はイーサネットで行うようですが、上にNVLINKのような端子が出ていることを考えるとローカルホスト内でも接続できそうな感じです。
スケーラビリティと書いてありますので、どちらかというと単体で使うというよりは大量に購入して相互に接続して性能を稼ぐタイプのプロセッサであるように見えます。
もしくはエントリーワークステーション向けの製品なのでしょう。
性能はFP8が262TFLOPSとのことです。
ちみなにPCIeのNVIDIA H100のFP8は3026TFLOPSです。
これがどのような用途を想定しているのかに関してはわたくしもAIサーバーに関しては素人なのでよくわかりませんが、あとはどのくらいの売れ行きなのかということですね。
テレンストレントは日本のRapidusで生産するとのことですから、これが第一号の製品なのかなと思います。
WormWholeを使ったトップの製品はこちらにあります。
WormWholeを32使い9322TFLOPS(FP8)、7.5KW、384GBのGDDR6です。
Galaxyというシリーズ名になるようですが、やはりかなりの数のボードを接続可能なようです。
少なくとも一般人が積極的に使うようなものではないですね。(苦笑