Tenstorrent QuietBox 2がRISC-V AI推論をデスクトップにもたらします

by ハロルド・フリッツ on 2026 年 3 月 11 日

AI ◇ Enterprise

Tenstorrentは、最大120億個のパラメータを持つモデルをデスクトップ上で完全に実行できるように設計された液冷式AIワークステーション「TT-QuietBox 2（ブラックホール）」を発表しました。このシステムは、完全なオープンソースソフトウェアスタックとRISC-Vベースのシリコンを組み合わせたもので、ラック、サーバー室、専用電源を必要としないテラフロップ級の推論プラットフォームとして位置づけられています。

推論を主要なAIワークロードとする

QuietBox 2は、コンパイラレベルおよびランタイムレベルでのシリコンアーキテクチャの可視化など、インフラストラクチャを直接制御したい開発者や組織を対象としています。ラック規模の導入を必要とせずにハイエンドの推論機能を必要とする、ラボ、オフィス、中小企業などのオンプレミス環境への導入を想定しています。

TenstorrentのCEOであるジム・ケラー氏は、この取り組みを、ラボやオフィス環境に適したオープンなテラフロップ級開発システムを提供するための意図的な推進力であると説明し、機械設計を含むスタック全体がオープンなプラットフォームであることを強調した。ケラー氏は、AMD Zen、Apple A4/A5、Teslaの完全自動運転チップのアーキテクトを務めた経歴を持つ、輝かしい経歴の持ち主である。

開発者向け事前統合済みワークロード

QuietBox 2には、言語、マルチモーダル、科学といった分野にわたってすぐに展開できる、一連の実際のワークロードが付属しています。

LLMとコーディングに関しては、GPT-OSS 120Bは完全にデバイス上で動作し、120億パラメータの完全なモデルをデスク上に常駐させて、プライベートなローカル推論を行います。Llama 3.1 70Bは毎秒476.5トークンと報告されており、対話型ワークロード、コード支援、およびエージェントパイプラインにとって注目すべき数値です。Qwen3-32Bは、クラウドトークンの制限なしにコードベース全体を推論できるローカルコーディングエージェントとして提示されており、オフライン開発コパイロットと制約のある環境での展開への道を提供します。

クリエイティブおよびマルチモーダルな側面では、Fluxはローカルで画像生成を処理し、Wan 2.2はデバイス上でビデオ合成を実現します。どちらのユースケースもメディアアセットとプロンプトをオンプレミスに保持するため、厳格な知的財産権およびデータ所在地の要件を持つチームにとって魅力的なものとなるでしょう。

科学研究向けに、このシステムは生体分子機械学習ワークロードであるBoltz-2などの特殊なモデルを対象としています。Tenstorrentの報告によると、Boltz-2は単一のBlackholeプロセッサ上で686アミノ酸からなるタンパク質の構造を49秒で予測します。これは、最新のCPUで約45分かかるのと比較して大幅な改善です。この結果により、QuietBox 2はコストと電力効率を重視しながら、パフォーマンス面でフラッグシップワークステーションGPUと同等の性能を実現しています。単一システム上で4つのタンパク質構造を並列に予測できる機能は、単一ジョブ実行の約4倍のスループットを提供し、研究室やバイオテクノロジーのワークフローにとって大きなメリットとなります。

プリインストールされたカタログ以外のモデルについては、TenstorrentのオープンソースAIコンパイラであるTT-Forgeが、PyTorch、ONNX、TensorFlow、JAX、PaddlePaddleからのグラフを受け入れ、それらを直接ハードウェアにターゲット設定します。設計原理は単純明快です。標準的なフレームワーク上で動作するモデルであれば、QuietBox 2上でコンパイルして実行できるはずです。

RISC-Vシリコンおよびメモリアーキテクチャ

ハードウェアレベルでは、QuietBox 2は、デスクに置きやすい筐体内に、統合メッシュとして動作する4つのBlackhole ASICを採用しています。これらを組み合わせることで、合計480個のTensixコアと、BlockFP8精度で2,654TFLOPSの性能を実現し、128GBのGDDR6高速メモリと256GBのDDR5システムメモリによって支えられています。

このアーキテクチャは、演算処理と高密度SRAMを単一のダイに統合し、オンチップメモリを介した効率的なテンソル移動を優先するデータフロー方式を採用しています。SRAMとGDDR6を活用することで、従来のCPUおよびGPUプラットフォームで持続的なスループットを制限する従来のDRAM帯域幅のボトルネックを回避するように設計されています。Tenstorrentは、高帯域幅メモリ（HBM）への依存も意図的に避けています。HBMを使用しないことで、QuietBox 2は現在GPUクラスのアクセラレータに影響を与えている供給と価格の圧力の一部から保護されています。

このワークステーションはUbuntu 24.04を搭載し、標準的な120Vの壁コンセントに接続できるため、専用電源、ラック、または管理されたサーバー室は不要です。推論性能はラッククラスの用途を想定していますが、この構成はデータセンター向けハードウェアというよりは、ハイエンドのプロフェッショナル向けデスクトップに近いと言えます。

コンパイラからカーネルまでオープンソース

QuietBox 2の重要な設計ポイントは、ソフトウェアスタック全体がオープンソースであることです。Tenstorrentはこれを、システムのあらゆるレベルでの動作を理解し、監査する必要のあるチームにとって、フルスタックの可視性を実現するものとしてアピールしています。

TT-Forgeは、グラフの縮小、変換、最適化フローを制御し、モデルが基盤となるハードウェアにどのようにマッピングされるかを明らかにします。TT-Metaliumは低レベルのAI SDKとして機能し、パフォーマンスの調整やカスタム演算子の実装が必要な開発者向けに、カーネルレベルの制御と決定論的な実行を提供します。TT-LLKは低レベルのカーネルソフトウェアを処理し、ワークロードがTensixコア上でどのように実行されるかについての可視性を高めます。

この構造により、開発者はモデルグラフからカーネル実行までのパイプラインを検査し、ハードウェア境界でデバッグを行い、個々のコンポーネントをフォークまたは変更し、スタックを特殊なワークロードに合わせて調整することができます。規制対象業界、国家AIイニシアチブ、インフラストラクチャがデータをどのように管理し、モデルを実行するかを文書化する必要がある研究機関にとって、このレベルの透明性はオプションの追加機能ではなく、プラットフォーム提案の中核を成す要素です。

QuietBox 2には、Ubuntu 24.04がプリインストールされた状態で出荷され、完全なオープンソーススタックとTenstorrentの開発環境であるTT-Studioも同梱されています。このシステムの目的は、実験用途と本番環境レベルの推論の両方で、すぐに使用できる状態にすることです。

電力、熱、およびデスクサイドでの展開

第2世代のQuietBoxは、電力効率と静音性を重視しています。Tenstorrentによると、設計変更により、アイドル時の消費電力と発熱量が従来モデルに比べて約50%削減されたとのことです。新しい液冷式シャーシは、専用の機器室ではなく、デスクサイドで高負荷時でも静かで安定した動作を実現するように設計されています。

Tenstorrentは、ハードウェアの変更に加え、より迅速な立ち上げと実用化までの時間短縮を目指し、ドキュメントと開発者ツールを拡充しました。中小企業向けには、120V電源プラグ1つ、液冷システム、プリインストールされたスタックの組み合わせにより、サーバー室の増設やIT担当者の増員なしに、ラッククラスの推論機能を提供することを意図しています。