Tenstorrent推出了TT-QuietBox 2(Blackhole),這是一款液冷式AI工作站,旨在完全在桌面上運行參數量高達120億的模型。該系統結合了完全開源的軟體堆疊和基於RISC-V的晶片,定位為無需機架、伺服器機房或專用電源的萬億次浮點運算級推理平台。
推理作為主要的人工智慧工作負載
QuietBox 2 的目標使用者是希望直接掌控自身基礎架構的開發者和組織,包括能夠從編譯器和執行時間層級了解晶片架構的使用者。它適用於實驗室、辦公室以及中小型企業等需要高端推理能力但又不想佔用機架級空間的本地部署環境。
Tenstorrent 執行長 Jim Keller 將這項舉措描述為旨在打造一個開放的、萬億次浮點運算等級的開發系統,該系統適用於實驗室或辦公環境。他強調,該平台從底層到底層,包括機械設計,都是完全開放的。 Keller 擁有令人矚目的資歷,曾擔任 AMD Zen、Apple A4/A5 和 Tesla 全自動駕駛晶片的架構師。
面向開發人員的預整合工作負載
QuietBox 2 附帶一系列真實的工作負載,可立即部署到語言、多模態和科學領域。
對於 LLM 和編碼,GPT-OSS 120B 完全在設備端運行,將一個完整的 120 億參數模型駐留在桌面,用於私密的本地推理。 Llama 3.1 70B 的運算速度為每秒 476.5 個 token,對於互動式工作負載、程式碼輔助和代理管線而言,這是一個顯著的數字。 Qwen3-32B 被描述為一個本地編碼代理,能夠推理整個程式碼庫,不受雲端 token 限制,為離線開發輔助和受限環境部署提供了途徑。
在創意和多模態方面,Flux 負責本地影像生成,而 Wan 2.2 則提供裝置端影片合成。這兩種用例都將媒體資源和提示資訊保留在本地,這對於有嚴格智慧財產權和資料駐留要求的團隊來說極具吸引力。
該系統針對科學研究,專門針對Boltz-2等生物分子機器學習工作負載等特定模型。 Tenstorrent報告稱,在單一Blackhole處理器上,Boltz-2只需49秒鐘即可預測一個686個氨基酸的蛋白質結構,而現代CPU則需要大約45分鐘。這項結果使QuietBox 2的性能與旗艦工作站GPU相媲美,同時兼顧了成本和能源效率。在單一系統上並行預測四個蛋白質結構的能力,使其吞吐量約為單一任務運行的4倍,這對於實驗室和生物技術工作流程至關重要。
對於預先安裝目錄以外的模型,Tenstorrent 的開源 AI 編譯器 TT-Forge 可接受來自 PyTorch、ONNX、TensorFlow、JAX 和 PaddlePaddle 的圖,並將其直接編譯到硬體上。其設計原則很簡單:如果一個模型可以在標準框架上運行,那麼它就應該能夠在 QuietBox 2 上編譯和運行。
RISC-V 矽和記憶體架構
在硬體層面,QuietBox 2 採用四顆 Blackhole ASIC 晶片,它們以統一的網狀結構整合在一個便於桌面使用的機箱內。這四顆晶片共提供 480 個 Tensix 核心,並聲稱在 BlockFP8 精度下可實現 2,654 TFLOPS 的運算能力,同時配備 128 GB GDDR6 高速記憶體和 256 GB DDR5 系統記憶體。
該架構將運算和高密度SRAM整合在單一晶片上,採用資料流方法,優先保證張量在片上記憶體中的高效傳輸。透過利用SRAM和GDDR6,該系統旨在規避傳統DRAM頻寬瓶頸,從而提高傳統CPU和GPU平台的持續吞吐量。 Tenstorrent也刻意避免依賴高頻寬記憶體(HBM);由於未使用HBM,QuietBox 2免受目前影響GPU級加速器的部分供應和價格壓力的影響。
此工作站運行Ubuntu 24.04作業系統,可直接插入標準的120V電源插座,無需專用電源、機架或受控的伺服器機房。這種配置使其更接近高端專業台式機,而非數據中心硬件,儘管其推理性能目標是滿足機架級應用場景的需求。
從編譯器到核心的開源
QuietBox 2 的核心設計理念之一是其軟體堆疊完全開源。 Tenstorrent 認為這能為需要了解和審核系統各個層級行為的團隊提供全端可見度。
TT-Forge 提供對圖降階、轉換和最佳化流程的控制,並公開模型如何對應到底層硬體。 TT-Metalium 作為底層 AI SDK,為需要調優效能或實作自訂運算子的開發人員提供核心層級控制和確定性執行。 TT-LLK 處理底層核心軟體,擴展了對工作負載在 Tensix 核心上執行方式的可見性。
這種結構允許開發者檢查從模型圖到核心執行的整個流程,在硬體邊界進行偵錯,創建或修改單一元件,並使堆疊適應特定的工作負載。對於受監管產業、主權人工智慧計畫以及必須記錄基礎設施如何管理資料和執行模型的研究機構而言,這種透明度是平台的核心組成部分,而非可選的附加功能。
QuietBox 2 預先安裝了 Ubuntu 24.04 作業系統,以及完整的開源軟體堆疊和 Tenstorrent 的開發環境 TT-Studio。其目標是使系統開箱即用,既可用於實驗,也可用於生產級推理。
電源、散熱和桌面部署
第二代 QuietBox 機殼著重提升了功耗和聲學效率。 Tenstorrent 公司表示,與前幾代產品相比,工程改進使待機功耗和發熱量降低了約 50%。這款全新的液冷機殼專為桌面環境而非專用機房而設計,可在高負載下實現安靜、持續的運作。
除了硬體的改進,Tenstorrent 還擴展了文件和開發者工具,旨在加快系統啟動速度,縮短達到可用性能所需的時間。對於中小型企業而言,單 120V 電源插座、液冷散熱和預裝堆疊的組合,旨在提供機架級推理能力,而無需增加伺服器機房建設或 IT 人員配置。
庫存情況
TT-QuietBox 2 預定於 2026 年第二季在全球發售,起價為 9,999 美元。有興趣的組織可以透過 Tenstorrent 的網站www.tenstorrent.com/waitlist/tt-quietbox加入候補名單。




Amazon