Tenstorrent heeft de TT-QuietBox 2 (Blackhole) geïntroduceerd, een vloeistofgekoeld AI-werkstation dat is ontworpen om modellen met maximaal 120 miljard parameters volledig op het bureaublad uit te voeren. Het systeem combineert een volledig open-source softwarestack met RISC-V-gebaseerde siliciumchips en wordt gepositioneerd als een inferentieplatform van teraflop-klasse dat geen racks, serverruimte of speciale stroomvoorziening vereist.
Inferentie als de primaire AI-werkbelasting
QuietBox 2 is gericht op ontwikkelaars en organisaties die directe controle over hun infrastructuur willen, inclusief inzicht in de siliciumarchitectuur op compiler- en runtime-niveau. Het is bedoeld voor on-premises implementaties in laboratoria, kantoren en kleine tot middelgrote bedrijven die behoefte hebben aan hoogwaardige inferentiemogelijkheden zonder over te stappen op een rack-schaaloplossing.
Jim Keller, CEO van Tenstorrent, omschreef de inspanning als een bewuste poging om een open, teraflop-klasse ontwikkelingssysteem te leveren dat geschikt is voor lab- of kantooromgevingen. Hij benadrukte dat het platform volledig open is, inclusief het mechanisch ontwerp. Keller heeft een indrukwekkende achtergrond, onder meer als architect voor AMD Zen, Apple A4/A5 en Tesla Full Self-Driving chips.
Voorgeïntegreerde workloads voor ontwikkelaars
QuietBox 2 wordt geleverd met een set echte workloads die direct kunnen worden ingezet in taal-, multimodale en wetenschappelijke domeinen.
Voor LLM's en programmeren draait GPT-OSS 120B volledig op het apparaat zelf, waardoor een compleet model met 120 miljard parameters lokaal beschikbaar blijft voor privé, lokale inferentie. Llama 3.1 70B haalt naar verluidt 476.5 tokens per seconde, een opmerkelijk cijfer voor interactieve workloads, code-ondersteuning en agent-pipelines. Qwen3-32B wordt gepresenteerd als een lokale codeeragent die in staat is om complete codebases te analyseren zonder beperkingen qua cloudtokens, wat mogelijkheden biedt voor offline ontwikkelcopilots en implementaties in omgevingen met beperkte resources.
Op het gebied van creativiteit en multimodaliteit zorgt Flux voor lokale beeldgeneratie, terwijl Wan 2.2 videosynthese op het apparaat zelf mogelijk maakt. Beide toepassingen houden mediabestanden en prompts lokaal, wat aantrekkelijk is voor teams met strikte eisen op het gebied van intellectueel eigendom en dataopslag.
Voor wetenschappelijk onderzoek richt het systeem zich op gespecialiseerde modellen zoals Boltz-2, een machine learning-workload voor biomoleculaire analyses. Tenstorrent meldt dat Boltz-2 de structuur van een eiwit met 686 aminozuren in 49 seconden voorspelt op een enkele Blackhole-processor, vergeleken met ongeveer 45 minuten op een moderne CPU. Dit resultaat plaatst QuietBox 2 qua prestaties op hetzelfde niveau als de beste workstation-GPU's, terwijl de focus ligt op kosten- en energie-efficiëntie. De mogelijkheid om vier eiwitstructuren parallel op één systeem te voorspellen, levert ongeveer vier keer de doorvoer van afzonderlijke taken op, wat relevant is voor laboratoria en biotechnologische workflows.
Voor modellen die niet in de vooraf geïnstalleerde catalogus staan, accepteert TT-Forge, de open-source AI-compiler van Tenstorrent, grafieken van PyTorch, ONNX, TensorFlow, JAX en PaddlePaddle en richt deze direct op de hardware. Het ontwerpprincipe is eenvoudig: als een model op een standaard framework draait, moet het mogelijk zijn om het te compileren en uit te voeren op QuietBox 2.
RISC-V silicium- en geheugenarchitectuur
Op hardwareniveau maakt de QuietBox 2 gebruik van vier Blackhole ASIC's die als een geïntegreerd netwerk werken in een compacte behuizing die op een bureau past. Samen leveren ze 480 Tensix-cores en een geclaimde rekenkracht van 2,654 TFLOPS bij BlockFP8-precisie, ondersteund door 128 GB GDDR6-geheugen met hoge snelheid en 256 GB DDR5-systeemgeheugen.
De architectuur integreert rekenkracht en SRAM met hoge dichtheid op één chip, volgens een dataflow-aanpak die prioriteit geeft aan efficiënte tensorverplaatsing door het on-chip geheugen. Door gebruik te maken van SRAM en GDDR6 is het systeem ontworpen om traditionele DRAM-bandbreedteknelpunten te omzeilen die de continue doorvoer op conventionele CPU- en GPU-platforms beperken. Tenstorrent vermijdt ook expliciet de afhankelijkheid van High-Bandwidth Memory (HBM); door geen HBM te gebruiken, is QuietBox 2 minder gevoelig voor de leverings- en prijsdruk die momenteel van invloed is op GPU-acceleratoren.
Het werkstation draait Ubuntu 24.04 en kan worden aangesloten op een standaard 120V-stopcontact, zonder dat er een aparte stroomvoorziening, racks of een beveiligde serverruimte nodig zijn. Deze configuratie sluit meer aan bij hoogwaardige professionele desktops dan bij datacenterhardware, hoewel de inferentieprestaties gericht zijn op toepassingen in racks.
Open source, van compiler tot kernel.
Een belangrijk ontwerpkenmerk van QuietBox 2 is dat de softwarestack volledig open source is. Tenstorrent promoot dit als volledige zichtbaarheid van de stack voor teams die het gedrag op elk niveau van het systeem moeten begrijpen en controleren.
TT-Forge biedt controle over grafiekoptimalisatie, transformatie en optimalisatieprocessen, en laat zien hoe modellen op de onderliggende hardware worden gemapt. TT-Metalium fungeert als de low-level AI SDK en biedt controle op kernelniveau en deterministische uitvoering voor ontwikkelaars die de prestaties willen optimaliseren of aangepaste operators willen implementeren. TT-LLK beheert de low-level kernelsoftware en biedt meer inzicht in hoe workloads op de Tensix-cores worden uitgevoerd.
Deze structuur stelt ontwikkelaars in staat de pipeline te inspecteren, van modelgrafiek tot kerneluitvoering, te debuggen op hardwareniveau, individuele componenten te forken of aan te passen en de stack aan te passen aan specifieke workloads. Voor gereguleerde sectoren, soevereine AI-initiatieven en onderzoeksinstellingen die moeten documenteren hoe de infrastructuur data beheert en modellen uitvoert, is dit niveau van transparantie een essentieel onderdeel van het platformaanbod in plaats van een optionele toevoeging.
QuietBox 2 wordt geleverd met Ubuntu 24.04 voorgeconfigureerd, samen met de volledige open-source stack en TT-Studio, de ontwikkelomgeving van Tenstorrent. Het doel is om het systeem direct bruikbaar te maken voor zowel experimenten als productiegerichte inferentie.
Stroomvoorziening, warmteontwikkeling en implementatie op het bureau
De tweede generatie QuietBox legt de nadruk op energiezuinigheid en geluidsisolatie. Tenstorrent meldt dat technische aanpassingen het stroomverbruik en de warmteontwikkeling in ruststand met ongeveer 50 procent hebben verminderd ten opzichte van eerdere generaties. De nieuwe vloeistofgekoelde behuizing is ontworpen voor een stille, continue werking onder zware belasting, bijvoorbeeld naast een bureau, in plaats van in een aparte apparatuurruimte.
Naast de hardwarewijzigingen heeft Tenstorrent de documentatie en ontwikkelaarstools uitgebreid om een snellere opstarttijd en een kortere tijd tot bruikbare prestaties te realiseren. Voor kleine en middelgrote bedrijven is de combinatie van een enkele 120V-aansluiting, vloeistofkoeling en een vooraf geïnstalleerde stack bedoeld om inferentiemogelijkheden van rackniveau te bieden zonder dat er extra serverruimtes of IT-personeel nodig zijn.
Beschikbaarheid
De TT-QuietBox 2 zal naar verwachting in het tweede kwartaal van 2026 wereldwijd beschikbaar komen, met een prijs vanaf $ 9,999. Geïnteresseerde organisaties kunnen zich aanmelden voor de wachtlijst via de website van Tenstorrent: www.tenstorrent.com/waitlist/tt-quietbox.
Amazon