StorageReview.com

Tenstorrent QuietBox 2 přináší inferenci umělé inteligence RISC-V na stolní počítače

AI  ◇  Enterprise

Společnost Tenstorrent představila TT-QuietBox 2 (Blackhole), kapalinou chlazenou pracovní stanici s umělou inteligencí, která je navržena pro spouštění modelů s až 120 miliardami parametrů výhradně na počítači. Systém kombinuje plně open-source softwarový stack s křemíkem založeným na RISC-V a je pozicionován jako inferenční platforma třídy teraflopů, která nevyžaduje racky, serverovnu ani specializované napájení.

Inference jako primární pracovní zátěž umělé inteligence

QuietBox 2 je určen pro vývojáře a organizace, které chtějí mít přímou kontrolu nad svou infrastrukturou, včetně přehledu o křemíkové architektuře na úrovni kompilátoru a běhového prostředí. Je určen pro lokální nasazení v laboratořích, kancelářích a malých a středních firmách, které potřebují špičkové inferenční funkce, aniž by musely přecházet na rackové systémy.

Generální ředitel společnosti Tenstorrent Jim Keller charakterizoval toto úsilí jako záměrný tlak na vytvoření otevřeného vývojového systému s teraflopovou kapacitou vhodného pro laboratorní nebo kancelářské prostředí a zdůraznil, že platforma je otevřená v celém rozsahu, včetně mechanického návrhu. Keller má působivé zkušenosti, včetně práce architekta pro čipy AMD Zen, Apple A4/A5 a Tesla Full Self-Driving.

Předintegrované úlohy pro vývojáře

QuietBox 2 je dodáván se sadou reálných úloh, které lze okamžitě nasadit napříč jazykovými, multimodálními a vědeckými doménami.

Pro LLM a kódování běží GPT‑OSS 120B výhradně na zařízení a uchovává na stole kompletní model se 120 miliardami parametrů pro soukromé, lokální inference. Llama 3.1 70B dosahuje rychlosti 476.5 tokenů za sekundu, což je pozoruhodné číslo pro interaktivní úlohy, kódovou asistenci a agentní pipeline. Qwen3‑32B je prezentován jako lokální kódovací agent schopný procházet celými kódovými bázemi bez omezení cloudových tokenů, což poskytuje cestu pro offline vývojové kopiloty a nasazení v omezeném prostředí.

Tenstorrent QuiteBox 2 vpravo

Z kreativního a multimodálního hlediska se Flux stará o generování obrázků lokálně, zatímco Wan 2.2 poskytuje syntézu videa přímo na zařízení. Oba případy použití uchovávají mediální zdroje a výzvy k vyřízení na místě, což osloví týmy s přísnými požadavky na IP adresy a umístění dat.

Pro vědecký výzkum se systém zaměřuje na specializované modely, jako je Boltz‑2, biomolekulární strojové učení. Tenstorrent uvádí, že Boltz‑2 předpovídá strukturu proteinu o 686 aminokyselinách za 49 sekund na jediném procesoru Blackhole, ve srovnání se zhruba 45 minutami na moderním CPU. Tento výsledek srovnává QuietBox 2 s vlajkovými grafickými procesory pracovních stanic co do výkonu a zároveň se zaměřuje na náklady a energetickou účinnost. Schopnost předpovídat čtyři struktury proteinů paralelně na jednom systému poskytuje zhruba 4násobnou propustnost oproti běhům jedné úlohy, což je relevantní pro laboratoře a biotechnologické pracovní postupy.

Pro modely mimo předinstalovaný katalog přijímá TT-Forge, open-source kompilátor umělé inteligence od společnosti Tenstorrent, grafy z PyTorch, ONNX, TensorFlow, JAX a PaddlePaddle a cílí je přímo na hardware. Princip návrhu je přímočarý: pokud model běží na standardním frameworku, mělo by být možné jej zkompilovat a spustit na QuietBoxu 2.

Křemíková a paměťová architektura RISC‑V

Na hardwarové úrovni QuietBox 2 využívá čtyři Blackhole ASICy, které fungují jako sjednocená síť uvnitř pouzdra vhodného pro stolní počítač. Dohromady poskytují 480 jader Tensix a deklarovaných 2 654 TFLOPS s přesností BlockFP8, podpořené 128 GB vysokorychlostní paměti GDDR6 a 256 GB systémové paměti DDR5.

Architektura integruje výpočetní a vysokohustotní SRAM na jednom čipu a vychází z přístupu toku dat, který upřednostňuje efektivní pohyb tenzorů v paměti na čipu. Díky využití SRAM a GDDR6 je systém navržen tak, aby se vyhnul tradičním úzkým hrdlům šířky pásma DRAM, která omezují trvalou propustnost na konvenčních platformách CPU a GPU. Tenstorrent se také explicitně vyhýbá závislosti na vysokohustotní paměti (High-Bandwidth Memory); nepoužíváním HBM je QuietBox 2 izolován od některých tlaků na dodávky a ceny, které v současné době ovlivňují akcelerátory třídy GPU.

Pracovní stanice běží na Ubuntu 24.04 a zapojuje se do standardní zásuvky 120 V, takže nevyžaduje vyhrazené napájení, racky ani řízenou serverovnu. Tato konfigurace ji spíše srovnává s profesionálními stolními počítači vyšší třídy než s hardwarem datových center, i když inferenční výkon cílí na případy použití v rackové třídě.

Open Source od kompilátoru po jádro

Ústředním bodem návrhu QuietBoxu 2 je, že jeho softwarový stack je kompletně open source. Tenstorrent to propaguje jako plnou viditelnost stacku pro týmy, které potřebují porozumět a auditovat chování na všech úrovních systému.

Výzkumník Tenstorrent TT-Boltz-2

TT-Forge poskytuje kontrolu nad snižováním grafů, transformací a optimalizačními procesy a odhaluje, jak jsou modely mapovány na podkladový hardware. TT-Metalium slouží jako nízkoúrovňová sada pro umělou inteligenci (SDK) a poskytuje kontrolu na úrovni jádra a deterministické provádění pro vývojáře, kteří potřebují vyladit výkon nebo implementovat vlastní operátory. TT-LLK zpracovává nízkoúrovňový software jádra a rozšiřuje tak přehled o tom, jak se pracovní zátěže provádějí na jádrech Tensix.

Tato struktura umožňuje vývojářům kontrolovat proces od grafu modelu až po spuštění jádra, ladit na hranici hardwaru, forkovat nebo upravovat jednotlivé komponenty a přizpůsobovat stack specializovaným úlohám. Pro regulovaná odvětví, suverénní iniciativy v oblasti umělé inteligence a výzkumné instituce, které musí dokumentovat, jak infrastruktura spravuje data a spouští modely, je tato úroveň transparentnosti spíše klíčovou součástí návrhu platformy než volitelným doplňkem.

QuietBox 2 je dodáván s předkonfigurovaným Ubuntu 24.04, spolu s kompletním open-source stackem a TT-Studiem, vývojovým prostředím Tenstorrentu. Cílem je, aby byl systém ihned po instalaci použitelný jak pro experimentování, tak pro inferenci v produkčním prostředí.

Napájení, teploty a nasazení u stolu

Druhá generace QuietBoxu klade důraz na výkon a akustickou účinnost. Společnost Tenstorrent uvádí, že konstrukční změny snížily spotřebu energie v klidovém stavu a tepelný výkon zhruba o 50 procent ve srovnání s předchozími generacemi. Nové kapalinou chlazené šasi je navrženo pro tichý a trvalý provoz při vysokém zatížení u stolu, nikoli ve vyhrazené místnosti s vybavením.

Spolu se změnami hardwaru rozšířila společnost Tenstorrent dokumentaci a nástroje pro vývojáře s cílem dosáhnout rychlejšího uvedení do provozu a kratší doby do použitelného výkonu. Pro malé a střední podniky je kombinace jediné 120V zástrčky, kapalinového chlazení a předinstalovaného stohu určena k zajištění inference na úrovni racku bez nutnosti přidávat další serverovny nebo zvyšovat počet IT pracovníků.

dostupnost

Celosvětové dodávky TT-QuietBoxu 2 jsou naplánovány na 2. čtvrtletí roku 2026 za cenu od 9 999 USD. Zájemci se mohou přihlásit na čekací listinu prostřednictvím webových stránek společnosti Tenstorrent na adrese www.tenstorrent.com/waitlist/tt-quietbox.

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Harold Fritts

V technologickém průmyslu působím od doby, kdy IBM založila Selectric. Mám ale zkušenosti s psaním. Rozhodl jsem se tedy opustit předprodejní byznys a vrátit se ke svým kořenům, trochu psát, ale stále se věnovat technologiím.