Tenstorrent ha presentado TT-QuietBox 2 (Blackhole), una estación de trabajo de IA con refrigeración líquida diseñada para ejecutar modelos de hasta 120 mil millones de parámetros directamente en el escritorio. El sistema combina una pila de software totalmente de código abierto con silicio basado en RISC-V y se posiciona como una plataforma de inferencia de clase teraflop que no requiere racks, sala de servidores ni alimentación eléctrica especializada.
La inferencia como carga de trabajo principal de la IA
QuietBox 2 está dirigido a desarrolladores y organizaciones que desean un control directo sobre su infraestructura, incluyendo visibilidad de la arquitectura de silicio a nivel de compilador y de tiempo de ejecución. Está diseñado para implementaciones locales en laboratorios, oficinas y pequeñas y medianas empresas que necesitan capacidades de inferencia avanzadas sin necesidad de ocupar un espacio de rack.
Jim Keller, CEO de Tenstorrent, describió la iniciativa como un esfuerzo deliberado por ofrecer un sistema de desarrollo abierto de clase teraflop, adecuado para entornos de laboratorio u oficina, haciendo hincapié en que la plataforma es abierta en toda su arquitectura, incluido el diseño mecánico. Keller cuenta con una impresionante trayectoria, que incluye su participación como arquitecto de los chips AMD Zen, Apple A4/A5 y Tesla Full Self-Driving.
Cargas de trabajo preintegradas para desarrolladores
QuietBox 2 incluye un conjunto de cargas de trabajo reales que se pueden implementar de inmediato en los ámbitos lingüístico, multimodal y científico.
Para LLM y codificación, GPT-OSS 120B se ejecuta completamente en el dispositivo, manteniendo un modelo completo de 120 mil millones de parámetros en el escritorio para inferencia local y privada. Llama 3.1 70B alcanza los 476.5 tokens por segundo, una cifra notable para cargas de trabajo interactivas, asistencia de código y pipelines de agentes. Qwen3-32B se presenta como un agente de codificación local capaz de razonar a través de bases de código completas sin límites de tokens en la nube, lo que proporciona una vía para copilotos de desarrollo sin conexión e implementaciones en entornos restringidos.
En el ámbito creativo y multimodal, Flux gestiona la generación de imágenes localmente, mientras que Wan 2.2 ofrece síntesis de vídeo en el dispositivo. Ambos casos de uso mantienen los recursos multimedia y las indicaciones en las instalaciones, lo que resultará atractivo para equipos con estrictos requisitos de propiedad intelectual y residencia de datos.
Para la investigación científica, el sistema se centra en modelos especializados como Boltz-2, una carga de trabajo de aprendizaje automático biomolecular. Según TensorTorrent, Boltz-2 predice la estructura de una proteína de 686 aminoácidos en 49 segundos en un solo procesador Blackhole, en comparación con los aproximadamente 45 minutos que tarda en una CPU moderna. Este resultado sitúa a QuietBox 2 al nivel de las GPU de estaciones de trabajo de gama alta en cuanto a rendimiento, priorizando la eficiencia energética y el ahorro de costes. La capacidad de predecir cuatro estructuras proteicas en paralelo en un solo sistema proporciona aproximadamente cuatro veces más rendimiento que las ejecuciones de tareas individuales, lo cual es relevante para laboratorios y flujos de trabajo biotecnológicos.
Para modelos que no se encuentran en el catálogo preinstalado, TT-Forge, el compilador de IA de código abierto de TensorRent, acepta gráficos de PyTorch, ONNX, TensorFlow, JAX y PaddlePaddle, y los dirige directamente al hardware. El principio de diseño es sencillo: si un modelo se ejecuta en un entorno estándar, debería ser posible compilarlo y ejecutarlo en QuietBox 2.
Arquitectura de silicio y memoria RISC-V
A nivel de hardware, QuietBox 2 utiliza cuatro ASIC Blackhole que funcionan como una malla unificada dentro de una carcasa compacta. En conjunto, proporcionan 480 núcleos Tensix y un rendimiento declarado de 2,654 TFLOPS con precisión BlockFP8, respaldado por 128 GB de memoria GDDR6 de alta velocidad y 256 GB de memoria del sistema DDR5.
La arquitectura integra computación y SRAM de alta densidad en un solo chip, siguiendo un enfoque de flujo de datos que prioriza el movimiento eficiente de tensores a través de la memoria integrada. Al apoyarse en SRAM y GDDR6, el sistema está diseñado para evitar los cuellos de botella de ancho de banda de la DRAM tradicional que limitan el rendimiento sostenido en las plataformas de CPU y GPU convencionales. Tenstorrent también evita explícitamente la dependencia de la memoria de alto ancho de banda (HBM); al no utilizar HBM, QuietBox 2 se protege de algunas de las presiones de suministro y precios que actualmente afectan a los aceleradores de clase GPU.
La estación de trabajo ejecuta Ubuntu 24.04 y se conecta a una toma de corriente estándar de 120 V, sin necesidad de alimentación dedicada, racks ni una sala de servidores controlada. Esta configuración la asemeja más a los ordenadores de sobremesa profesionales de gama alta que al hardware de un centro de datos, aunque su rendimiento de inferencia esté orientado a casos de uso de clase rack.
Código abierto desde el compilador hasta el núcleo.
Un aspecto fundamental del diseño de QuietBox 2 es que su pila de software es completamente de código abierto. Tensorrent lo promociona como una forma de visibilidad integral para los equipos que necesitan comprender y auditar el comportamiento en todos los niveles del sistema.
TT-Forge proporciona control sobre los flujos de reducción, transformación y optimización de grafos, revelando cómo se asignan los modelos al hardware subyacente. TT-Metalium funciona como el SDK de IA de bajo nivel, proporcionando control a nivel de kernel y ejecución determinista para desarrolladores que necesitan ajustar el rendimiento o implementar operadores personalizados. TT-LLK gestiona el software del kernel de bajo nivel, ampliando la visibilidad sobre cómo se ejecutan las cargas de trabajo en los núcleos Tensix.
Esta estructura permite a los desarrolladores inspeccionar el flujo de trabajo desde el grafo del modelo hasta la ejecución del kernel, depurar en el límite del hardware, bifurcar o modificar componentes individuales y adaptar la pila a cargas de trabajo especializadas. Para las industrias reguladas, las iniciativas soberanas de IA y las instituciones de investigación que deben documentar cómo la infraestructura gestiona los datos y ejecuta los modelos, este nivel de transparencia es una parte fundamental de la propuesta de la plataforma, en lugar de un complemento opcional.
QuietBox 2 viene con Ubuntu 24.04 preconfigurado, junto con el conjunto completo de herramientas de código abierto y TT-Studio, el entorno de desarrollo de TensorTorrent. El objetivo es que el sistema sea utilizable de inmediato tanto para experimentación como para inferencia de nivel de producción.
Alimentación, gestión térmica e implementación en el escritorio
La segunda generación de QuietBox prioriza la potencia y la eficiencia acústica. Según Tenstorrent, las mejoras de ingeniería han reducido el consumo de energía en reposo y la generación de calor en aproximadamente un 50 % en comparación con las generaciones anteriores. El nuevo chasis con refrigeración líquida está diseñado para un funcionamiento silencioso y continuo bajo cargas de trabajo intensas en un entorno de escritorio, en lugar de una sala de equipos dedicada.
Además de las mejoras de hardware, TensorTorrent ha ampliado la documentación y las herramientas para desarrolladores con el objetivo de lograr una puesta en marcha más rápida y un rendimiento óptimo en menos tiempo. Para las pequeñas y medianas empresas, la combinación de un único enchufe de 120 V, refrigeración líquida y una pila preinstalada ofrece capacidad de inferencia de nivel profesional sin necesidad de ampliar las instalaciones de servidores ni aumentar el personal de TI.
Disponibilidad
El lanzamiento mundial de TT-QuietBox 2 está previsto para el segundo trimestre de 2026, con un precio inicial de 9,999 dólares. Las organizaciones interesadas pueden unirse a la lista de espera a través del sitio web de Tenstorrent: www.tenstorrent.com/waitlist/tt-quietbox.
Amazon