A Tenstorrent apresentou o TT‑QuietBox 2 (Blackhole), uma estação de trabalho de IA com refrigeração líquida, projetada para executar modelos com até 120 bilhões de parâmetros diretamente na mesa. O sistema combina uma pilha de software totalmente de código aberto com silício baseado em RISC‑V e se posiciona como uma plataforma de inferência de classe teraflop que não requer racks, sala de servidores ou energia especializada.
Inferência como principal carga de trabalho de IA
O QuietBox 2 é voltado para desenvolvedores e organizações que desejam controle direto sobre sua infraestrutura, incluindo visibilidade da arquitetura de silício nos níveis de compilador e tempo de execução. Ele é direcionado a implantações locais em laboratórios, escritórios e pequenas e médias empresas que precisam de recursos de inferência de ponta sem migrar para uma infraestrutura de grande escala.
O CEO da Tensorrent, Jim Keller, caracterizou o esforço como uma iniciativa deliberada para fornecer um sistema de desenvolvimento aberto, com capacidade de processamento de teraflops, adequado para ambientes de laboratório ou escritório, enfatizando que a plataforma é aberta em toda a sua extensão, incluindo o design mecânico. Keller possui uma trajetória impressionante, tendo atuado como arquiteto para os chips AMD Zen, Apple A4/A5 e Tesla Full Self-Driving.
Cargas de trabalho pré-integradas para desenvolvedores
O QuietBox 2 é fornecido com um conjunto de cargas de trabalho reais que podem ser implementadas imediatamente em domínios linguísticos, multimodais e científicos.
Para LLMs e codificação, o GPT-OSS 120B é executado inteiramente no dispositivo, mantendo um modelo completo de 120 bilhões de parâmetros residente na mesa para inferência local e privada. O Llama 3.1 70B apresenta uma taxa de 476.5 tokens por segundo, um número notável para cargas de trabalho interativas, assistência de código e pipelines de agentes. O Qwen3-32B é apresentado como um agente de codificação local capaz de raciocinar por bases de código inteiras sem limites de tokens na nuvem, fornecendo um caminho para copilotos de desenvolvimento offline e implantações em ambientes com recursos limitados.
No âmbito criativo e multimodal, o Flux lida com a geração de imagens localmente, enquanto o Wan 2.2 oferece síntese de vídeo no dispositivo. Ambos os casos de uso mantêm os recursos de mídia e os avisos nas instalações da empresa, o que será interessante para equipes com requisitos rigorosos de propriedade intelectual e residência de dados.
Para pesquisa científica, o sistema utiliza modelos especializados como o Boltz-2, uma carga de trabalho de aprendizado de máquina biomolecular. A Tenstorrent relata que o Boltz-2 prevê a estrutura de uma proteína de 686 aminoácidos em 49 segundos em um único processador Blackhole, em comparação com aproximadamente 45 minutos em uma CPU moderna. Esse resultado coloca o QuietBox 2 em pé de igualdade com as GPUs de estações de trabalho de ponta em termos de desempenho, ao mesmo tempo que prioriza a eficiência em custo e consumo de energia. A capacidade de prever quatro estruturas de proteínas em paralelo em um único sistema proporciona um rendimento aproximadamente quatro vezes maior do que execuções de tarefas individuais, o que é relevante para laboratórios e fluxos de trabalho de biotecnologia.
Para modelos que não fazem parte do catálogo pré-instalado, o TT-Forge, compilador de IA de código aberto da Tensorrent, aceita grafos do PyTorch, ONNX, TensorFlow, JAX e PaddlePaddle e os direciona diretamente para o hardware. O princípio de funcionamento é simples: se um modelo funciona em uma estrutura padrão, deve ser possível compilá-lo e executá-lo no QuietBox 2.
Arquitetura de memória e silício RISC-V
Em termos de hardware, o QuietBox 2 utiliza quatro ASICs Blackhole operando como uma malha unificada dentro de um gabinete compacto, ideal para uso em mesas. Juntos, eles oferecem 480 núcleos Tensix e uma potência declarada de 2,654 TFLOPS com precisão BlockFP8, suportados por 128 GB de memória GDDR6 de alta velocidade e 256 GB de memória de sistema DDR5.
A arquitetura integra computação e SRAM de alta densidade em um único chip, seguindo uma abordagem de fluxo de dados que prioriza a movimentação eficiente de tensores pela memória on-chip. Ao utilizar SRAM e GDDR6, o sistema foi projetado para contornar os gargalos de largura de banda da DRAM tradicional, que limitam a taxa de transferência sustentada em plataformas convencionais de CPU e GPU. O Tensorrent também evita explicitamente a dependência de memória de alta largura de banda (HBM); ao não usar HBM, o QuietBox 2 fica protegido de algumas das pressões de oferta e preço que afetam atualmente os aceleradores de GPU.
A estação de trabalho executa o Ubuntu 24.04 e conecta-se a uma tomada de parede padrão de 120V, sem necessidade de alimentação dedicada, racks ou uma sala de servidores controlada. Essa configuração a alinha mais com desktops profissionais de alto desempenho do que com hardware de data center, embora o desempenho de inferência seja voltado para casos de uso em racks.
Código aberto do compilador ao kernel
Um ponto central do design do QuietBox 2 é que sua pilha de software é inteiramente de código aberto. A Tensorrent promove isso como visibilidade completa da pilha para equipes que precisam entender e auditar o comportamento em todos os níveis do sistema.
O TT-Forge oferece controle sobre os fluxos de redução, transformação e otimização de grafos, revelando como os modelos são mapeados no hardware subjacente. O TT-Metalium serve como SDK de IA de baixo nível, fornecendo controle em nível de kernel e execução determinística para desenvolvedores que precisam ajustar o desempenho ou implementar operadores personalizados. O TT-LLK lida com o software de kernel de baixo nível, ampliando a visibilidade de como as cargas de trabalho são executadas nos núcleos Tensix.
Essa estrutura permite que os desenvolvedores inspecionem o pipeline desde o grafo do modelo até a execução do kernel, depurem no limite do hardware, criem forks ou modifiquem componentes individuais e adaptem a pilha a cargas de trabalho especializadas. Para setores regulamentados, iniciativas de IA soberanas e instituições de pesquisa que precisam documentar como a infraestrutura gerencia dados e executa modelos, esse nível de transparência é parte essencial da proposta da plataforma, e não um complemento opcional.
O QuietBox 2 é fornecido com o Ubuntu 24.04 pré-configurado, juntamente com o pacote completo de código aberto e o TT-Studio, o ambiente de desenvolvimento do TensorFlow. O objetivo é tornar o sistema utilizável imediatamente, tanto para experimentação quanto para inferência em nível de produção.
Energia, dissipação térmica e implantação na mesa de trabalho
A segunda geração do QuietBox prioriza a eficiência energética e acústica. A Tenstorrent relata que as alterações de engenharia reduziram o consumo de energia em modo ocioso e a emissão de calor em aproximadamente 50% em comparação com as gerações anteriores. O novo chassi com refrigeração líquida foi projetado para operação silenciosa e contínua sob cargas de trabalho intensas, em um ambiente de mesa, em vez de uma sala de equipamentos dedicada.
Juntamente com as mudanças de hardware, a Tensorrent expandiu a documentação e as ferramentas de desenvolvimento para promover uma inicialização mais rápida e um tempo de utilização mais curto. Para pequenas e médias empresas, a combinação de uma única tomada de 120V, refrigeração líquida e um conjunto pré-instalado visa fornecer capacidade de inferência de nível de rack sem a necessidade de expansão da sala de servidores ou aumento da equipe de TI.
Disponibilidade
O TT‑QuietBox 2 tem previsão de lançamento global no segundo trimestre de 2026, com preços a partir de US$ 9,999. Organizações interessadas podem entrar na lista de espera pelo site da Tensorrent em [link para o site da Tensorrent]. www.tenstorrent.com/waitlist/tt-quietbox.
Amazon