A Supermicro anunciou a expansão de sua capacidade de fabricação em escala de rack e aprimoramentos em seus recursos de resfriamento líquido direto para dar suporte às futuras plataformas NVIDIA Vera Rubin NVL72 e NVIDIA HGX Rubin NVL8. A empresa posiciona essa mudança para reduzir os prazos de implementação de infraestrutura de IA de alta densidade, combinando design e fabricação próprios nos EUA com sua abordagem de Soluções Integradas para Data Centers (DCBBS) e uma pilha de tecnologia de resfriamento líquido completa.
O CEO da Supermicro, Charles Liang, enfatizou que a colaboração da empresa com a NVIDIA e sua metodologia de design modular visam acelerar a entrega de plataformas avançadas de IA. Ele também destacou a expansão da capacidade de produção da Supermicro e sua expertise em refrigeração líquida como fatores essenciais para a implementação eficiente, confiável e em larga escala dos sistemas Vera Rubin e Rubin em ambientes de hiperescala e corporativos.
Produto de ponta em escala de rack: NVIDIA Vera Rubin NVL72 SuperCluster
Na extremidade superior do espectro, a Supermicro oferecerá suporte ao NVIDIA Vera Rubin NVL72 SuperCluster. Este sistema em escala de rack integra 72 GPUs NVIDIA Rubin e 36 CPUs NVIDIA Vera, juntamente com SuperNICs NVIDIA ConnectX-9 e DPUs NVIDIA BlueField-4. A plataforma utiliza NVIDIA NVLink 6 para coerência intra-rack. Ela foi projetada para escalabilidade horizontal através de NVIDIA Quantum-X800 InfiniBand e NVIDIA Spectrum-X Ethernet, alinhando-se à atual tendência da indústria em direção a designs de rack como sistema para treinamento, inferência e IA ativa em escala.
A NVIDIA classifica a configuração NVL72 com 3.6 exaflops de desempenho NVFP4, com suporte de 1.4 PB/s de largura de banda HBM4 e 75 TB de memória rápida. A implementação da Supermicro é baseada na arquitetura de rack NVIDIA MGX de 3ª geração, com ênfase em facilidade de manutenção, confiabilidade e disponibilidade para suportar operações contínuas de cluster.
O resfriamento é fundamental para o projeto. A Supermicro está incorporando um sistema de resfriamento líquido aprimorado para data centers, com Unidades de Distribuição de Refrigerante (CDUs) em linha. O objetivo é viabilizar o resfriamento escalável com água quente, reduzindo o consumo de energia e água, mantendo a densidade e o desempenho previsível sob cargas de trabalho intensas de IA.
Computação compacta e densa: NVIDIA HGX Rubin NVL8 com refrigeração líquida em 2U
Para empresas e provedores de serviços que buscam uma solução mais modular, a Supermicro também destacou os sistemas NVIDIA HGX Rubin NVL8 de 2U com refrigeração líquida. Essa plataforma de 8 GPUs é voltada para cargas de trabalho de IA e HPC, com a NVIDIA anunciando 400 petaflops de desempenho NVFP4. A plataforma possui especificações de 176 TB/s de largura de banda HBM4 e 28.8 TB/s de largura de banda NVLink, com rede NVIDIA ConnectX-9 de 1600 Gb/s via SuperNICs.
A Supermicro oferece um design em escala de rack projetado para preservar a flexibilidade de implementação, com opções de configuração que incluem CPUs x86 de ponta, como os processadores Intel Xeon e AMD EPYC de última geração. A empresa também destacou um design de barramento 2U de alta densidade para integração em rack, combinado com a tecnologia de resfriamento líquido direto (DLC) da Supermicro para suportar envelopes de energia sustentada mais elevados sem sacrificar a facilidade de manutenção.
Recursos da plataforma Vera Rubin
O suporte da plataforma da Supermicro está alinhado com diversas funcionalidades essenciais da era Vera Rubin que impactam diretamente o design de clusters e o planejamento operacional, incluindo:
- NVIDIA NVLink 6 é uma arquitetura de interconexão de alta velocidade que permite maior largura de banda e menor latência para comunicação entre GPUs e entre CPUs. Isso é especialmente relevante para o treinamento e a inferência de modelos de mistura de especialistas muito grandes, onde os padrões de comunicação podem dominar o desempenho em larga escala.
- O processador NVIDIA Vera apresenta núcleos Arm projetados pela NVIDIA e promete um aumento de desempenho de 2x em relação à geração anterior. O processador suporta multithreading espacial com 88 núcleos e 176 threads, além de largura de banda de memória LPDDR5X de 1.2 TB/s e maior capacidade de memória. O Vera também aumenta a integração entre CPU e GPU com largura de banda NVLink-C2C de 1.8 TB/s para GPUs, o dobro da geração anterior.
- A 3ª geração do Transformer Engine da NVIDIA visa a aceleração de contexto longo e precisão estreita, que se tornou crucial à medida que a inferência moderna migra para sessões persistentes, pipelines multiagentes e maior concorrência. A plataforma também incorpora a Computação Confidencial de 3ª geração, descrita como computação confidencial em escala de rack com um ambiente de execução confiável e unificado em nível de GPU que protege e isola modelos, dados e prompts. Para operadores que implementam IA em fluxos de trabalho regulamentados, a computação confidencial e o isolamento de limites de execução da GPU são critérios de seleção de plataforma cada vez mais importantes.
- A melhoria na confiabilidade é possibilitada pelo motor RAS de segunda geração, que inclui monitoramento avançado de integridade e verificações em tempo real para reduzir o tempo de inatividade. Em ambientes densos com refrigeração líquida, a detecção de falhas e a facilidade de manutenção são essenciais, pois as janelas de manutenção são dispendiosas e a tolerância operacional à instabilidade é baixa.
Redes: Fotônica Ethernet Spectrum-X e Taxa de Transferência em Escala de Rack
A Supermicro também integrou o suporte da sua plataforma Rubin à tecnologia Spectrum-X Ethernet Photonics da NVIDIA, baseada no ASIC Ethernet Spectrum-6. A NVIDIA especifica comutação de 102.4 Tb/s em TSMC 3nm, com óptica SerDes co-empacotada de 200G e buffers totalmente compartilhados.
O objetivo declarado é melhorar a eficiência e a estabilidade operacional em comparação com as ópticas plugáveis tradicionais. A NVIDIA cita uma eficiência energética 5 vezes maior, confiabilidade 10 vezes maior e tempo de atividade de aplicativos 5 vezes maior. A NVIDIA listou vários modelos de switches, incluindo o SN6800 com refrigeração líquida (CPO de 409.6 Tb/s com 512 portas 800G), o SN6810 (CPO de 102.4 Tb/s com 128 portas 800G) e o SN6600 (ópticas plugáveis, 128 portas 800G, disponível em configurações com refrigeração a ar ou líquida). Para operadores de data centers, esses projetos apontam para estruturas Ethernet 800G de maior densidade com características térmicas e de energia aprimoradas, o que é cada vez mais relevante à medida que a energia da rede de front-end se torna uma parcela significativa dos orçamentos de racks.
Integração de armazenamento para fábricas de IA
Na área de armazenamento, a Supermicro destacou soluções complementares baseadas em seus servidores de armazenamento all-flash em petascale e sistemas JBOF. Essas plataformas suportam DPUs NVIDIA BlueField-4 e uma variedade de soluções de gerenciamento de dados, alinhando armazenamento e rede com a mesma arquitetura acelerada em escala de rack usada pela camada de computação.
Embora a Supermicro não tenha fornecido dados de desempenho para as plataformas de armazenamento neste anúncio, a ênfase na integração sinaliza uma tendência contínua em direção a projetos de pilha completa validados, nos quais computação, rede e armazenamento são qualificados em conjunto para implantações em fábricas de IA.
Escala de produção e tempo de entrada em operação
O tema operacional do anúncio é a produtividade de fabricação e a velocidade de implantação. As instalações expandidas da Supermicro e o sistema de refrigeração líquida foram projetados para otimizar a produção e a entrega das plataformas Vera Rubin e Rubin, totalmente refrigeradas a líquido. Ao mesmo tempo, a arquitetura modular DCBBS permite configuração, validação e escalonamento rápidos. Para compradores técnicos corporativos, o diferencial não está em uma única especificação de chassi, mas sim na previsibilidade de entrega, na montagem repetível de racks e na redução do tempo entre o recebimento do equipamento e a entrada em operação estável em produção.
A Supermicro aposta que, à medida que o resfriamento líquido se torna o padrão para alta densidade de IA, os fornecedores que conseguirem industrializar a fabricação e a validação em escala de rack estarão em melhor posição para dar suporte a implementações em larga escala sem longos ciclos de integração.
Amazon