A ZutaCore lançou o OmniTherm, uma placa fria que permite o resfriamento bifásico sem água para servidores equipados com GPUs NVIDIA 6000 Blackwell Server Edition em um formato PCIe de slot único. A solução é voltada para OEMs e grandes operadores que desejam executar esses aceleradores com potência máxima em designs de servidores corporativos e de nuvem de IA padrão, sem precisar recorrer a plataformas de servidor especializadas ou sistemas de imersão.
Servidores com GPUs PCIe continuam sendo uma das principais opções para inferência de IA e cargas de trabalho mistas, pois são mais fáceis de implantar, dimensionar e integrar à infraestrutura de racks e energia existente. À medida que a densidade de potência das GPUs aumenta, o resfriamento a ar tradicional começa a limitar o desempenho. Os operadores frequentemente precisam aumentar a velocidade dos ventiladores, o que eleva o consumo de energia, aumenta os níveis de ruído e ainda pode deixar os sistemas suscetíveis a superaquecimento durante cargas de trabalho intensas de IA.
OmniTherm O objetivo é resolver esse problema com a transição para o resfriamento líquido bifásico, sem usar água no chassi do servidor. A placa fria utiliza um fluido dielétrico selado que ferve na fonte de calor e se condensa em um circuito separado. Ao manter um perfil PCIe de slot único, o ZutaCore permite que os fabricantes de sistemas mantenham ou aumentem a densidade de aceleradores em arquiteturas de servidor padrão, transferindo a maior parte do calor para um circuito de resfriamento líquido. Isso reduz a necessidade de ventoinhas de alta rotação, diminui o consumo de energia e reduz a pressão térmica e o ruído no nível do rack.
O diretor de tecnologia da ZutaCore, My D. Truong, enfatizou a crescente importância das GPUs PCIe, que oferecem flexibilidade e alta densidade em um contexto de orçamentos de energia cada vez maiores para racks em data centers. Ele mencionou que a combinação de resfriamento bifásico sem água e um formato de slot único visa ajudar os data centers a aumentar o número de aceleradores por servidor, mantendo um desempenho térmico estável para cargas de trabalho contínuas de IA, especialmente à medida que as implantações se expandem.
Projetado para cargas de trabalho de IA variáveis e sempre ativas.
Em ambientes de IA de produção, raramente se mantém uma carga de trabalho constante. As tarefas de inferência são altamente variáveis, com o uso e o consumo de energia variando de acordo com os padrões de tráfego e o comportamento do modelo. Essas flutuações podem levar a mudanças rápidas de temperatura que sobrecarregam os sistemas de refrigeração a ar e comprometem a confiabilidade do desempenho.
O design térmico de duas fases do OmniTherm responde rapidamente a essas mudanças. À medida que a carga da GPU aumenta, mais fluido dielétrico vaporiza na placa fria, melhorando a transferência de calor sem aumentar a velocidade da ventoinha. Quando a carga diminui, o sistema se estabiliza naturalmente com a condensação do vapor. Essa função ajuda os operadores a manter temperaturas mais consistentes em diferentes cargas de trabalho. Ela oferece desempenho confiável e reduz o risco de throttling temporário em servidores com alta densidade de GPUs PCIe.
Protegendo os investimentos em infraestrutura de longo prazo
Para os operadores, a confiabilidade e o desempenho ao longo do tempo são tão vitais quanto a taxa de transferência máxima. A ZutaCore afirma que o OmniTherm resfria não apenas o chip da GPU, mas também componentes próximos de alto valor, como CPUs e memórias de alta largura de banda de última geração. Ao abranger mais do que apenas o ASIC acelerador principal, o sistema visa pontos críticos que são mais importantes em projetos com múltiplos chips e com uso intensivo de HBM.
Essa cobertura térmica mais ampla suporta tarefas de IA de longa duração e com uso intensivo de largura de banda, que desafiam tanto os sistemas de computação quanto os de memória. Reduzir o estresse térmico nesses componentes pode aumentar a estabilidade a longo prazo, reduzir a degradação do desempenho e proteger os investimentos em plataformas PCIe de alta potência à medida que as tecnologias de GPU e memória avançam.
Considerações operacionais sobre balanças de rack
À medida que os racks lidam com densidades de potência cada vez maiores, o custo e a complexidade de depender exclusivamente do resfriamento a ar aumentam rapidamente. Maior potência dos ventiladores, aumento do ruído e requisitos mais rigorosos de HVAC contribuem para os custos operacionais e podem afetar as condições de trabalho em data centers.
O circuito de fluido dielétrico selado e não condutor da OmniTherm foi projetado para absorver a maior parte do calor do servidor e transferi-lo para um circuito de líquido externo, sem a necessidade de introduzir água no chassi. Essa estrutura pode reduzir a dependência de velocidades extremas de ventoinhas, diminuir o consumo de energia para refrigeração e ajudar os operadores a controlar os níveis de ruído. A configuração também permite a expansão de implantações de IA baseadas em PCIe em espaços existentes, transferindo mais demanda de refrigeração para sistemas líquidos em vez de depender exclusivamente do fluxo de ar.
Nuvem HyperCool
Em conjunto com o OmniTherm, a ZutaCore está lançando o HyperCool Cloud, uma plataforma de operações baseada em nuvem que gerencia sistemas de refrigeração líquida em implantações distribuídas. A plataforma foi projetada para ser segura e orientada por telemetria, oferecendo insights quase em tempo real sobre as unidades de distribuição de fluido refrigerante (CDUs) e equipamentos de refrigeração relacionados.
O HyperCool Cloud fornece telemetria para CDUs, suporta monitoramento em toda a frota e implementa fluxos de trabalho desde o alarme até a resolução. Para os operadores, isso significa que o resfriamento líquido funciona como um serviço gerenciado e observável, assim como outros componentes de infraestrutura. O objetivo é aprimorar a resposta ao serviço, simplificar o gerenciamento de incidentes e garantir o tempo de atividade à medida que as configurações de resfriamento líquido se expandem para vários locais e frotas maiores de servidores PCIe com GPUs.
Em conjunto, OmniTherm e HyperCool Cloud permitem à ZutaCore enfrentar os desafios de hardware e operacionais da expansão de plataformas de IA baseadas em PCIe com resfriamento líquido bifásico sem água.
Amazon