A pergunta mais frequente que recebemos sobre a MSI XpertStation WS300 após nossa análise se resume a um tema principal. O chip GB300 Grace Blackwell Ultra Superchip, de 1,300W, normalmente é usado em racks com refrigeração líquida. Então, o que acontece com a temperatura quando ele é instalado em um gabinete torre? A preocupação é válida: um sistema com GB300 que atinge seu limite térmico terá seu desempenho reduzido, e um sistema que sofre throttling sob uso contínuo não está entregando o que se espera dele. Em nossa análise, afirmamos que a WS300 se manteve fria e estável durante os testes. A explicação está nos dados de projeto de refrigeração da própria MSI, combinados aqui com os registros de temperatura, consumo de energia e clock que coletamos durante um teste do sistema.
O que o Loop precisa fazer
O orçamento térmico de uma DGX Station é definido pela NVIDIA; o módulo GB300 tem um limite de potência SuperChip de 1,300 W, e todo o sistema funciona com uma única fonte de alimentação de 1,600 W, que também precisa alimentar o armazenamento, bombas, ventoinhas e qualquer placa RTX PRO opcional. Quase todos esses 1,300 W acabam se transformando em calor em quatro componentes: a GPU Blackwell Ultra e seus 252 GB de HBM3e, a CPU Grace de 72 núcleos, 496 GB de memória distribuídos em quatro módulos SOCAMM LPDDR5X e a placa de rede ConnectX-8 SuperNIC com suas duas portas ópticas de 400 GbE. A MSI instala placas frias em todos os quatro componentes, e o circuito de refrigeração líquida passa por dois radiadores de 360 mm com seis ventoinhas de 120 mm. Uma ventoinha de 120 mm separada, instalada no gabinete, direciona o ar para os SSDs e outros componentes refrigerados a ar. A MSI classifica o conjunto para 1,400 W, considerando a CPU e a GPU, aproximadamente 100 W acima do que a NVIDIA permite que o Superchip consuma.
Essa margem de 100 W é uma decisão de projeto que faz muita diferença. Um circuito dimensionado apenas para a carga nominal não tem espaço para um escritório quente, um radiador empoeirado ou uma ventoinha funcionando abaixo da velocidade máxima. Um circuito com folga acima do limite de potência significa que o silício atinge seu limite de potência antes de atingir seu limite térmico.
Dados da placa fria da MSI
A MSI compartilhou conosco os dados de caracterização do circuito. A empresa chama a metodologia de CIT, sigla para Component Integrity Test (Teste de Integridade de Componentes), e classifica as curvas como empíricas: elas foram medidas em bancada, sob repetidos ciclos de pressão e temperatura. O primeiro gráfico é o que mais interessa a um engenheiro térmico. Ele mostra a resistência térmica em graus Celsius por watt das placas frias da GPU e da CPU em função da vazão do líquido refrigerante, juntamente com a queda de pressão que cada placa impõe à bomba.
A placa da GPU começa com uma resistência térmica próxima de 0.031 °C/W com um fluxo de 0.3 litros por minuto e cai acentuadamente à medida que o fluxo aumenta, atingindo cerca de 0.017 °C/W a 1.5 LPM e 0.012 °C/W a 3 LPM. A placa da CPU, que cobre um componente de consumo de energia muito menor, apresenta uma resistência térmica mais alta, em torno de 0.028 °C/W a 1.5 LPM. A resistência térmica é o fator que transforma watts em graus: a 1.5 LPM, cada 100 W que passam pela placa da GPU representam um aumento de temperatura de cerca de 1.7 °C entre o líquido refrigerante e a placa. Ao fornecer 1,000 W através dela, a placa atinge uma temperatura cerca de 17 °C acima da água. A contrapartida é a queda de pressão, que aumenta com o quadrado do fluxo. A 1.5 LPM, a placa da GPU representa um aumento de pressão de cerca de 1.1 PSI na bomba e a placa da CPU, cerca de 1.9 PSI. As curvas se estabilizam acima de 2 LPM, razão pela qual o circuito foi projetado para operar na faixa de 1.5 a 2 LPM; um fluxo maior resulta em um retorno térmico decrescente e um custo elevado da bomba.
Radiadores, ventoinhas e a relação entre ruído e desempenho.
O segundo conjunto de gráficos abrange a outra extremidade do circuito. ATD é a sigla para Diferença de Temperatura Ambiente, que representa o aumento da temperatura do líquido refrigerante acima da temperatura do ar ambiente após sair dos radiadores. É o valor que define o limite mínimo para a temperatura de todos os componentes do sistema, já que nenhum componente do circuito pode operar a uma temperatura inferior à da água que o alimenta. A MSI plota o ATD em função da carga térmica para o par de radiadores de 360 mm com vazões de 1 a 2 LPM, uma vez com as seis ventoinhas operando a 100% da potência PWM (modulação por largura de pulso) e outra vez a 60%.
Com a ventoinha na velocidade máxima, os radiadores mantêm o líquido refrigerante entre 5 e 9 °C da temperatura ambiente com uma carga térmica de 1,000 W em toda a faixa de fluxo, e entre 8 e 12 °C com 1,400 W, ultrapassando o limite de potência do Superchip. As curvas são quase lineares, e o líquido refrigerante com fluxo mais lento permanece mais tempo no radiador e sai mais próximo da temperatura ambiente, razão pela qual a curva de 1 LPM fica mais baixa; a desvantagem é a maior resistência da placa fria em fluxos baixos, conforme mostrado no primeiro gráfico, portanto, o ponto de operação do circuito é um equilíbrio entre os dois. O gráfico com 60% de PWM é o mais realista para um sistema ao lado de uma mesa, porque ninguém usa (ou quer usar) seis ventoinhas de 120 mm na velocidade máxima em um escritório.
A 60% da potência, a temperatura do ar (ATD) praticamente dobra: de 10 para 16 °C a 1,000 W e de 15 para 23 °C a 1,400 W, uma penalidade relativamente modesta. Mesmo com a potência máxima do Superchip e a velocidade da ventoinha reduzida, o líquido refrigerante entra nas placas frias a uma temperatura não superior a cerca de 23 °C acima da temperatura ambiente. Adicionando o aumento de 17 °C na placa da GPU, mencionado no primeiro gráfico, o pacote Blackwell Ultra opera a cerca de 40 °C acima da temperatura ambiente a 1,000 W, bem dentro da sua faixa de operação em qualquer escritório normal. O último gráfico da MSI mostra a curva de impedância do lado do ar do radiador, que indica a pressão que as ventoinhas precisam vencer para impulsionar o ar através das aletas, atingindo cerca de 1 mm de água a 135 CFM e 2 mm a 185 CFM. Trata-se de um núcleo de baixa restrição, o que permite que as ventoinhas operem em baixa velocidade.
Nosso teste: aproximadamente 3 horas no GB300
As curvas de projeto indicam o que um loop deve fazer. Para observar seu desempenho real, registramos o WS300 durante uma sessão de 2.8 horas, composta por cinco fases: um teste de estresse de 75 minutos com carga sustentada na GPU; em seguida, o DeepSeek v4 Flash servido por meio do vLLM em três perfis; uma carga de trabalho com 512 tokens de entrada e 512 de saída; uma carga de trabalho com alta taxa de preenchimento (8,192 tokens de entrada e 1,024 de saída); e uma carga de trabalho com alta taxa de decodificação (1,024 tokens de entrada e 8,192 de saída), com aumento progressivo da concorrência; e, por fim, um período de observação em modo ocioso. Coletamos dados de telemetria da GPU, HBM, CPU e consumo de energia continuamente. As temperaturas do líquido de arrefecimento, do ar no chassi e da placa foram obtidas do BMC, que foi consultado a cada poucos minutos. As áreas sombreadas em cada gráfico marcam as fases.
Durante todo o período de testes, o chip Blackwell Ultra manteve-se a 60 °C, com a HBM3e cerca de 10 °C mais quente, a 70 °C, e a Grace a 64 °C. Esses são os valores em estado estacionário com aproximadamente 1,000 W de potência da GPU, e não apresentaram aumentos ao longo dos 75 minutos, o que indica um ciclo que atingiu o equilíbrio com margem de segurança. As fases de inferência são, em média, mais frias porque a carga é mais intermitente: a GPU atingiu um pico de 60 °C novamente durante a carga de trabalho equivalente e 58 °C durante a longa rampa de decodificação, com a HBM atingindo o máximo de 73 °C. A oscilação na linha da DRAM é um artefato do intervalo de amostragem do BMC; a própria LPDDR5X atingiu um pico em torno de 75 °C. O sensor mais quente durante a maior parte do teste foi o ConnectX-8, entre 76 e 77 °C. As temperaturas em repouso estabilizaram entre 33 e 36 °C para a GPU e a HBM e em torno de 48 °C para a Grace.
Durante o período de amaciamento, o líquido refrigerante saiu dos radiadores a 37°C e retornou das placas frias a 47°C, um aumento de 10°C em todo o circuito. O ar dentro do gabinete atingiu 46°C, a placa-mãe BMC 52°C e o sensor mais quente da placa 56°C. Todas essas temperaturas estabilizaram nos primeiros 15 minutos de carga e permaneceram estáveis, retornando aos valores iniciais poucos minutos após a interrupção da carga. Em repouso, a temperatura do líquido refrigerante se manteve entre 30°C e 31°C.
O teste de estresse manteve a GPU em cerca de 995 W, com o Grace adicionando mais 85 a 90 W, totalizando um Superchip próximo a 1,080 W, que é a carga correspondente à variação de refrigeração acima. A mesma carga de trabalho atingiu brevemente o mesmo nível de 1,000 W da GPU em alta concorrência; a fase de pré-carregamento intenso atingiu picos curtos de cerca de 1,050 W no total; e o aumento gradual da carga de decodificação é a representação mais clara de como um servidor de inferência carrega uma GPU, passando de aproximadamente 500 W para pouco mais de 1,000 W à medida que a concorrência dobrava em cada estágio. Em nenhum momento do teste a potência total do Superchip ficou a menos de 200 W do limite de 1,300 W marcado no gráfico. O consumo em repouso é importante para quem planeja o consumo de energia: a GPU sozinha consome de 150 a 210 W sem nenhum processo em execução, e o consumo total do Superchip em repouso fica entre 220 e 290 W.
A Blackwell Ultra operou a cerca de 2.07 GHz desde o início do teste de estresse até o seu término, mantendo-se estável em todas as fases, sem nenhuma queda. A Grace manteve-se próxima de 3.5 GHz com jitter normal, a HBM permaneceu em 4,000 MHz e a LPDDR5X em 3,200 MHz. Uma GPU com limitação térmica apresenta um desempenho instável, com o algoritmo de boost reduzindo e recuperando a frequência; uma GPU com limitação de energia apresenta um clock que acompanha a carga; nenhum desses padrões foi observado em nossos testes. Sob essas cargas de trabalho, o sistema não estava quente o suficiente nem com restrição de energia suficiente para ultrapassar sua frequência máxima.
Unindo os dois
As curvas da MSI e nossas medições foram produzidas independentemente e convergem para a mesma conclusão. Comecemos com o aumento de 10°C na temperatura do líquido refrigerante a 1,080W. O calor transportado por um líquido é o produto da vazão pelo aumento de temperatura, portanto, essa variação implica uma vazão de líquido refrigerante de cerca de 1.5 litros por minuto para um líquido refrigerante à base de água, exatamente dentro da faixa caracterizada pela MSI. Consulte o gráfico do radiador da MSI para essa vazão e carga: com a ventoinha a 100% da velocidade, o líquido refrigerante deve estar cerca de 8°C acima da temperatura ambiente; com 60% da velocidade, cerca de 14°C. Não tínhamos uma sonda de temperatura ambiente calibrada no laboratório da MSI, então não podemos fechar esse circuito com precisão, mas uma temperatura de alimentação de 37°C é consistente com um ambiente de laboratório aquecido e ventoinhas funcionando bem abaixo da velocidade máxima.
Com uma vazão de 1.5 LPM, a resistência medida da placa da GPU é de aproximadamente 0.017 C/W, o que, a 995 W, prevê um aumento de 17 °C da temperatura do líquido refrigerante até a placa. Medimos o chip Blackwell Ultra a 60 °C contra uma fonte de alimentação de 37 °C, uma diferença de 23 °C. A diferença de 6 °C entre os dois valores se deve à interface térmica e ao próprio encapsulamento, a parte do percurso que a placa fria não pode controlar, e é um valor pequeno para uma GPU de retículo duplo desse tamanho. A placa está funcionando conforme os dados de teste da MSI indicam, e a diferença entre o chip e o líquido refrigerante é ditada pelas leis da física.
Analisando o orçamento de outra forma, a margem de segurança que discutimos anteriormente torna-se mais visível. As GPUs para data centers da NVIDIA não começam a reduzir a frequência até que o chip atinja temperaturas bem acima de 80°C, portanto, a WS300, sob carga máxima sustentada, deixou aproximadamente 20°C entre o chip Blackwell Ultra e o ponto em que o gerenciamento térmico entraria em ação, e isso com o circuito absorvendo 1,080W. Mesmo no pior cenário, com o limite de 1,300W do Superchip, mais 220W através de uma placa de 0.017°C/W adicionam menos de 4°C à GPU, e o gráfico do radiador da MSI mostra que o líquido refrigerante sobe apenas cerca de 2°C a mais para essa carga extra.
O que isso significa para um comprador
O WS300 não sofre throttling sob carga sustentada de inferência ou sintética porque seu circuito de resfriamento foi dimensionado acima do limite de potência do Superchip, e as temperaturas medidas deixam uma margem de aproximadamente 20°C na GPU, com a HBM e a CPU operando em temperaturas ainda mais baixas em relação aos seus limites. O componente que esquenta mais é o ConnectX-8, motivo pelo qual ele está no circuito de resfriamento. As temperaturas do líquido refrigerante estabilizam em 15 minutos e se recuperam em poucos minutos, de modo que tarefas consecutivas não geram acúmulo de calor. A velocidade da ventoinha é o único fator que influencia o ruído e a temperatura do líquido refrigerante, e os dados da MSI, que mostram 60% de utilização da capacidade, indicam que o sistema pode sacrificar bastante fluxo de ar antes que as ventoinhas precisem aumentar sua velocidade. O único componente que não diminui de tamanho é o elétrico: um circuito de 20A ainda é necessário na América do Norte, e o consumo em repouso na faixa de 220 a 290W é o custo de manter 252GB de HBM3e e uma CPU Arm de 72 núcleos prontos para uso. Por outro lado, com esse tipo de investimento, o sistema raramente deveria ficar ocioso.
Este relatório é patrocinado pela MSI. Todas as opiniões e pontos de vista expressos neste relatório são baseados em nossa análise imparcial do(s) produto(s) em questão.
Amazon