Najczęstsze pytanie, jakie zadawano nam na temat MSI XpertStation WS300 po naszej recenzji, skupiało się wokół jednego kluczowego tematu. GB300 Grace Blackwell Ultra Superchip to jednostka o mocy 1,300 W, która normalnie znajduje się w szafie chłodzonej cieczą. Co więc dzieje się z jej temperaturą po umieszczeniu w obudowie typu tower? Obawy są uzasadnione: system GB300, który osiągnie limit termiczny, straci wydajność, a system, który dławi się pod wpływem długotrwałego wnioskowania, nie spełnia oczekiwań. W naszej recenzji stwierdziliśmy, że WS300 pozostał chłodny i stabilny podczas testów. Przyczyna tkwi w danych projektowych chłodzenia MSI, połączonych tutaj ze śladami temperatury, poboru mocy i taktowania, które zarejestrowaliśmy podczas testu systemu.
Co ma zrobić pętla
Budżet cieplny stacji DGX jest ustalany przez firmę NVIDIA; moduł GB300 ma limit mocy SuperChip 1,300 W, a cały system jest zasilany z pojedynczego zasilacza o mocy 1,600 W, który musi również zasilać pamięć masową, pompy, wentylatory i opcjonalną kartę RTX PRO. Niemal całe 1,300 W jest odprowadzane w postaci ciepła w czterech miejscach: w procesorze graficznym Blackwell Ultra z 252 GB pamięci HBM3e, 72-rdzeniowym procesorze Grace, 496 GB pamięci RAM w czterech modułach SOCAMM LPDDR5X oraz karcie sieciowej ConnectX-8 SuperNIC z dwoma portami optycznymi 400 GbE. MSI montuje radiatory chłodzące na wszystkich czterech kartach, a pętla chłodzenia przebiega przez dwa radiatory 360 mm z sześcioma wentylatorami 120 mm. Oddzielny wentylator 120 mm zapewnia przepływ powietrza przez resztę obudowy, co odpowiada za dyski SSD i inne elementy chłodzone powietrzem. MSI szacuje, że moc pobierana przez procesor i kartę graficzną wynosi 1,400 W, czyli jest ona o około 100 W wyższa niż moc pobierana przez układ Superchip firmy NVIDIA.
Ten margines 100 W to decyzja projektowa, która ma ogromne znaczenie. Pętla zaprojektowana wyłącznie dla obciążenia nominalnego nie ma miejsca na ciepłe biuro, zakurzony grzejnik ani wentylator pracujący poniżej pełnej prędkości. Pętla z zapasem mocy powyżej limitu oznacza, że krzem osiąga maksymalną moc, zanim osiągnie maksymalną temperaturę.
Dane Cold Plate firmy MSI
Firma MSI udostępniła nam dane dotyczące charakterystyki pętli. Firma nazywa tę metodologię CIT (Component Integrity Test) i oznacza krzywe jako empiryczne: zostały zmierzone na stole laboratoryjnym w powtarzających się cyklach ciśnienia i temperatury. Pierwszy wykres jest tym, na którym inżynierowie zajmujący się termodynamiką najbardziej się interesują. Przedstawia on opór cieplny w stopniach Celsjusza na wat dla płyt chłodzących procesora graficznego i procesora w funkcji natężenia przepływu chłodziwa, wraz ze spadkiem ciśnienia, jaki każda z płyt wywiera na pompę.
Płyta GPU zaczyna się od około 0.031 C/W przy strużce 0.3 litra na minutę i gwałtownie spada wraz ze wzrostem przepływu, osiągając około 0.017 C/W przy 1.5 LPM i 0.012 C/W przy 3 LPM. Płyta CPU, która pokrywa część o znacznie niższej mocy, znajduje się wyżej, około 0.028 C/W przy 1.5 LPM. Opór cieplny to mnożnik, który zamienia waty na stopnie: przy 1.5 LPM każde 100 W przechodzące przez płytę GPU kosztuje około 1.7 C wzrostu między chłodziwem a płytą. Przepchnij przez nią 1,000 W, a płyta będzie działać około 17 C nad wodą. Kompromisem jest spadek ciśnienia, który rośnie z kwadratem przepływu. Przy 1.5 LPM płyta GPU kosztuje pompę około 1.1 PSI, a płytę CPU około 1.9 PSI. Krzywe stają się płaskie powyżej 2 LPM, dlatego pętla jest zaprojektowana do pracy w zakresie od 1.5 do 2 LPM; wyższy przepływ wiąże się ze zmniejszającym się zyskiem ciepła przy dużym koszcie pompy.
Grzejniki, wentylatory i kompromis w kwestii hałasu
Drugi zestaw wykresów obejmuje drugi koniec pętli. ATD to termin oznaczający różnicę temperatur otoczenia, czyli wzrost temperatury czynnika chłodzącego ponad temperaturę powietrza w pomieszczeniu po opuszczeniu grzejników. Jest to wartość, która określa minimalną temperaturę dla każdego komponentu w systemie, ponieważ nic w pętli nie może pracować chłodniej niż woda, która go zasila. MSI przedstawia wykres zależności ATD od obciążenia cieplnego dla pary grzejników 360 mm przy przepływie od 1 do 2 l/min, raz z sześcioma wentylatorami pracującymi z modulacją szerokości impulsu (PWM) w 100%, a raz z modulacją 60%.
Przy pełnej prędkości wentylatora, radiatory utrzymują temperaturę czynnika chłodzącego w zakresie od 5 do 9°C od temperatury otoczenia przy obciążeniu cieplnym 1,000 W w całym zakresie przepływu oraz w zakresie od 8 do 12°C przy obciążeniu 1,400 W, przekraczając limit mocy układu Superchip. Linie są niemal liniowe, a wolniejszy czynnik chłodzący dłużej przebywa w radiatorze i wypływa bliżej temperatury pokojowej, dlatego linia 1 l/min znajduje się najniżej; kompromisem jest wyższa rezystancja płyty chłodzącej przy niskim przepływie z pierwszego wykresu, więc punkt pracy pętli stanowi równowagę między tymi dwoma parametrami. Wykres 60-procentowej modulacji szerokości impulsu (PWM) jest bardziej realistyczny dla systemu ustawionego obok biurka, ponieważ nikt nie uruchamia (ani nie chce uruchamiać) sześciu wentylatorów 120 mm na pełnych obrotach w biurze.
Przy 60 procentach, ATD mniej więcej się podwaja: 10 do 16°C przy 1,000 W i 15 do 23°C przy 1,400 W, co jest stosunkowo niewielką stratą. Nawet przy pełnej mocy Superchip i obniżonej prędkości wentylatora, czynnik chłodzący dostaje się do płyt chłodzących nie wyżej niż około 23°C nad pomieszczeniem. Dodając 17°C wzrostu temperatury płyty GPU z pierwszego wykresu, pakiet Blackwell Ultra pracuje około 40°C powyżej otoczenia przy 1,000 W, co mieści się w zakresie roboczym w każdym normalnym biurze. Ostatni wykres MSI przedstawia krzywą impedancji powietrznej radiatora, która pokazuje ciśnienie, jakie wentylatory muszą pokonać, aby przepchnąć powietrze przez stos żeberek, osiągając około 1 mm słupa wody przy 135 CFM i 2 mm przy 185 CFM. Jest to rdzeń o niskich ograniczeniach, który pozwala wentylatorom pracować wolno.
Nasz bieg: ~3 godziny na GB300
Krzywe projektowe określają, co pętla powinna robić. Aby sprawdzić, co faktycznie robi, zarejestrowaliśmy 2.8-godzinną sesję WS300, składającą się z pięciu faz: 75-minutowego wypalania przy stałym obciążeniu GPU, następnie DeepSeek v4 Flash obsługiwany przez vLLM w trzech profilach, równego obciążenia tokenami 512 wejściowymi i 512 wyjściowymi, obciążenia 8,192 wejściowymi i 1,024 wyjściowymi z dużą ilością wstępnego wypełniania oraz obciążenia 1,024 wejściowymi i 8,192 wyjściowymi z dużą ilością dekodowania, stopniowanego z rosnącą współbieżnością, a następnie okna obserwacji w stanie bezczynności. Ciągle próbkowaliśmy dane telemetryczne GPU, HBM, CPU i zasilania. Temperatury chłodziwa, powietrza w obudowie i płyty głównej były pobierane z kontrolera BMC, który badaliśmy co kilka minut. Zacieniowane obszary na każdym wykresie oznaczają fazy.
Podczas całego testu temperatura rdzenia Blackwell Ultra wynosiła 60°C, HBM3e była o około 10°C cieplejsza (70°C), a Grace 64°C. Są to wartości w stanie ustalonym przy mocy GPU wynoszącej około 1,000 W i nie wzrosły one w ciągu 75 minut, co jest oznaką pętli, która osiągnęła równowagę z zapasem mocy. Fazy wnioskowania są średnio chłodniejsze, ponieważ obciążenie jest bardziej dynamiczne: GPU ponownie osiągnęło szczyt na poziomie 60°C podczas takiego samego obciążenia i 58°C podczas długiego narastania dekodowania, a HBM osiągnęło szczyt na poziomie 73°C. Ząb piły na linii DRAM jest artefaktem interwału próbkowania BMC; sam LPDDR5X osiągnął szczyt około 75°C. Najcieplejszym czujnikiem w zestawie przez większość testu był ConnectX-8 z temperaturą 76–77°C. Temperatury w stanie spoczynku ustabilizowały się na poziomie 33–36°C w przypadku GPU i HBM oraz około 48°C w przypadku Grace.
Podczas wygrzewania, temperatura płynu chłodzącego opuszczającego chłodnice wynosiła 37°C, a powracającego z płyt chłodzących 47°C, co oznacza wzrost o 10°C w obwodzie. Temperatura powietrza wewnątrz obudowy osiągnęła 46°C, płyty bazowej BMC 52°C, a czujnika na najgorętszej płycie 56°C. Każda z tych linii osiąga plateau w ciągu pierwszych 15 minut obciążenia i utrzymuje się na stałym poziomie, a następnie spada w ciągu kilku minut po zakończeniu obciążenia. Na biegu jałowym temperatura płynu chłodzącego wynosiła od 30 do 31°C.
W fazie wypalania pobór mocy GPU utrzymywał się na poziomie około 995 W, a Grace dodała kolejne 85–90 W, co daje łącznie około 1,080 W dla Superchip, czyli obciążenia odpowiadającego delcie chłodziwa powyżej. Równe obciążenie chwilowo osiągnęło ten sam poziom 1,000 W dla GPU przy wysokiej współbieżności; faza intensywnego wypełniania przebiegała w krótkich seriach do około 1,050 W; a faza intensywnego dekodowania najwyraźniej obrazuje, jak serwer inferencyjny obciąża GPU, zwiększając pobór mocy z około 500 W do nieco ponad 1,000 W, gdy współbieżność podwajała się na każdym etapie. W żadnym momencie testu całkowita moc Superchip nie zbliżyła się do limitu 1,300 W zaznaczonego na wykresie o więcej niż 200 W. Warto zwrócić uwagę na stan bezczynności, który jest istotny dla każdego, kto planuje zużycie energii: sam procesor graficzny pobiera od 150 do 210 W, gdy nic nie jest uruchomione, a cały Superchip pobiera od 220 do 290 W.
Blackwell Ultra pracował z częstotliwością około 2.07 GHz od momentu rozpoczęcia do zakończenia testu, zachowując płaską linię w każdej fazie, bez żadnych spadków. Grace utrzymywał się w pobliżu 3.5 GHz z normalnym jitterem, HBM utrzymywał się na poziomie 4,000 MHz, a LPDDR5X na poziomie 3,200 MHz. Ograniczony termicznie procesor graficzny (GPU) objawia się tutaj bardzo niestabilnym taktowaniem, ponieważ algorytm boost wycofuje się i powraca do działania; ograniczony poborem mocy objawia się taktowaniem śledzącym obciążenie; żaden z tych wzorców nie wystąpił w naszych testach. Przy tych obciążeniach system nie był ani wystarczająco gorący, ani wystarczająco ograniczony poborem mocy, aby opuścić swoje maksymalne taktowanie.
Łącząc te dwa elementy
Krzywe MSI i nasze pomiary zostały opracowane niezależnie i razem prowadzą do tego samego wniosku. Zacznijmy od wzrostu temperatury chłodziwa o 10°C przy mocy 1,080 W. Ciepło przenoszone przez ciecz to iloczyn przepływu i wzrostu temperatury, więc delta oznacza natężenie przepływu chłodziwa wynoszące około 1.5 litra na minutę dla chłodziwa na bazie wody, co mieści się dokładnie w zakresie scharakteryzowanym przez MSI. Przeczytaj wykres chłodnicy MSI przy takim przepływie i obciążeniu: przy 100% prędkości wentylatora, temperatura chłodziwa powinna znajdować się około 8°C nad pomieszczeniem; przy 60%, około 14°C. Nie mieliśmy skalibrowanego czujnika temperatury otoczenia w laboratorium MSI, więc nie możemy zamknąć tej pętli do stopnia, ale temperatura zasilania 37°C jest zgodna z ciepłym pomieszczeniem laboratoryjnym i wentylatorami pracującymi znacznie poniżej pełnej prędkości.
Przy przepływności 1.5 l/min zmierzona rezystancja płytki GPU wynosi około 0.017 C/W, co przy mocy 995 W przewiduje wzrost temperatury między chłodziwem a płytką o 17°C. Zmierzyliśmy temperaturę rdzenia Blackwell Ultra w temperaturze 60°C w porównaniu z zasilaniem o temperaturze 37°C, co daje 23°C przerwy. Różnica 6°C między nimi dotyczy interfejsu termicznego i samej obudowy, czyli części ścieżki, której płytka chłodząca nie jest w stanie kontrolować, i jest to niewielka wartość dla dwuwarstwowego układu GPU tej wielkości. Płytka działa zgodnie z danymi testowymi MSI, a odstęp między rdzeniem a chłodziwem jest determinowany przez fizykę.
Przekładając budżet w drugą stronę, omawiany wcześniej zapas mocy staje się bardziej widoczny. Procesory graficzne NVIDIA dla centrów danych nie zaczynają obniżać taktowania, dopóki rdzeń nie osiągnie temperatury dobrze powyżej 80°C, więc WS300 przy pełnym obciążeniu stałym pozostawiał około 20°C między rdzeniem Blackwell Ultra a punktem, w którym wkroczyłoby zarządzanie termiczne, a to przy pętlach pobierających 1,080 W. Nawet przy najgorszym limicie 1,300 W dla Superchipa, kolejne 220 W przez płytkę 0.017 C/W dodaje niecałe 4°C do GPU, a wykres radiatora MSI pokazuje, że temperatura płynu chłodzącego wzrasta tylko o około 2°C przy tym dodatkowym obciążeniu.
Co to oznacza dla kupującego
WS300 nie dławi się pod wpływem długotrwałego wnioskowania lub obciążenia syntetycznego, ponieważ jego pętla chłodzenia została przeskalowana powyżej limitu mocy Superchipa, a zmierzone temperatury pozostawiają około 20°C marginesu na GPU, przy czym HBM i CPU działają chłodniej w stosunku do swoich limitów. Komponentem, który nagrzewa się najbardziej, jest ConnectX-8, dlatego właśnie jest w pętli. Temperatura chłodziwa stabilizuje się w ciągu 15 minut i wraca do normy w ciągu kilku minut, więc kolejne zadania nie powodują kumulacji ciepła. Prędkość wentylatora jest jedynym czynnikiem decydującym o poziomie hałasu i temperatury chłodziwa, a dane MSI na poziomie 60% pokazują, że system może oddać dużo przepływu powietrza, zanim wentylatory będą musiały się skalować. Jedną rzeczą, która się nie zmniejsza, jest strona elektryczna: w Ameryce Północnej nadal wymagany jest obwód 20 A, a pobór mocy w stanie spoczynku w zakresie 220–290 W to koszt utrzymania 252 GB pamięci HBM3e i 72-rdzeniowego procesora ARM w gotowości do pracy. Z drugiej strony, przy tego typu inwestycjach, system rzadko powinien być pozostawiany bezczynnie.
Niniejszy raport jest sponsorowany przez MSI. Wszystkie poglądy i opinie wyrażone w niniejszym raporcie opierają się na naszej obiektywnej opinii na temat rozpatrywanego produktu/produktów.
Amazon