De meest gestelde vraag over de MSI XpertStation WS300 na onze review draait om één belangrijk thema. De GB300 Grace Blackwell Ultra Superchip is een chip van 1,300W die normaal gesproken in een vloeistofgekoeld rack wordt gebruikt. Wat gebeurt er dan met de temperatuur als je hem in een towerbehuizing plaatst? Die zorg is terecht: een GB300-systeem dat zijn thermische limiet bereikt, zal prestatieverlies lijden, en een systeem dat bij aanhoudende inferentie oververhit raakt, levert niet wat het beloofd heeft. In onze review gaven we aan dat de WS300 tijdens de tests koel en stabiel bleef. De reden hiervoor ligt in de koelontwerpgegevens van MSI zelf, die we hier combineren met de temperatuur-, stroom- en kloksnelheidsmetingen die we tijdens een test met het systeem hebben vastgelegd.
Wat de lus te doen heeft
Het thermische budget van een DGX Station wordt bepaald door NVIDIA; de GB300-module heeft een SuperChip-vermogenslimiet van 1,300W en het hele systeem wordt gevoed door één enkele voeding van 1,600W, die ook de opslag, pompen, ventilatoren en een eventuele RTX PRO-kaart van stroom moet voorzien. Bijna al die 1,300W komt terecht in warmte op vier plekken: de Blackwell Ultra GPU met 252 GB HBM3e-geheugen, de Grace CPU met 72 cores, 496 GB geheugen verdeeld over vier SOCAMM LPDDR5X-modules en de ConnectX-8 SuperNIC met twee 400GbE optische poorten. MSI plaatst koelplaten op al deze vier componenten en de koeling loopt via twee 360 mm radiatoren met zes 120 mm ventilatoren. Een aparte 120 mm chassisventilator zorgt voor luchtcirculatie in de rest van de behuizing voor de SSD's en andere luchtgekoelde onderdelen. MSI geeft aan dat het totale stroomverbruik van de CPU en GPU 1,400W bedraagt, ongeveer 100W meer dan wat NVIDIA toestaat voor de Superchip.
Die marge van 100W is een ontwerpbeslissing die er wel degelijk toe doet. Een koelsysteem dat alleen is ontworpen voor de nominale belasting, biedt geen ruimte voor een warme kantooromgeving, een stoffige radiator of een ventilator die niet op volle snelheid draait. Een koelsysteem met voldoende marge boven de vermogenslimiet betekent dat de chip zijn maximale vermogen bereikt voordat hij zijn maximale temperatuur bereikt.
MSI's gegevens over koelplaten
MSI deelde de karakteriseringsgegevens achter de testlus met ons. Het bedrijf noemt de methodologie CIT, oftewel Component Integrity Test, en bestempelt de grafieken als empirisch: ze werden op de testbank gemeten tijdens herhaalde druk- en thermische cycli. De eerste grafiek is de grafiek die voor een thermisch ingenieur het meest relevant is. Deze geeft de thermische weerstand in graden Celsius per watt weer voor de koelplaten van de GPU en CPU, uitgezet tegen de koelvloeistofstroom, samen met de drukval die elke plaat op de pomp uitoefent.
De thermische weerstand van de GPU-koelplaat begint rond de 0.031 °C/W bij een debiet van 0.3 liter per minuut en daalt sterk naarmate het debiet toeneemt, tot ongeveer 0.017 °C/W bij 1.5 liter per minuut en 0.012 °C/W bij 3 liter per minuut. De thermische weerstand van de CPU-koelplaat, die een veel lager stroomverbruik heeft, ligt hoger, rond de 0.028 °C/W bij 1.5 liter per minuut. Thermische weerstand is de factor die watt omzet in graden: bij 1.5 liter per minuut kost elke 100 watt die door de GPU-koelplaat gaat ongeveer 1.7 °C temperatuurstijging tussen de koelvloeistof en de plaat. Bij een vermogen van 1,000 watt loopt de temperatuur van de plaat ongeveer 17 °C hoger dan die van het water. De keerzijde is de drukval, die toeneemt met het kwadraat van het debiet. Bij 1.5 liter per minuut kost de GPU-koelplaat de pomp ongeveer 1.1 psi en de CPU-koelplaat ongeveer 1.9 psi. De curve vlakt af boven de 2 LPM, daarom is het circuit ontworpen om te werken in het bereik van 1.5 tot 2 LPM; een hogere doorstroming levert een afnemend thermisch rendement op voor hogere pompkosten.
Radiatoren, ventilatoren en de afweging tussen geluid en geluid.
De tweede reeks grafieken behandelt het andere uiteinde van de koelingslus. ATD staat voor Ambient Temperature Difference, oftewel de temperatuurstijging van de koelvloeistof ten opzichte van de omgevingstemperatuur nadat deze de radiatoren heeft verlaten. Dit getal bepaalt de ondergrens voor de temperatuur van alle componenten in het systeem, aangezien niets in de koelingslus kouder kan zijn dan het water dat erdoorheen stroomt. MSI plot de ATD tegen de warmtebelasting voor de twee 360 mm radiatoren bij debieten van 1 tot 2 LPM, eenmaal met de zes ventilatoren op 100 procent PWM (pulsbreedtemodulatie) en eenmaal op 60 procent.
Bij maximale ventilatorsnelheid houden de radiatoren de koelvloeistof binnen 5 tot 9 °C van de omgevingstemperatuur bij een warmtebelasting van 1,000 W over het gehele debietbereik, en binnen 8 tot 12 °C bij 1,400 W, voorbij de vermogenslimiet van de Superchip. De lijnen zijn vrijwel lineair, en langzamer stromende koelvloeistof blijft langer in de radiator en komt er dichter bij kamertemperatuur uit, vandaar dat de lijn bij 1 LPM het laagst ligt; de keerzijde hiervan is de hogere weerstand van de koelplaat bij een lage doorstroming, zoals te zien is in de eerste grafiek, dus het werkingspunt van de koelingslus is een balans tussen de twee. De grafiek met 60 procent PWM is de meest realistische voor een systeem naast een bureau, omdat niemand zes 120 mm ventilatoren op volle snelheid in een kantoor laat draaien (of wil laten draaien).
Bij 60 procent verdubbelt de ATD (Average Temperature Difference) ruwweg: 10 tot 16 °C bij 1,000 W en 15 tot 23 °C bij 1,400 W, een relatief bescheiden verlies. Zelfs bij vol vermogen van de Superchip en een lagere ventilatorsnelheid komt de koelvloeistof niet meer dan ongeveer 23 °C boven de omgevingstemperatuur bij de koelplaten. Tel daar de temperatuurstijging van 17 °C van de GPU-plaat uit de eerste grafiek bij op, en het Blackwell Ultra-pakket draait op ongeveer 40 °C boven de omgevingstemperatuur bij 1,000 W, ruim binnen het normale werkingsbereik in een kantooromgeving. De laatste MSI-grafiek is de luchtweerstandscurve van de radiator, die de druk laat zien die de ventilatoren moeten overwinnen om lucht door de koelribben te persen. Deze druk bedraagt ongeveer 1 mm waterkolom bij 135 CFM en 2 mm bij 185 CFM. Het is een kern met lage weerstand, waardoor de ventilatoren langzaam kunnen draaien.
Onze rit: ongeveer 3 uur op de GB300
Ontwerpcurves geven aan wat een lus zou moeten doen. Om te zien wat hij daadwerkelijk doet, hebben we de WS300 gedurende een sessie van 2.8 uur gelogd, bestaande uit vijf fasen: een burn-in van 75 minuten met een constante GPU-belasting, vervolgens DeepSeek v4 Flash via vLLM onder drie profielen, een workload met 512 input- en 512 output-tokens, een workload met veel prefill (8,192 input en 1,024 output) en een workload met veel decode (1,024 input en 8,192 output), waarbij de gelijktijdigheid steeds verder werd opgevoerd, gevolgd door een observatieperiode in rust. We hebben continu de telemetrie van de GPU, HBM, CPU en het stroomverbruik gemeten. De temperaturen van de koelvloeistof, de lucht in de behuizing en het moederbord werden elke paar minuten uitgelezen door de BMC. De gearceerde gebieden in elke grafiek markeren de fasen.
Tijdens de volledige burn-in bleef de temperatuur van de Blackwell Ultra-chip op 60 °C, terwijl HBM3e ongeveer 10 °C warmer was met 70 °C en Grace op 64 °C. Dit zijn de stabiele waarden bij een GPU-vermogen van ongeveer 1,000 W, en ze liepen gedurende de 75 minuten niet op. Dit is een teken dat de cyclus een evenwicht heeft bereikt met voldoende marge. De inferentiefasen zijn gemiddeld koeler omdat de belasting meer piekt: de GPU bereikte opnieuw een piek van 60 °C tijdens de gelijke belasting en 58 °C tijdens de lange decode-ramp, terwijl HBM een piek van 73 °C bereikte. De zaagtand op de DRAM-lijn is een artefact van het bemonsteringsinterval van de BMC; de LPDDR5X zelf bereikte een piek van ongeveer 75 °C. De warmste sensor in de testomgeving was gedurende het grootste deel van de test de ConnectX-8 met 76 tot 77 °C. De temperaturen in ruststand stabiliseerden zich op 33 tot 36 °C voor de GPU en HBM en rond de 48 °C voor Grace.
Tijdens het inbranden verliet de koelvloeistof de radiatoren met een temperatuur van 37°C en keerde terug van de koelplaten met een temperatuur van 47°C, een stijging van 10°C over het hele circuit. De temperatuur van de lucht in de behuizing bereikte 46°C, die van het BMC-moederbord 52°C en die van de warmste sensor op het moederbord 56°C. Elk van deze temperaturen stabiliseerde zich binnen de eerste 15 minuten na belasting en bleef vervolgens vlak, om daarna binnen enkele minuten weer te dalen zodra de belasting stopt. In ruststand was de temperatuur van de koelvloeistof 30 tot 31°C.
Tijdens de burn-in bleef het GPU-vermogen rond de 995W, waarbij Grace daar nog eens 85 tot 90W aan toevoegde, voor een totaal Superchip-vermogen van bijna 1,080W. Dit komt overeen met de belasting die in de bovenstaande grafiek wordt weergegeven. Bij dezelfde workload werd het GPU-vermogen kortstondig op hetzelfde niveau van 1,000W gebracht bij hoge gelijktijdigheid. De fase met veel prefill-taken liep in korte bursts op tot een totaal van ongeveer 1,050W. De fase met veel decodeertaken geeft het duidelijkste beeld van hoe een inferentieserver een GPU belast, waarbij het vermogen oploopt van ongeveer 500W tot iets meer dan 1,000W naarmate de gelijktijdigheid in elke fase verdubbelde. Op geen enkel moment tijdens de test kwam het totale Superchip-vermogen binnen 200W van de limiet van 1,300W die in de grafiek is aangegeven. Het is belangrijk om te weten dat het vermogen in ruststand ook van belang is voor iedereen die het stroomverbruik plant: de GPU alleen al verbruikt 150 tot 210W wanneer er niets draait, en het totale Superchip-vermogen in ruststand ligt tussen de 220 en 290W.
De Blackwell Ultra draaide vanaf het begin van de burn-in tot het einde van de test op ongeveer 2.07 GHz, met een vlakke lijn gedurende elke fase zonder dipjes. Grace bleef rond de 3.5 GHz met normale jitter, HBM bleef op 4,000 MHz en de LPDDR5X bleef op 3,200 MHz. Een GPU met thermische beperkingen uit zich hier in een zeer schokkerig verloop, omdat het boost-algoritme terugschakelt en zich herstelt; een GPU met beperkte stroomvoorziening uit zich in een kloksnelheid die de belasting volgt; geen van beide patronen kwam voor in onze tests. Onder deze workloads werd het systeem niet warm genoeg en was er geen sprake van stroombeperkingen waardoor de maximale kloksnelheid niet werd overschreden.
De twee met elkaar verbinden
De grafieken van MSI en onze metingen zijn onafhankelijk van elkaar geproduceerd en komen tot dezelfde conclusie. Begin bij een temperatuurstijging van 10 °C voor de koelvloeistof bij 1,080 W. De warmte die een vloeistof transporteert, is debiet maal temperatuurstijging, dus dat verschil impliceert een koelvloeistofdebiet van ongeveer 1.5 liter per minuut voor koelvloeistof op waterbasis, precies binnen het bereik dat MSI heeft aangegeven. Lees de radiatorgrafiek van MSI bij dat debiet en die belasting: bij 100 procent ventilatorsnelheid zou de koelvloeistof ongeveer 8 °C warmer moeten zijn dan de omgevingstemperatuur; bij 60 procent ongeveer 14 °C. We hadden geen gekalibreerde omgevingssensor in het laboratorium van MSI, dus we kunnen die regelkring niet tot op de graad nauwkeurig sluiten, maar een aanvoertemperatuur van 37 °C komt overeen met een warme laboratoriumruimte en ventilatoren die ruim onder hun maximale snelheid draaien.
Bij een luchtstroom van 1.5 LPM bedraagt de gemeten weerstand van de GPU-plaat ongeveer 0.017 °C/W. Bij een vermogen van 995 W voorspelt dit een temperatuurstijging van 17 °C van de koelvloeistof naar de plaat. We hebben de Blackwell Ultra-chip gemeten op 60 °C bij een voedingstemperatuur van 37 °C, een verschil van 23 °C. Het verschil van 6 °C tussen de twee wordt veroorzaakt door de thermische interface en de chip zelf, het deel van het traject dat de koelplaat niet kan beheersen. Dit is een klein verschil voor een dual-reticle GPU van dit formaat. De plaat doet wat de benchmarkgegevens van MSI aangeven, en de marge tussen de chip en de koelvloeistof wordt bepaald door natuurkundige wetten.
Als we het budget andersom bekijken, wordt de eerder besproken speelruimte duidelijker zichtbaar. De datacenter-GPU's van NVIDIA beginnen pas met het verlagen van de kloksnelheid wanneer de chip al ruim boven de 80 graden Celsius zit. De WS300 had bij volledige, continue belasting dus nog maar zo'n 20 graden Celsius over tussen de Blackwell Ultra-chip en het punt waarop thermisch beheer zou ingrijpen, en dat terwijl de koeling 1,080 W verbruikte. Zelfs bij de maximale Superchip-limiet van 1,300 W zorgt een extra vermogen van 220 W via een koelplaat van 0.017 °C/W voor minder dan 4 graden Celsius extra op de GPU. De radiatorgrafiek van MSI laat zien dat de koelvloeistof bij die extra belasting slechts ongeveer 2 graden Celsius warmer wordt.
Wat dit betekent voor een koper
De WS300 vertoont geen prestatievermindering bij langdurige inferentie of synthetische belasting, omdat de koelloop boven de stroomlimiet van de Superchip is gedimensioneerd. De gemeten temperaturen laten een marge van ongeveer 20°C over bij de GPU, waarbij HBM en CPU nog steeds koeler blijven ten opzichte van hun limieten. Het onderdeel dat het warmst wordt, is de ConnectX-8, wat de reden is dat deze in de koelloop is opgenomen. De koelvloeistoftemperatuur stabiliseert binnen 15 minuten en herstelt zich binnen enkele minuten, waardoor opeenvolgende taken geen warmteophoping veroorzaken. De ventilatorsnelheid is de enige factor die de balans tussen geluidsproductie en koelvloeistoftemperatuur bepaalt, en de gegevens van MSI over 60% laten zien dat het systeem een aanzienlijke luchtstroom kan leveren voordat de ventilatoren harder moeten draaien. Wat niet krimpt, is het stroomverbruik: in Noord-Amerika is nog steeds een 20A-circuit vereist, en een stroomverbruik van 220 tot 290W in ruststand is nodig om 252 GB HBM3e en een 72-core Arm CPU operationeel te houden. Aan de andere kant, met zo'n investering zou het systeem zelden inactief moeten zijn.
Dit rapport is gesponsord door MSI. Alle standpunten en meningen die in dit rapport worden geuit, zijn gebaseerd op onze onpartijdige beoordeling van het/de betreffende product(en).
Amazon