Efter en lång väntan släpptes NVIDIA DGX Spark förra året, med hopp om att främja en ny våg av AI-ingenjörer och forskare. På StorageReview har vi mottagit flera DGX Spark-system från olika partners för utvärdering, och vi utvecklar några spännande klusterprojekt. De termiska och effektmässiga egenskaperna för dessa olika implementeringar visade sig dock vara för intressanta för att hålla hemliga medan vi avslutar våra fullständiga recensioner.
Det som gör denna jämförelse särskilt intressant är möjligheten att observera hur olika OEM-partners har tolkat NVIDIAs referensdesign. Medan kärnelektroniken och moderkortet förblir desamma i alla implementeringar, varierar lösningarna för värmehantering, chassidesign och luftflödesstrategier avsevärt. Dessa tekniska beslut manifesterar sig som mätbara skillnader i driftstemperaturer, och att förstå dessa variationer ger värdefulla insikter för slutanvändare på marknaden för vissa DGX Sparks.
I den här analysen presenterar vi en sida-vid-sida-jämförelse av termisk och effektmässig prestanda för fem DGX Spark-system: NVIDIA Founders Edition , Gigabyte, Dell, Acer och ASUS.
NVIDIA DGX Spark termisk testmetodik
Data som presenteras här samlades in under körning av vLLM-benchmarks för online-serving med OpenAI:s GPT-OSS-120B-modell. Benchmarket består av tre distinkta testscenarier utformade för att testa olika aspekter av inferenspipelinen.
Det lika stora scenariot presenterar en balanserad arbetsbelastning med 256 inmatnings- och 256 utmatningstokens, vilket resulterar i korta, symmetriska krav på både förfyllnings- och avkodningsfaserna. Det förfyllningstunga scenariot skiftar beräkningsintensiteten mot inmatningsbehandling, med 4096 inmatningstokens som genererar 512 utmatningstokens; denna konfiguration mättar tensorkärnor under den snabba förfyllnings-/kodningsfasen samtidigt som måttliga avkodningskrav bibehålls, som i kodkompletteringsscenarier.
Omvänt vänder det avkodningstunga scenariot på detta förhållande, och använder 512 indatatokens för att generera 4096 utdatatokens, ungefär som att be en modell att skriva en applikation med en enda prompt, vilket skapar ett ihållande minnesbandbreddstryck under den autoregressiva tokengenereringsfasen.
Varje scenario testades i batchstorlekar på 1, 2, 4, 8, 16, 32, 64 och 128, vilket resulterade i totalt 24 teststeg. En nedkylningsperiod på 30 sekunder tillämpades också mellan varje efterföljande steg. Dessa nedkylningsperioder syns i diagrammen som korta svackor mellan teststegen, markerade med vertikala streckade linjer som separerar de skuggade scenarioområdena.
Sjökortsjustering och miljökontroller
Diagrammen som presenteras använder en etappjusterad tidsaxel, vilket innebär att data från alla system synkroniseras efter testetapp snarare än absolut väggklocka. Denna metod möjliggör direkt jämförelse av systembeteende över identiska arbetsbelastningsfaser, även om enskilda system slutförde etapperna med något olika hastigheter på grund av deras termiska strypningsbeteende och ihållande prestandaegenskaper.
De fem systemen testades samtidigt under identiska miljöförhållanden, placerade intill varandra i ett kontrollerat rum med en jämn omgivningstemperatur under hela testet. Denna parallella testmetod säkerställer att eventuella observerade skillnader direkt kan hänföras till systemens termiska design snarare än miljövariabler som drift i omgivningstemperaturen, luftflödesmönster eller variationer vid olika tidpunkter på dygnet.
Dessutom hade alla modeller den senaste NVIDIA Ubuntu-avbildningen installerad.
Datainsamling
Systemmätvärden samlades in med 1-sekundsintervaller med hjälp av ett anpassat övervakningsskript som läser direkt från Linux-kärngränssnitt och nvidia-smi. Vi gjorde inga direkta mätningar med termiska sonder eller någon extern strömövervakning.
Observera att temperaturerna på NVMe-diskar inte kan jämföras direkt, eftersom inte alla system har identiska lagringsenheter. Det är värt att notera att Asus-systemet var den enda enheten som konfigurerats med en 1 TB Phison-disk, Dell-systemet hade en 4 TB Phison-disk och alla andra system vi testade hade en 4 TB Samsung-disk. När vi går igenom varje recension kommer vi att utforska NVMe-diskens temperaturer mer i detalj, eftersom även faktorer som köldbryggor mellan disken och chassit undersida inte är desamma för alla Spark-modeller.
NVIDIA DGX Spark termisk analys
Innan vi går in på de enskilda mätvärdena är det viktigt att förstå att DGX Spark använder ett integrerat kylsystem där komponenter delar termiska vägar. Som framgår av Founders Edition-designen påverkar GPU-värmen direkt temperaturerna hos angränsande komponenter, inklusive processorn, NVMe-lagring och nätverksgränssnitt. Detta termiska beroende innebär att GPU-intensiva arbetsbelastningar skapar kaskadformade termiska effekter i hela systemet, vilket förklarar varför vi ser korrelerade temperaturmönster mellan olika komponenter.
CPU-temperatur
CPU-temperaturdata avslöjar de mest dramatiska skillnaderna mellan implementeringarna. Acer-systemet sticker ut omedelbart och nådde en topp på bara 74.6 °C under det krävande scenariot med förfyllningstung prestanda, medan alla andra system klättrade till mitten till övre 80-talet. Det är en fördel på 10–14 °C jämfört med konkurrenterna, ett betydande termiskt utrymme som tyder på att Acer investerat avsevärt i kylkapacitet.
Founders Edition, Dell och Gigabyte har nästan identiska temperaturprofiler, alla når 87-88°C under toppbelastning. Denna likhet indikerar att de flesta partners i huvudsak har matchat NVIDIAs referenstemperaturdesign snarare än att gå bortom den. ASUS hamnar i mitten och kör några grader svalare än denna grupp men fortfarande långt över Acers prestanda.
Sågtandsmönstret i Equal och Prefill Heavy återspeglar riktmärkets cykliska natur, med tydlig återhämtning under nedkylningsperioder. Under Decode Heavy stabiliseras temperaturerna på en mer ihållande nivå; detta antyder också den minnesintensiva karaktären av tokengenerering och att minneskonfigurationen är en tydlig flaskhals i denna arbetsbelastning.
GPU temperatur
GPU-temperaturerna följer en liknande historia, givet den delade kylinfrastrukturen. Acer når sin topp på bara 68°C under Prefill Heavy, medan de andra fyra systemen alla når 80-82°C, en konsekvent fördel på 12-14°C som speglar CPU-resultaten.
Den täta klustringen mellan Founders Edition, Dell, Gigabyte och ASUS tyder på att dessa implementeringar närmar sig liknande termiska gränser, troligen där GPU:ns firmware-styrda termiska hantering börjar ingripa.
NVMe-temperatur
Lagringstemperaturer visar hur väl varje chassi isolerar hårddiskfacket från datorvärme. Acer leder återigen med en topptemperatur på 51.8 °C jämfört med 58–63 °C för de andra.
Den gradvisa temperaturökningen under testningen, oberoende av arbetsbelastningstoppar, indikerar att värmeutsläpp från intilliggande komponenter ackumuleras över tid. Vid längre finjusteringar eller omfattande modellbyten är detta relevant för hårddiskens livslängd och bibehållen skrivprestanda.
Som tidigare nämnts varierade hårddiskkonfigurationerna mellan system, så dessa jämförelser har vissa förbehåll. Men Acers konsekventa fördel över alla termiska mätvärden pekar på verkliga kylförbättringar snarare än skillnader i hårddiskprestanda.
NIC-temperatur
Om man tittar på ConnectX-7-nätverkets temperaturer når Acer som mest 62°C medan Founders Edition når 75°C, en spridning på 13°C som överensstämmer med det mönster vi har sett för andra komponenter. Gigabyte kör faktiskt svalare här än Dell och ASUS, trots att de kör varmare på processorn, vilket tyder på att värmefördelningen varierar mellan chassin.
GPU-strömförbrukning
Slutligen ville vi kontrollera grafikkortets strömförbrukning. Inte överraskande uppvisade alla fem system anmärkningsvärt liknande maximal strömförbrukning under Prefill Heavy, från 69.3 W (Acer) till 76.0 W (Gigabyte).
Den Takeaway
Data visar tydligt: Acer-enheten vi hade körde 10-15°C svalare än konkurrenterna inom alla mätvärden, vilket tyder på en fundamentalt överlägsen kyllösning. Founders Edition, Dell och Gigabyte klustrar termiskt ihop och matchar i princip NVIDIAs referensdesign. ASUS ligger i mellanklassen. Strömförbrukningen är enhetlig, vilket bekräftar att de termiska skillnaderna enbart beror på kylningsimplementeringen. Gigabyte stack dock ut från mängden. Den erbjöd en av de bästa kylprofilerna med en av de högsta GPU-effektnivåerna, och uppnådde den bästa balansen mellan kylning och effekt.
Sammantaget presterar partnermodellerna mycket lika, och användare kan inte göra fel med någon av dem. Men nyfikna läsare bör hålla utkik efter en omfattande recension av varje system, som täcker arbetsbelastningsprestanda och allas favorit: nedmonteringar.
Amazon