Hem FöretagJetCool SmartPlate-system: Överbryggar gapet mellan luft- och vätskekylning

JetCool SmartPlate-system: Överbryggar gapet mellan luft- och vätskekylning

by Dylan Bryan

JetCool SmartPlate-systemet är en utmärkt ingångspunkt för vätskekylning - speciellt när en hel vätskeslinga inte är ett alternativ.

Vätskekylning erbjuder betydande fördelar jämfört med traditionell luftkylning, särskilt för datormiljöer med hög densitet. Genom att effektivt avleda värme från processorer kan vätskekylning minska energiförbrukningen, sänka driftstemperaturerna och förbättra systemets övergripande prestanda. JetCools SmartPlate-system är en utmärkt ingångspunkt för fristående, sluten vätskekylning - speciellt för miljöer där en hel vätskeslinga inte är ett alternativ.

JetCool Dell PowerEdge R760

Att lägga till slutna loopar till dator- och GPU-servrar är inte nytt; vi har sett slutna slingor i många täta serverplattformar, som Dell, HPE och Lenovo. Tekniken är fantastisk eftersom den eliminerar behovet av komplexa infrastrukturmodifieringar, vilket minskar förskottskostnaderna och pågående underhållskrav. Fördelarna med slutna system är inte lika robusta som en full loop med CDU och anläggningsvatten, men de erbjuder fortfarande många energieffektivitetsfördelar.

JetCool är ett namn som vi har sett dyka upp på mässor som SuperCompute och senast på Dell Tech World i maj. De får uppmärksamhet som en lösning för högpresterande arbetsbelastningar som är både CPU- och GPU-drivna. JetCool stöder ett brett utbud av Intel- och AMD-processorer och GPU:er som NVIDIA H100 i formfaktorer med sockel och tilläggskort. JetCool har också släppt sina ingenjörer på framväxande plattformar som GB200 Superchip och nästa generations CPU-arkitekturer.

 

Visa det här inlägget på Instagram

 

Ett inlägg som delas av StorageReview (@storagereview)

JetCool SmartPlate-systemet är nu tillgängligt över hela världen via Dell och dess kanalpartner, som erbjuder omfattande global service, support och garantitäckning. Att lägga till JetCool till en server är ungefär en 10 % uppgradering utöver basserverns konfigurationspris.

För att bättre förstå hur systemet fungerar skickade JetCool oss deras Dell PowerEdge R760-system med en sluten slinga för granskning.

Vad är JetCool-skillnaden?

JetCools patenterade mikrokonvektiva kylningsteknik riktar sig mot hotspots med vätskestrålar, vilket ger överlägsen värmeöverföring och kylningseffektivitet jämfört med traditionella metoder. Denna riktade vätskekylning ökar också effektiviteten, där Jetcool hävdar upp till 50 % mindre energi vid kylning och en total effektminskning på nästan 18 %. Denna lösning liknar visuellt andra vätskekylningsinställningar med sluten slinga, men JetCool SmartPlates gör hela skillnaden.

Diagram över SmartPlate-systemet från Jetcool

Vätskestrålarna i SmartPlate-systemet tvingar kylvätska över hotspots på formen för att flytta värme mer effektivt än ett passivt flöde. Effektiviteten hos denna kyllösning gör att Jetcool-systemet kan köras med kylvätska med högre temperatur samtidigt som det fungerar bra. Denna kyleffektivitet spelar i sin tur in i energieffektiviteten vid kylning, och tack vare lägre luftflödeskrav minskar den inte bara temperaturen på CPU:n utan även hela datacentret. Att sänka datacentertemperaturen kan minska de löpande driftskostnaderna för hela anläggningen.

De flesta datacenterleverantörer bygger sina anläggningar enligt riktlinjerna från American Society of Heating, Refrigerating and Air-Conditioning Engineers (ASHRAE), enligt A1-A4-standarderna. Dessa standarder anger ett rekommenderat temperaturområde på 64.4°F till 80.6°F för luftkylda datacenter. Med komponenter med högre prestanda och högre efterfrågan beräkningsuppgifter, släpper nyare högdensitetsservrar ut högre mängder värme. Detta medför svårigheter för datacenter eftersom ASHRAE:s nya H1-standarder säger att miljöerna bör kylas till ett intervall på 64.4°F till 71.6°F. Detta ger möjlighet att uppgradera kylkapaciteten för hela anläggningen (vilket ökar effektbehovet och driftskostnaderna) eller installera ett anläggningsomfattande vätskekylningssystem. Båda dessa val medför enorma förskottskostnader. Det är här JetCools system syftar till att hjälpa till att flytta kylningen till serverchassit och minskar behovet av att sänka luftkylningstemperaturen och hålla behoven inom de typiska ASHRAE A1-A4 riktlinjerna samtidigt som driftskostnadseffekten minimeras.

Ett annat område JetCools SmartPlate-system hjälper till att förbättra är bullerföroreningar. Med SmartPlate-lösningen kan system köras 13dBA tystare på grund av chassit reducerade fläkthastighet. Denna tystare drift minskar anläggningens buller och kan hjälpa till att minska vibrationer från utrustning. JetCool säger att denna minskning på 13 dBA minskar anläggningsljudet med upp till 4X. Deras studie av en R760 fann att bruset började vid 77.8 dBA med ett luftkylt system, och JetCools SmartPlate-system klockades till 64.4 dBA.

Ett annat betydande värde för JetCool är dess enkla driftsättning, eftersom deras lösning inte kräver något speciellt. Att implementera JetCools lösning har betydligt lägre driftsättnings- och underhållskostnader än ett DLC-system i datacentret – ytterligare extern hårdvara, VVS, underhåll eller installationskostnader är onödiga. JetCools fristående system kan vara en avsevärd fördel för att få bättre effektivitet ur samma fotavtryck, vilket sparar tid innan man flyttar till komplett vätskekylning med komponenter med högre prestanda.

JetCool hårdvarufördelning

JetCool stöder plattformar med Intel 4:e och 5:e generationens Xeon och 4:e generationens EPYC-processorer. TDP-klassificeringen för dessa system är upp till 850W i ett 1U-chassi eller upp till 1,200 2W i ett 55U-chassi. JetCool-systemet stöder ett temperaturområde för inkommande luft på 95°F till 200°F. Som nämnts kommer JetCool att stödja fler chips och GPU:er, och arbetet med NVIDIA GBXNUMX är redan igång.

Denna specifika plattform som tillhandahålls av JetCool är byggd på en Dell Poweredge R760-plattform; specifikationerna är som följer.

JetCool testsystemspecifikationer
CPU: er 2x Intel Xeon Platinum 8470Q (52C 104T vardera)
Minne 768GB (12x64g) 5600mhz DDR5

Nedan är ett foto av R760-plattformen som Jetcool skickade till oss. Dess komponenter syns tydligt och JetCools dokumenterade bilder och prestanda överensstämmer med vad vi såg i vårt labb.

JetCool R760 uppifrån och ner

Nedan är ett foto från JetCool som visar komponentlayouten i deras SmartPlate-lösning; de som inte är bekanta med vätskekylning kommer att se några extra delar, som kylaren, pumparna och reservoaren.

Bilden nedan visar pumpen, pumpstyrenheten och kylplattorna. JetCool Cold-plattorna är ganska tunna för hur bra de kyler jämfört med andra lösningar.

Som märkt ovan är denna udda form i hjärtat av systemet kylvätskebehållaren. Denna reservoar är inte stor, men den gör jobbet bra. Hela slingan rymmer cirka 10 uns vätska och behöver inte servas eller fyllas på under serverns garanterade livslängd.

Det är också viktigt att notera i designen att även med kylaren nära fläktarna, finns det gott om luftflöde genom chassit till baksidan av systemet. Det är svårt att se på bilden ovan, men det finns också en lucka för att få luftflöde till DRAM under kylaren.

Dell PowerEdge R760 med JetCool-prestanda

Vanligtvis skulle vi testa ett system som detta med luftkylda kylflänsar och sedan byta in vätskesatsen för att få våra prestandasiffror eller jämföra vätskeslingan med samma CPU:er i en luftkyld server. Inget av dessa alternativ var ett bra val den här gången, så vi bad jetCool att hjälpa till med några av deras egna tester.

JetCool tillhandahöll data om sin R760-plattform i interna tester. Dessa siffror jämför fläkthastighet, omgivningstemperatur, CPU-maxtemperatur och serverns totala energiförbrukning. De visar att även under JetCool Smartplate-systemets maxkapacitet når det maximal prestanda för en luftkyld lösning med lite overhead över.

Luftkyld prestanda

Fläkthastighet %PWM Omgivningstemperatur (C) Uppmätt med TC Global Max CPU Temp (C) (CPU 1) Global Max CPU Temp (C) (CPU 2) Servereffekt (watt)
100% 24.8 62 62 1340.97
90% 24.9 64 62 1279.8
80% 24.3 65 64 1218.07
70% 24.0 66 66 1171.23
60% 23.9 67 68 1133.23
50% 23.03 70 71 1094.87

JetCool SPS Performance

Fläkthastighet %PWM Omgivningstemperatur (C) Uppmätt med TC Global Max CPU Temp (C) (CPU 1) Global Max CPU Temp (C) (CPU 2) Servereffekt (watt)
100% 24.6 57 56 1393.47
90% 24.15 58 57 1327.95
80% 23.9 59 58 1265.47
70% 23.8 60 59 1217.43
60% 23.7 62 62 1179.33
50% 23.5 65 65 1149.70

När man överväger effektskillnaden mellan fläktar och JetCool Smartplate-systemet låg CPU:erna i detta system på 62C, det luftkylda systemet hade högsta fläkthastighet och JetCool SPS låg endast på 60%. Skillnaderna i kyleffektivitet som JetCools SPS resulterade i en 214W minskning av strömförbrukningen för samma prestanda. Denna effektminskning, multiplicerad med endast fem servrar, står för ungefär 1KW energibesparing.

Air vs. JetCool Fläkthastighet %PWM Omgivningstemperatur (C) Uppmätt med TC Global Max CPU Temp (C) (CPU 1) Global Max CPU Temp (C) (CPU 2) Servereffekt (watt)
Luftkyld 100% 24.8 62 62 1393.47
JetCool SPS 60% 23.7 62 62 1179.33
Skillnaden 214.14

Vi förlitade oss inte enbart på JetCool-data. Följande diagram visar JetCool-lösningens temperaturstabilitet under en konsekvent arbetsbelastning från våra tester. Vi körde Y-Cruncher på Pi BBP Digit Extraction med 10 biljoner siffror, vilket tog ungefär 40 minuter.

I det här testet såg vi kärnklockan sjunka till 2300 MHz under belastning och hålla sig stadig, med avsedd för några spikar. Här testas SmartPlate-systemet för att hålla temperaturerna stabila, och det gjorde ingen besviken. Under ungefär 40 minuters konsekvent belastning steg CPU-temperaturen till 60°C och nådde bara en topp på 61°C, och sjönk sedan snabbt efter testet.

Benchmark prestanda

Förutom de termiska testerna körde vi vår standardserversvit. Vi har inga bra komp på Intels dedikerade vätskesvalna "Q"-processorer, men vi presenterar data här ändå om det hjälper dem som jämför prestandan för denna konstruktion med andra som vi har granskat tidigare.

  • Dell PowerEdge R760
  • CPU:er: 2x Intel Xeon Platinum 8470Q (52C 104T vardera)
  • Minne: 768GB (12x64g) 5600mhz DDR5

Cinebench 2024

För Maxons Cinebench 2024-test såg vi 5,215 71 poäng på multi-core, 73.53 poäng på single-core och ett MP-förhållande på XNUMXx.

Cinebench 2024 JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
CPU Multi-Core 5,215-poäng
CPU enkelkärnig 71-poäng
MP-förhållande 73.53x

 Cinebench R23

För Maxons Cinebench R23 såg vi 105,569 1,252 poäng i multi-core, 84.32 XNUMX poäng i single-core och ett mp-förhållande på XNUMXx.

Cinebench R23 JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
CPU Multi-Core 105,569
CPU enkelkärnig 1,252
MP-förhållande 84.32x

Blender 4.0 CPU

För Blender 4.0 CPU-testning gav JetCool R760-plattformen poäng på 948.049 för Monster, 630.348 för Junkshop och 476.018 för Classroom.

Blender 4.0 CPU JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Monster 948.049
Junkshop 630.348
Klassrum 476.018

Blender 4.1 CPU

För Blender 4.1 CPU-testning gav JetCool R760-plattformen poäng på 930.390 för Monster, 644.007 för Junkshop och 473.364 för Classroom.

Blender 4.1 CPU JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Monster 930.390
Junkshop 644.007
Klassrum 473.364

Geekbench 6 CPU

På Geekbench 6 CPU producerade JetCool R760 Platform en enkärnig poäng på 1,814 19,076 och en flerkärnig poäng på XNUMX XNUMX.

Geekbench 6 CPU JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Single Core-poäng 1,814
Multikärnpoäng 19,076

Blackmagic RAW Speedtest

För Blackmagic Raw Speedtest såg vi 141FPS av Dual Xeon Platinum 8470Qs.

Blackmagic RAW JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
8K CPU 141 FPS

Blackmagic Disk Speedtest

För Blackmagic Disk Speedtest testar vi konfigurationen för fyra Dell NVME SSD:er i Raid0.

Blackmagic Disk Speedtest JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Skriva 11,704.1 MB / s
Läsa 9,762.7 MB / s

Y-Cruncher

y-cruncher är ett flertrådigt och skalbart program som kan beräkna Pi och andra matematiska konstanter till biljoner siffror. Sedan lanseringen 2009 har den blivit en populär benchmarking- och stresstestapplikation för överklockare och hårdvaruentusiaster. Här var JetCool-plattformen imponerande snabb över hela linjen.

Y-Cruncher JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
1B 5.270 sekunder
2.5B 14.405 sekunder
5B 31.490 sekunder
10B 67.704 sekunder
25B 191.599 sekunder
50B 423.891 sekunder

7-Zip

Det populära 7-Zip-verktyget inkluderar minnes- och CPU-riktmärken som vi använder för prestandatestning.

7 Zip JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
komprimera
Aktuell CPU-användning 3,546%
Aktuellt betyg/användning 4.849 XNUMX GIPS
Ström 171.925 XNUMX GIPS
Resulterande CPU-användning 2,551%
Resulterande betyg/användning 4.879 XNUMX GIPS
Resulterande betyg 173.263 XNUMX GIPS
Dekomprimering
Aktuell CPU-användning 3,865%
Aktuellt betyg/användning 4.060 XNUMX GIPS
Ström 156.886 XNUMX GIPS
Resulterande CPU-användning 3,880%
Resulterande betyg/användning 4.038 XNUMX GIPS
Resulterande betyg 156.689 XNUMX GIPS
Totalt betyg
Total CPU-användning 3,716%
Totalt betyg/användning 4.458 XNUMX GIPS
Totalt betyg 164.976 XNUMX GIPS

UL Procyon 2.7 AI Computer Vision

För UL Procyon AI Computer Vision såg vi ganska snabba slutledningstider fram till REAL-ESRGAN. Vi slutade också med en totalpoäng på 141 poäng. Detta test använde Xeon Platinum 8470Qs för slutledning.

För jämförelser med andra maskiner meddelade UL att alla versioner av Procyon före 2.7 inte kommer att vara jämförbara på grund av olika poängsättning.

Procyon inferenstider JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Totala poängen 141
MobileNet V3 7.53 ms
ResNet50 9.14 ms
Inception V4 29.64 ms
DeepLab V3 26.52 ms
YOLO V3 31.51 ms
REAL-ESRGAN 1,123.52 ms

Slutsats

Med JetCools proprietära munstyckskonfigurationer, lokaliserad kylning och lägre tryckbehov visar JetCool SmartPlates sin fördel gentemot traditionella kylflänsar. Dessutom är den här lösningen inte komplex, och JetCool har några roliga knep, som deras patenterade jetstrålar i SmartPlates för att tvinga in kylvätska i hotspots. Men i grunden, om din organisation hade en R760 med JetCool, skulle du inte veta det från utsidan om du inte skulle märka den tysta driften jämfört med luftkylda servrar.

JetCool publicerade en fallstudie 2023 med Sabey Data Centers för att utvärdera effektivitetsskillnader, testa Poweredge R740XD. "I Sabeys utvärdering registrerade servern som kyldes av SmartPlate-systemet en 13.5% minskning av strömförbrukningen mot luftkylda servrar. Eftersom systemets flytande kylvätska absorberar värme direkt från elektroniska komponenter genom kalla plattor, eliminerar det behovet av intensivt luftflöde, vilket avsevärt minskar fläkthastigheterna." Sabey såg också många andra fördelar, inklusive lägre avgastemperatur och mindre belastning på lufthanterarna. Resten av Sabeys fallstudie kan hittas här..

Racet är redan igång för datacenter att klara av de enorma strömkraven på moderna servrar, tack vare den enorma strömförbrukningen för CPU och GPU, och flytande kylning är den enda lösningen för att hantera dessa behov. Tack och lov finns det många alternativ för vätskekylning, men inte alla kan eller vill sätta i en full vätskeslinga med en anläggningsvattenanslutning, hantera en nedsänkningstank eller hantera komplicerade kemikalier. För den som vill ha fördelarna med vätskekylning idag utan komplexitet står JetCool som ett utmärkt alternativ.

JetCool-teknik

Engagera dig med StorageReview

Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde