Brian får sällan sitta ner till en podcast med en läkare. Men idag får han sällskap av Dr. Steve Harrington, VD för Chilldyne. Vi har varit mycket intresserade av vätskekylningsteknik, och det dyker upp fler hela tiden. Men vi har en svag punkt för Chilldyne.
Lite bakgrund om Dr Steve Harrington. Han är CTO för Chilldyne och grundaren av Flometrics. Han är expert och uppfinnare inom vätskedynamik och termodynamik, designar pumpar, ventiler, munstycken, flödesmätare, flygplanskylsystem, raketbränslepumpar, rakettestställ, turbinflödesmätningssystem, medicinska ventilatorer, luft/syreblandare, luftfuktare, CPAP maskiner, spirometrar, värmeväxlare, dammsugare, syrgaskoncentratorer, motorcykelkåpor, infusionspumpar, elektronik kylsystem, vågmaskiner, datainsamlingssystem etc. Men vänta, det finns mer. Hans expertis sträcker sig till elektronik, programmering, optik, kärnfysik, biologi och fysiologi.
Steve har mer än 29 års erfarenhet av vätskedynamik och termodynamik. Han har konsulterat för flyg-, halvledar-, medicintekniska produkter, racing, elektronisk kylning och andra industrier. Han har över 25 patent och har genomfört projekt för NASA, DARPA, SOCOM och USACE.
När han inte är upptagen är han deltidsfakultetsmedlem vid University of California, San Diego, där han undervisar i en flygtekniker för senior designklass där studenter instrumenterar, bygger och flyger flytande raketer. Han är också surfare, pilot, dykare, båt- och bilmekaniker, elektriker och rörmokare.
Det finns mycket att lära om vätskekylning och vi tror att den här podcasten kommer att hjälpa till att besvara några av frågorna hos IT- och datacenterproffs överallt.
Det borde räcka för att göra dig intresserad av att lyssna på hela denna podcast. Men om du är fastspänd i tid har vi delat ner podden i femminuterssegment så att du kan hoppa runt efter behov.
00:00 – 05:30 Introduktion
"Het" ny teknik: vätskekylning
Brian inleder med en ordlek om att flytande kylning är en "het" teknologi i datacenter. Vätskekylning har kommit i full cirkel – när den en gång övergavs i och med tillkomsten av CMOS, gör den nu ett uppsving på grund av den intensiva värme som genereras av moderna processorer.
Från superdatorer till jetmotorer
Steve ger lite personlig historia om sin resa till flytande kylning, med början med kylning av superdatorer på 1980-talet. Kul fakta: Hans expertis inom kylning av raketmotorer och lasersystem översattes väl till modern vätskekylning av datacenter.
Varför lämnade flytande kylning?
Vätskekylning tog en paus eftersom CMOS-teknik ansågs ha löst strömproblemet. Överraskning! Kraftkraven är tillbaka med råge.
Från flyg till datacenter
Inom flyget handlar flytande kylning inte bara om kylning; det handlar om tillförlitlighet över tid – tänk på flygplan, raketer och lasrar. Datacenter, å andra sidan, behöver drifttid och livslängd, vilket lägger till unika utmaningar till Steves övergång från rymdfart.
ARPA-E Grant och 2 Kilowatt-chipet
Steves framsynthet inkluderade att samarbeta med ARPA-E för att utveckla en kall platta för ett tvåkilowattschip. Denna framsynthet ger resultat, eftersom fler datacenter lägger bud på projekt med dessa kraftfulla chips.
05:30 – 10:24 Försäkrar finanschefen
Liquid Cooling: En finanschefs mardröm?
Att testa flytande kylsystem kan kosta miljoner. Att övertyga finanschefer att skriva av sig på sådana "experiment" är ingen lätt uppgift, särskilt eftersom de inte passar in i det finansiella kalkylbladet. Det är som att köpa en provkörning för 2 miljoner dollar – det låter kul men är riskabelt.
Dela hemligheter: Metaparadoxen
Meta och andra kommersiella jättar tenderar att låsa sina vätskekylningshemligheter hårdare än företagets algoritm. Att dela är att bry sig, men inte när det är konkurrens inblandat.
Chilldynes läckagesäkra, negativa trycksystem
Chilldynes hemliga sås: ett undertryckssystem som i princip är läckfritt. Om en läcka inträffar kommer luft in istället för att kylvätska spills, vilket skyddar chipsen från ett fuktigt öde.
Hantera läckor: När man inte får panik
Även med läckor fortsätter Chilldynes system att gå.
Liquid Cooling Data: The Missing Chapter
Branschövergripande data om inverkan av vätskekylning på slitage är sparsam. Vätskekylning kan kännas mer som ett mystiskt "ölkonferens"-ämne än en öppen diskussion.
10:24 – 14:55 Håll bakterierna borta från vattnet
Den biologiska mångfalden av kylvätska för datacenter
Visste du att de lokala bakterierna i din vattenförsörjning kan störa ditt vätskekylsystem? Olika regioner har olika mikrober, vilket kan orsaka förödelse på kylvätskesystem i datacenter, vilket leder till igensatta plattor och överhettade GPU:er.
Coolant Chemistry 101
Chilldyne har ett inbyggt kemilab för att övervaka kylvätskekvaliteten. Glöm dina sterila vattendrömmar; detta är en kamp mellan biologi och teknik.
Kylmedelstillsatser: ett budgetdilemma
Bli inte billig på din kylvätskekemi om du inte gillar akut underhåll.
PG 25: Gamers' Friend, Data Centers' Enemy
PG 25 är bra för spelare – den fryser inte och förhindrar bakterietillväxt. Den angriper dock tätningar, vilket leder till läckor över tid, vilket gör den mindre idealisk för långvarig datacenteranvändning.
Kemins roll i underhåll av datacenter
Datacenter glömmer ofta att vätskekylning inte är en "ställ in och glöm det"-lösning. Det kräver regelbunden övervakning och underhåll.
14:55 – 20:16 Behovet av lågtoxicitetstillsatser
Tillsatserna som håller kylan
Chilldyne använder lågtoxicitetstillsatser: ett stänk av antibakteriella och korrosionsskyddande kemikalier.
Säg nej till PG 25 (ibland)
PG 25 är en "frys inte" livräddare för spelare som skickar sina vätskekylda riggar men mindre för datacenter.
Facilitetsvatten är bara början
Vid installation av en CDU (kyldistributionsenhet) börjar Chilldyne med destillerat eller omvänd osmosfiltrerat vatten.
The Cold Plate Clean-Up Crew
En kund vägrade att använda rekommenderade tillsatser, vilket ledde till en igensatt, het röra i deras GPU:er. Chilldyne klev in med en kemisk rengöring, men om en kall tallrik blir för kladdig är det ibland slut – dags för utbyte.
Vätskekylning ≠ Ställ in det och glöm det
Elektronik kan fungera smidigt i åratal, men flytande kylning? Det är ett annat odjur.
20:16 – 26:03 Vatten är fortfarande bäst för kylning
Vatten: MVP för kylvätskor
Varför hålla sig till gott vatten? Det är billigt, giftfritt och fungerar bra – särskilt i enfassystem.
Nedsänkningskylning: Den långsamma brännaren
Nedsänkningskylning med konstruerade oljor har viss potential, särskilt i kantzoner eller måttliga kraftservrar, men det är helt enkelt inte tillräckligt effektivt för dagens tvåkilowattmonster.
När rören blir fåniga stora
Se upp för logistiska mardrömmar när kylsystem skalas upp.
Elektriska gränser: Den verkliga flaskhalsen
Medan flytande kylsystem kan skala, finns det en gräns för hur mycket elektrisk ström ett chip kan hantera.
Glöm inte kylaren
Medan kyltorn är idealiska på många ställen, kräver vissa regioner kylaggregat på grund av vattenbrist. Gå med ett kyltorn.
26:03 – 29:44 Är det en läcka?
Läckorna kommer inte att berätta
Till skillnad från serverkomponenter är vätskekylningssystem ännu inte tillräckligt smarta för att ge dig avancerade varningar om läckor.
Problemet med positivt tryck
Övertryckssystem som upptäcker läckor med speciell tejp är reaktiva – de stänger av servrar när något går fel. Negativt tryckssystem som Chilldynes håller dock servrarna igång även med mindre läckor, vilket undviker kostsamma driftstopp.
Kompatibilitetskaos
Problemet med att köpa delar från flera leverantörer är kompatibilitetsproblem.
VVS är inte en IT-färdighet
Datacenteroperatörer är skickliga inom nätverk, cybersäkerhet och energihantering – men de är inte rörmokare eller kemister. Det är där specialiserade leverantörer kommer in.
Omkopplingsventiler: det felsäkra
Chilldyne använder omkopplingsventiler för att ge redundans i kylsystem. Dessa ventiler fungerar som säkerhetsmekanismer för flygplan - om ett system misslyckas, slår det andra in utan att servrarna ens märker det.
29:44 – 35:22 Se till att vätskekylning är vad du behöver
Skalan spelar roll: 100kW-tröskeln
Steve föreslår att flytande kylning inte är värt besväret om du inte har att göra med över 100 kW datorkraft.
Fortune 500 och Beyond
Stora företag finns redan där, men även mellanklassföretag börjar känna av värmen. Strömförbrukningen hos GPU-packade servrar gör att flytande kylning snart kommer att bli en nödvändighet för många organisationer.
Rack Scale CDU som inte var det
Chilldyne har en design för en 50-100kW rackskala CDU, men ingen tar ännu.
Fyra-tumsrörproblemet
Vätskekylsystem maxar runt 1-2MW innan VVS blir otympligt. Att hålla systemet hanterbart är nyckeln.
Elektriska vs. kylningsgränser
Vi närmar oss den punkt där elektriska gränser är mer problematiska än kylkapacitet.
35:22 – 40:16 Är det varmt här inne?
Gåtan för värmeavfall
Det räcker inte att kyla redskapet – du måste hantera all den värmen.
Chip Temperatur Tango
Det finns en balans mellan kylningseffektivitet och chipprestanda. Designa system som kan bli kallare om det behövs eftersom nästa generations chips kan fungera 20 % snabbare med lägre temperaturer.
Datacentermatematiken blir svår
Ta hänsyn till kyltornseffektivitet, GPU-prestanda, fläkthastigheter och mycket mer. Matematiken bakom dagens kyllösningar är avgörande för optimering.
VVS och IT: Konstiga sängkamrater
VVS-ingenjörer och IT-team brukade arbeta separat, men vätskekylning sammanför dem.
Hålla IT-killarna i slingan
Uppmuntra samarbete mellan hårdvaruleverantörer och kylexperter för att säkerställa att lösningen inte smälter under tryck.
40:16 – 43:35 Avslutning
Kom igång med flytande kylning nu
Steve rekommenderar att börja smått, men börja nu. Skaffa ett system, kör det och lär dig av det innan du är för djupt inne.
Faran för övertro
Vissa företag planerar massiva vätskekylda datacenter utan att någonsin testa mindre system.
Ledtid: Det är på riktigt
Ledtiderna för vätskekylsystem kan variera från 16 till 52 veckor. Så det är bättre att få in dessa beställningar tidigt!
Spec förvirring med nya rack
NVIDIAs nya MVL-rack är på väg, men specifika riktlinjer för vattentemperatur och kemi är fortfarande oklara.
Home Lab Mentality: Få in dina representanter
Steve uppmuntrar företag att ta tillvägagångssättet "hemlabb": börja i det små, bråka med det och lär dig.
Amazon