ZutaCore heeft OmniTherm geïntroduceerd, een koelplaat die waterloze tweefasekoeling mogelijk maakt voor servers die zijn uitgerust met NVIDIA 6000 Blackwell Server Edition GPU's in een single-slot PCIe-vormfactor. De oplossing is gericht op OEM's en grote operators die deze accelerators op vol vermogen willen gebruiken in standaard enterprise- en AI-cloudserverconfiguraties zonder over te stappen op gespecialiseerde serverplatforms of immersiesystemen.
PCIe GPU-servers blijven een topkeuze voor AI-inferentie en gemengde workloads, omdat ze gemakkelijker te implementeren, schalen en integreren zijn in bestaande rack- en stroominfrastructuur. Naarmate de GPU-vermogensdichtheid toeneemt, begint traditionele luchtkoeling de prestaties te beperken. Operators moeten vaak de ventilatorsnelheid verhogen, wat het stroomverbruik en het geluidsniveau verhoogt en systemen nog steeds gevoelig kan maken voor oververhitting tijdens intensieve AI-workloads.
OmniTherm ZutaCore wil dit probleem oplossen door over te stappen op tweefasige vloeistofkoeling zonder water in de serverbehuizing te gebruiken. De koelplaat maakt gebruik van een afgesloten diëlektrische vloeistof die kookt bij de warmtebron en condenseert in een aparte kringloop. Door een single-slot PCIe-profiel te behouden, stelt ZutaCore systeemontwikkelaars in staat de acceleratordichtheid in standaard serverarchitecturen te behouden of te verhogen, terwijl het grootste deel van de warmte naar een vloeistofkoelingscircuit wordt verplaatst. Dit vermindert de behoefte aan ventilatoren met een hoog toerental, verlaagt het stroomverbruik en vermindert de thermische belasting en geluidsoverlast op rackniveau.
ZutaCore CTO My D. Truong benadrukte het groeiende belang van PCIe GPU's, die zowel flexibiliteit als een hoge dichtheid bieden nu datacenters te maken krijgen met steeds hogere energiebudgetten op rackniveau. Hij gaf aan dat de combinatie van waterloze tweefasekoeling en een single-slot formfactor datacenters in staat stelt het aantal accelerators per server te verhogen en tegelijkertijd stabiele thermische prestaties te behouden voor continue AI-workloads, met name bij de uitbreiding van implementaties.
Ontworpen voor continue, variabele AI-workloads.
In productieomgevingen voor AI is de werkbelasting zelden constant. Inferentietaken zijn zeer variabel, waarbij het gebruik en het stroomverbruik variëren met de verkeerspatronen en het gedrag van het model. Deze schommelingen kunnen leiden tot snelle temperatuurschommelingen die luchtgekoelde systemen belasten en de betrouwbaarheid van de prestaties in gevaar brengen.
Het tweefasige thermische ontwerp van OmniTherm reageert snel op deze veranderingen. Naarmate de GPU-belasting toeneemt, verdampt er meer diëlektrische vloeistof op de koelplaat, waardoor de warmteoverdracht verbetert zonder dat de ventilatorsnelheid toeneemt. Wanneer de belasting afneemt, stabiliseert het systeem zich vanzelf doordat de damp condenseert. Deze functie helpt operators om consistentere temperaturen te handhaven bij wisselende werkbelastingen. Het ondersteunt betrouwbare prestaties en vermindert het risico op tijdelijke throttling in servers met een hoge GPU-dichtheid via PCIe.
Bescherming van langetermijninvesteringen in infrastructuur
Voor operators zijn betrouwbaarheid en prestaties op de lange termijn net zo belangrijk als de maximale doorvoersnelheid. ZutaCore beweert dat OmniTherm niet alleen de GPU-chip koelt, maar ook nabijgelegen waardevolle componenten zoals CPU's en high-bandwidth memory van de volgende generatie. Door meer te koelen dan alleen de belangrijkste accelerator-ASIC, richt het systeem zich op de hotspots die er meer toe doen in ontwerpen met meerdere chips en veel high-bandwidth memory.
Deze bredere thermische dekking ondersteunt langdurige, bandbreedte-intensieve AI-taken die zowel reken- als geheugensystemen op de proef stellen. Het verminderen van de thermische belasting van deze componenten kan de stabiliteit op lange termijn verbeteren, prestatievermindering tegengaan en investeringen in krachtige PCIe-platforms beschermen naarmate GPU- en geheugentechnologieën zich verder ontwikkelen.
Operationele overwegingen bij het gebruik van weegschalen
Naarmate racks steeds hogere vermogensdichtheden aankunnen, nemen de kosten en complexiteit van het uitsluitend vertrouwen op luchtkoeling snel toe. Hoger ventilatorvermogen, meer geluidsoverlast en strengere HVAC-eisen dragen allemaal bij aan hogere operationele kosten en kunnen de werkomstandigheden in datacenters beïnvloeden.
OmniTherm's afgesloten, niet-geleidende diëlektrische vloeistofcircuit is ontworpen om het grootste deel van de warmte in de server te absorberen en over te brengen naar een vloeistofcircuit in de faciliteit, zonder dat er water in de behuizing terechtkomt. Deze structuur kan de afhankelijkheid van extreem hoge ventilatorsnelheden verminderen, het energieverbruik voor koeling verlagen en operators helpen het geluidsniveau te beheersen. De configuratie maakt het ook mogelijk om op PCIe gebaseerde AI-implementaties in bestaande ruimtes op te schalen door een groter deel van de koelbehoefte naar vloeistofsystemen te verschuiven in plaats van uitsluitend op luchtstroom te vertrouwen.
HyperCool Cloud
Naast OmniTherm lanceert ZutaCore HyperCool Cloud, een cloudgebaseerd operationeel platform voor het beheer van vloeistofkoelsystemen in gedistribueerde omgevingen. Het platform is ontworpen om veilig en telemetriegestuurd te zijn en biedt vrijwel realtime inzicht in koelvloeistofverdeelunits (CDU's) en aanverwante koelapparatuur.
HyperCool Cloud biedt telemetrie voor CDU's, ondersteunt monitoring van de gehele vloot en implementeert workflows van alarm tot oplossing. Voor beheerders betekent dit dat vloeistofkoeling functioneert als een beheerde, observeerbare service, net als andere infrastructuurcomponenten. Het doel is om de responstijd van de service te verbeteren, incidentbeheer te stroomlijnen en de uptime te ondersteunen naarmate vloeistofkoelingssystemen zich uitbreiden over meerdere locaties en grotere vloten PCIe GPU-servers.
Dankzij OmniTherm en HyperCool Cloud kan ZutaCore samen zowel de hardware- als de operationele uitdagingen aangaan die gepaard gaan met het schalen van op PCIe gebaseerde AI-platforms met waterloze tweefasige vloeistofkoeling.
Amazon