In antwoord op de roep om krachtige, groene datacenters, kondigde NVIDIA de vloeistofgekoelde A100 PCIe GPU aan, de eerste in een reeks vloeistofgekoelde GPU's voor reguliere servers. NVIDIA maakte de aankondiging tijdens Computex 2022 in Taiwan.
Als onderdeel van een groeiende beweging om datacenters te bouwen die zowel hoge prestaties als energie-efficiëntie leveren, zet Equinix' hoofd edge-infrastructuur, Zac Smith, zich in om zijn steentje bij te dragen om klimaatneutraal te zijn. Zac beheert meer dan 240 datacenters voor Equinix, een wereldwijde dienstverlener, dus hij is bekend met het belang van het verminderen van de effecten van de COXNUMX-voetafdruk op klimaatverandering.
Zac vertelde dat de 10,000 klanten die hij ondersteunt, op zijn team rekenen om meer gegevens en meer intelligentie te leveren, vaak met AI, en die klanten willen dat dat op een duurzamere manier wordt geleverd.
Vooruitgang in efficiëntie markeren
Sinds april heeft Equinix voor $ 4.9 miljard aan groene obligaties uitgegeven. Dit zijn instrumenten van investeringskwaliteit die Equinix zal toepassen om de impact op het milieu te verminderen door de effectiviteit van het energieverbruik (PUE) te optimaliseren, een branchemaatstaf die aangeeft hoeveel energie een datacenter gebruikt, rechtstreeks naar computertaken gaat.
Exploitanten van datacenters proberen die verhouding steeds dichter bij het ideaal van 1.0 PUE te brengen. Equinix-faciliteiten hebben tegenwoordig een gemiddelde PUE van 1.48, waarbij de beste nieuwe datacenters minder dan 1.2 halen.
Equinix boekt gestaag vooruitgang in de energie-efficiëntie van haar datacenters zoals gemeten door PUE (inset).
In januari opende Equinix een speciale faciliteit om vooruitgang op het gebied van energie-efficiëntie na te streven. Een deel van dat werk richt zich op vloeistofkoeling. Vloeistofkoeling werd geboren in het mainframe-tijdperk en wordt volwassen in het tijdperk van AI, en wordt nu veel gebruikt in 's werelds snelste supercomputers in een moderne vorm die directe-chipkoeling wordt genoemd. Vloeistofkoeling is de volgende stap in versneld computergebruik voor NVIDIA luchtgekoelde GPU's die tot 20x betere energie-efficiëntie leveren bij AI-inferentie en krachtige computertaken dan CPU's.
Als je alle CPU-only servers met AI en HPC wereldwijd zou omschakelen naar GPU-versnelde systemen, zou je maar liefst 11 biljoen wattuur energie per jaar kunnen besparen. Dat staat gelijk aan het energieverbruik van meer dan 1.5 miljoen huishoudens per jaar.
NVIDIA draagt bij aan zijn duurzaamheidsinspanningen door zijn eerste datacenter PCIe GPU uit te brengen met behulp van directe chipkoeling. Equinix kwalificeert de NVIDIA A100 80GB PCIe Liquid-Cooled GPU voor gebruik in zijn datacenters als onderdeel van een alomvattende benadering van duurzame koeling en warmteopvang. De GPU's zijn nu aan het samplen en zullen deze zomer algemeen verkrijgbaar zijn.
Water en stroom besparen
Volgens Zac is de NVIDIA PCIe GPU de eerste vloeistofgekoelde GPU die in het Equinix-lab is geïntroduceerd, en klanten van Equinix zoeken naar duurzame manieren om AI te benutten.
Exploitanten van datacenters streven ernaar chillers te elimineren die miljoenen liters water per jaar verdampen om de lucht in datacenters te koelen. Vloeistofkoeling belooft systemen die kleine hoeveelheden vloeistoffen recyclen in gesloten systemen gericht op belangrijke hotspots.
In afzonderlijke tests ontdekten Equinix en NVIDIA dat een datacenter dat vloeistofkoeling gebruikt, dezelfde workloads kan uitvoeren als een luchtgekoelde faciliteit, terwijl het ongeveer 30 procent minder energie verbruikt. NVIDIA schat dat het vloeistofgekoelde datacenter 1.15 PUE zou kunnen halen, ver onder de 1.6 voor zijn luchtgekoelde neef. Vloeistofgekoelde datacenters kunnen ook twee keer zoveel rekenkracht in dezelfde ruimte stoppen. Dat komt omdat de A100 GPU's slechts één PCIe-slot gebruiken, terwijl de luchtgekoelde A100 GPU's er twee vullen.
Minstens een dozijn systeemmakers zijn van plan deze GPU's later dit jaar in hun aanbod op te nemen. Ze omvatten ASUS, ASRockRack, Foxconn Industrial Internet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn en xFusion. NVIDIA toonde ook HGX-referentieontwerpen en een met vloeistof gevulde H100 GPU.
Een wereldwijde trend
In Azië, Europa en de VS is regelgeving voor energie-efficiëntie in behandeling. Dat motiveert banken en andere grote datacenterexploitanten om vloeistofkoeling te evalueren. En de technologie is niet beperkt tot datacenters. Auto's en andere systemen hebben het nodig om krachtige systemen te koelen die zijn ingebed in besloten ruimtes.
De weg naar duurzaamheid
Desgevraagd legde Zac uit dat dit het begin is van de reis van het debuut van vloeistofgekoelde reguliere versnellers. NVIDIA is van plan om de A100 PCIe-kaart volgend jaar op te volgen met een versie met de H100 Tensor Core GPU op basis van de NVIDIA Hopper-architectuur en is van plan vloeistofkoeling te ondersteunen in zijn krachtige datacenter-GPU's en NVIDIA HGX-platforms.
Voor een snelle acceptatie leveren de huidige vloeistofgekoelde GPU's dezelfde prestaties voor minder energie. NVIDIA verwacht dat deze kaarten in de toekomst een optie zullen bieden om meer prestaties te krijgen voor dezelfde energie; iets wat gebruikers zeggen dat ze willen.
Lees meer over de nieuwe A100 PCIe vloeistofgekoelde GPU's.
Amazon