HPE heeft zijn eerste order voor de AMD Helios AI Rack by HPE binnengehaald: een toezegging van $ 1.2 miljard van Vultr voor de implementatie van de racks met 72 GPU's in de clouddatacenters van Vultr in de Verenigde Staten. HPE kondigde de order aan op 30 september, dezelfde dag dat het zijn Networking Investor Day hield. De deal is het eerste bewijs van de effectiviteit van het rack-scale ontwerp dat HPE, AMD en Broadcom in december hebben ontwikkeld , waarbij HPE de schaalbare Ethernet-switching en software in elk Helios-rack levert.
Vultr, door HPE omschreven als 's werelds grootste particuliere cloudinfrastructuurbedrijf, kondigde in juli aan dat het pre-orders aannam voor gereserveerde Helios-capaciteit voor implementaties in de periode 2027 tot en met 2028. De HPE-order plaatst door HPE gebouwde racks achter dit programma. "De vraag naar krachtige AI-infrastructuur blijft de beschikbare capaciteit overtreffen, en onze samenwerking met AMD en HPE stelt ons in staat om Helios rack-scale compute en scale-up netwerken sneller beschikbaar te maken voor klanten", aldus JJ Kardwell, CEO van Vultr. "Samen leveren we de geheugencapaciteit, interconnect-prestaties en energie-efficiëntie die klanten nodig hebben om de grootste en meest veeleisende AI-trainings- en inferentieworkloads uit te voeren."
Wat zit er in een Helios-rack?
Elk rack bevat 72 AMD Instinct MI455X GPU's met 6e generatie AMD EPYC "Venice" CPU's, AMD Pensando Vulcano AI NIC's en de ROCm-softwarestack. De MI455X is AMD's eerste CDNA 5-accelerator , met 432 GB HBM4 per GPU. Een volledig rack komt neer op 31 TB HBM4, 1.7 PB/s geheugenbandbreedte en 2.9 exaFLOPS FP4 volgens AMD. De GPU's delen geheugen via UALink over Ethernet (UALoE), het open schaalbare netwerk dat AMD gebruikt op standaard Ethernet, met 260 TB/s schaalbare bandbreedte binnen het rack en 43 TB/s schaalbare bandbreedte naar buiten.
Het aandeel van HPE in het rack is grotendeels het netwerk: zes HPE Juniper Networking QFX5252 scale-up Ethernet-switchtrays bevinden zich in elk Helios-rack en verbinden alle 72 GPU's. HPE geeft aan dat de switches en de bijbehorende software speciaal voor Helios zijn ontwikkeld. De bestelling verlengt tevens een relatie die dateert van vóór de fusie: HPE zegt dat Vultr al bijna drie jaar met Juniper Networks samenwerkt en dat deze samenwerking wordt voortgezet nu Juniper onderdeel is van HPE.
Vloeistofkoeling, services en HPE's netwerkpresentatie
De racks maken gebruik van HPE's directe vloeistofkoeling, die HPE positioneert als afgeleid van exascale-systemen, en HPE Services verzorgt de implementatie en integratie van de vloeistofkoeling voor grote AI-clusters. HPE verkoopt de combinatie als onderdeel van zijn AI Data Center Solutions-portfolio, een geïntegreerde stack met AMD gebouwd op open standaarden. "AMD Helios by HPE demonstreert HPE's unieke vermogen om de complete AI-architectuur te ontwerpen met rack-schaalbare rekenkracht, schaalbare netwerken en directe vloeistofkoeling, allemaal geleverd door onze wereldwijde services", aldus Antonio Neri, president en CEO van HPE.
Vultr biedt al AMD Instinct-capaciteit aan en heeft eerder dit jaar een referentieontwerp voor een hybride cloud ontwikkeld met AMD en NetApp . Microsoft heeft in juli aangekondigd dat het Helios op grote schaal beschikbaar zal stellen op Azure.
Amazon