HPE hat seinen ersten Auftrag für das AMD Helios AI Rack erhalten: Vultr investiert 1.2 Milliarden US-Dollar in die 72-GPU-Racks und wird diese in seinen Cloud-Rechenzentren in den USA einsetzen. HPE gab den Auftrag am 30. September bekannt, dem Tag seines Investorentages im Bereich Netzwerktechnik. Der Auftrag ist der erste Kundenerfolg für das Rack-Scale-Design, das HPE, AMD und Broadcom im Dezember vorgestellt haben . HPE liefert dabei die skalierbare Ethernet-Switching-Technologie und die Software für jedes Helios-Rack.
Vultr, laut HPE das weltweit größte private Cloud-Infrastrukturunternehmen, nahm im Juli Vorbestellungen für reservierte Helios-Kapazitäten für Implementierungen in den Jahren 2027 und 2028 entgegen. Die HPE-Bestellung sichert diesem Programm von HPE gefertigte Racks. „Die Nachfrage nach leistungsstarker KI-Infrastruktur übersteigt weiterhin die verfügbaren Kapazitäten. Dank unserer Zusammenarbeit mit AMD und HPE können wir unseren Kunden Helios-Rack-Computing und Scale-Up-Netzwerke schneller bereitstellen“, so JJ Kardwell, CEO von Vultr. „Gemeinsam bieten wir die Speicherkapazität, die Verbindungsleistung und die Energieeffizienz, die Kunden für die größten und anspruchsvollsten KI-Trainings- und Inferenz-Workloads benötigen.“
Was befindet sich in einem Helios-Rack?
Jedes Rack ist mit 72 AMD Instinct MI455X GPUs, AMD EPYC „Venice“-Prozessoren der 6. Generation, AMD Pensando Vulcano KI-Netzwerkkarten und dem ROCm-Software-Stack ausgestattet. Die MI455X ist AMDs erster CDNA-5-Beschleuniger mit 432 GB HBM4-Speicher pro GPU. Ein komplettes Rack bietet laut AMD insgesamt 31 TB HBM4-Speicher, eine Speicherbandbreite von 1.7 PB/s und 2.9 ExaFLOPS FP4-Leistung. Die GPUs teilen sich den Speicher über UALink over Ethernet (UALoE), die offene Scale-up-Architektur von AMD, die auf Standard-Ethernet basiert. Innerhalb des Racks stehen 260 TB/s Scale-up-Bandbreite und außerhalb 43 TB/s Scale-out-Bandbreite zur Verfügung.
HPEs Anteil am Rack besteht im Wesentlichen aus dem Netzwerk: Sechs HPE Juniper Networking QFX5252 Scale-Up-Ethernet-Switch-Einschübe sind in jedem Helios-Rack verbaut und verbinden alle 72 GPUs. Laut HPE wurden die Switches und die zugehörige Software speziell für Helios entwickelt. Die Bestellung erweitert zudem eine bereits vor der Fusion bestehende Partnerschaft: HPE zufolge arbeitet Vultr seit fast drei Jahren mit Juniper Networks zusammen, und diese Kooperation wird nun, da Juniper zu HPE gehört, fortgesetzt.
Flüssigkeitskühlung, Dienstleistungen und HPEs Netzwerk-Pitch
Die Racks nutzen die direkte Flüssigkeitskühlung von HPE, die HPE als Exascale-Technologie positioniert. HPE Services übernimmt die Bereitstellung und Integration der Flüssigkeitskühlung für große KI-Cluster. HPE vertreibt diese Kombination als Teil seines Portfolios „AI Data Center Solutions“, einem integrierten Stack mit AMD, der auf offenen Standards basiert. „AMD Helios by HPE demonstriert die einzigartige Fähigkeit von HPE, die komplette KI-Architektur mit Rack-Scale-Computing, Scale-Up-Netzwerken und direkter Flüssigkeitskühlung zu realisieren – alles bereitgestellt durch unsere globalen Services“, so Antonio Neri, Präsident und CEO von HPE.
Vultr bietet bereits AMD Instinct-Kapazitäten an und hat Anfang dieses Jahres zusammen mit AMD und NetApp ein Hybrid-Cloud-Referenzdesign entwickelt. Microsoft kündigte im Juli an, Helios in großem Umfang auf Azure einzuführen.
Amazon