HPE ha ricevuto il suo primo ordine per l'AMD Helios AI Rack by HPE, un impegno da 1.2 miliardi di dollari da parte di Vultr per l'implementazione di rack da 72 GPU nei data center cloud di Vultr negli Stati Uniti. HPE ha annunciato l'ordine il 30 settembre, lo stesso giorno in cui si è tenuto il Networking Investor Day, e l'accordo rappresenta la prima prova di fattibilità per il design su scala rack che HPE, AMD e Broadcom hanno definito a dicembre , in cui HPE fornisce lo switching Ethernet scalabile e il software all'interno di ciascun rack Helios.
Vultr, che HPE descrive come la più grande azienda privata al mondo nel settore delle infrastrutture cloud, ha annunciato a luglio l'avvio della raccolta di preordini per la capacità Helios riservata, destinata a implementazioni previste tra il 2027 e il 2028. L'ordine da parte di HPE prevede l'utilizzo di rack prodotti da HPE per questo programma. "La domanda di infrastrutture AI ad alte prestazioni continua a superare la capacità disponibile e la nostra collaborazione con AMD e HPE ci consente di rendere disponibili ai clienti più rapidamente la capacità di calcolo su scala rack e la rete scalabile di Helios", ha dichiarato JJ Kardwell, CEO di Vultr. "Insieme, offriamo la capacità di memoria, le prestazioni di interconnessione e l'efficienza energetica di cui i clienti hanno bisogno per eseguire i carichi di lavoro di addestramento e inferenza AI più grandi e impegnativi."
Cosa contiene un rack Helios?
Ogni rack ospita 72 GPU AMD Instinct MI455X con CPU AMD EPYC "Venice" di sesta generazione, schede di rete AMD Pensando Vulcano AI e lo stack software ROCm. La MI455X è il primo acceleratore CDNA 5 di AMD , con 432 GB di HBM4 per GPU, e un rack completo raggiunge complessivamente 31 TB di HBM4, 1.7 PB/s di larghezza di banda della memoria e 2.9 exaFLOPS di FP4, secondo i dati di AMD. Le GPU condividono la memoria tramite UALink over Ethernet (UALoE), la struttura di scalabilità aperta di AMD basata su Ethernet standard, con 260 TB/s di larghezza di banda di scalabilità verticale all'interno del rack e 43 TB/s di larghezza di banda di scalabilità orizzontale in uscita.
La componente di HPE nel rack è costituita principalmente dalla rete: sei switch Ethernet scale-up HPE Juniper Networking QFX5252 sono installati in ogni rack Helios e collegano tutte le 72 GPU. HPE afferma che gli switch e il relativo software sono stati progettati specificamente per Helios. L'ordine consolida inoltre una collaborazione preesistente alla fusione: HPE dichiara che Vultr lavora con Juniper Networks da quasi tre anni e che tale collaborazione prosegue ora che Juniper fa parte di HPE.
Raffreddamento a liquido, servizi e presentazione di HPE sulle soluzioni di rete.
I rack utilizzano il sistema di raffreddamento a liquido diretto di HPE, che HPE definisce derivato dall'exascale, e HPE Services si occupa dell'implementazione e dell'integrazione del raffreddamento a liquido per i grandi cluster AI. HPE commercializza questa combinazione come parte del suo portfolio AI Data Center Solutions, uno stack integrato con AMD basato su standard aperti. "AMD Helios by HPE dimostra la capacità unica di HPE di progettare l'architettura AI completa con elaborazione su scala rack, networking scalabile e raffreddamento a liquido diretto, il tutto fornito dai nostri servizi globali", ha affermato Antonio Neri, presidente e CEO di HPE.
Vultr offre già capacità AMD Instinct e all'inizio di quest'anno ha realizzato un progetto di riferimento per il cloud ibrido con AMD e NetApp , e Microsoft ha dichiarato a luglio che avrebbe implementato Helios su larga scala su Azure.
Amazon