Allo SC24 di Atlanta, WEKA ha presentato in anteprima la prima soluzione di storage ad alte prestazioni del settore progettata specificamente per il Superchip CPU NVIDIA Grace. Sviluppata in collaborazione con NVIDIA, Arm e Supermicro, questa soluzione sfrutta il software WEKA Data Platform per fornire una densità di prestazioni ed efficienza energetica senza pari per carichi di lavoro AI e high-performance computing (HPC) aziendali. È dotata di core Arm Neoverse V2, NIC NVIDIA ConnectX-7 e SuperNIC BlueField-3, in esecuzione su un server di storage Supermicro all'avanguardia per affrontare le crescenti sfide di accesso ai dati, spazio e vincoli di alimentazione nei moderni data center.
Guidare la prossima generazione di innovazione dell'intelligenza artificiale
NVIDIA Grace CPU Superchip integra le capacità di un server dual-socket x86-64 di punta in un singolo modulo alimentato da 144 core Arm Neoverse V2. Questo design offre il doppio dell'efficienza energetica dei server x2 tradizionali. In abbinamento a NVIDIA ConnectX-86 NIC e BlueField-7 SuperNIC, che offrono una produttività fino a 3 Gb/s, la soluzione fornisce una rete ad alta velocità e bassa latenza essenziale per carichi di lavoro AI e HPC. Questi progressi sono abbinati all'architettura zero-copy di WEKA Data Platform, eliminando i colli di bottiglia I/O e riducendo drasticamente la latenza della pipeline AI.
In combinazione con l'architettura AI nativa della piattaforma dati WEKA, questa funzionalità consente alle organizzazioni di accelerare i flussi di lavoro AI fino a 10 volte, riducendo il tempo necessario per ottenere il primo token e migliorando l'efficienza complessiva nelle pipeline di dati AI.
L'architettura di memoria LPDDR5X della CPU Grace, con una larghezza di banda di memoria fino a 1 TB/s, elimina i colli di bottiglia, garantendo un flusso di dati senza interruzioni. La piattaforma dati WEKA, sfruttando l'architettura distribuita e la tecnologia kernel-bypass, supporta un training di modelli più rapido, tempi di epoca ridotti e velocità di inferenza più elevate, rendendola una soluzione ideale per scalare i carichi di lavoro AI aziendali.
Questa soluzione offre un'efficienza energetica senza precedenti, con la piattaforma WEKA che aumenta l'efficienza dello stack GPU di 10-50 volte . Riducendo le copie dei dati e sfruttando l'elasticità del cloud, la piattaforma riduce l'ingombro dell'infrastruttura dati di 4-7 volte, tagliando le emissioni di carbonio fino a 260 tonnellate di CO2e per petabyte all'anno e diminuendo i costi energetici fino a 10 volte. Grazie all'efficienza energetica del superchip Grace CPU, le organizzazioni possono raggiungere gli obiettivi di sostenibilità e al contempo potenziare le prestazioni dell'IA.
Trasformare i data center per l'intelligenza artificiale aziendale
La collaborazione tra WEKA, NVIDIA, Arm e Supermicro sottolinea una visione condivisa per la creazione di soluzioni ad alte prestazioni ed efficienza energetica su misura per i data center di prossima generazione. Nilesh Patel, Chief Product Officer di WEKA, ha evidenziato il potenziale trasformativo di questa partnership, sottolineando come la soluzione acceleri i carichi di lavoro AI e HPC riducendo al contempo il tempo per ottenere informazioni utili e affrontando il crescente consumo energetico dei data center.
Il server di archiviazione Supermicro ARS-121L-NE316R presenta le seguenti caratteristiche:
- 16 alloggiamenti SSD Gen5 E3.S NVMe per storage ad alte prestazioni.
- Tre slot di rete PCIe Gen 5, che supportano fino a due NVIDIA ConnectX-7 o BlueField-3 SuperNIC e un adattatore di rete OCP 3.0.
- Un design ottimizzato per l'intelligenza artificiale, l'analisi dei dati e le applicazioni cloud su larga scala.
Ivan Goldwasser, Direttore delle CPU del Data Center presso NVIDIA, ha elogiato la soluzione per l'integrazione senza soluzione di continuità della CPU Superchip NVIDIA Grace con la piattaforma WEKA per migliorare i carichi di lavoro AI ad alta intensità di dati. Patrick Chiu, Direttore Senior dello Storage Product Management presso Supermicro, ha descritto il server di storage Petascale Supermicro ARS-121L-NE316R come il primo server ottimizzato per lo storage che utilizza la NVIDIA Grace Superchip, su misura per carichi di lavoro di storage ad alte prestazioni come AI, analisi dei dati e applicazioni cloud hyperscale.
Disponibilità
La soluzione di storage WEKA e Supermicro dotata di superchip CPU NVIDIA Grace sarà disponibile in commercio all'inizio del 2025.
Amazon