Op SC24 in Atlanta gaf WEKA een preview van de eerste high-performance storage-oplossing in de branche die speciaal is ontworpen voor de NVIDIA Grace CPU Superchip. Deze oplossing is ontwikkeld in samenwerking met NVIDIA, Arm en Supermicro en maakt gebruik van de WEKA Data Platform-software om ongeëvenaarde prestatiedichtheid en energie-efficiëntie te bieden voor enterprise AI en high-performance computing (HPC) workloads. Het beschikt over Arm Neoverse V2-cores, NVIDIA ConnectX-7 NIC's en BlueField-3 SuperNIC's, die draaien op een geavanceerde Supermicro-storageserver om de groeiende uitdagingen van datatoegang, ruimte- en stroombeperkingen in moderne datacenters aan te pakken.
De volgende generatie AI-innovatie stimuleren
De NVIDIA Grace CPU Superchip integreert de mogelijkheden van een vlaggenschip x86-64 dual-socket server in een enkele module die wordt aangestuurd door 144 Arm Neoverse V2 cores. Dit ontwerp levert 2x de energie-efficiëntie van traditionele x86 servers. Gecombineerd met NVIDIA ConnectX-7 NIC's en BlueField-3 SuperNIC's, die tot 400Gb/s throughput bieden, biedt de oplossing high-speed, low-latency networking die essentieel is voor AI en HPC workloads. Deze ontwikkelingen worden gecombineerd met de zero-copy architectuur van WEKA Data Platform, waardoor I/O-knelpunten worden geëlimineerd en de AI-pijplijnlatentie drastisch wordt verminderd.
In combinatie met de AI-native architectuur van het WEKA Data Platform kunnen organisaties met deze functionaliteit hun AI-workflows tot wel 10x versnellen. Hierdoor wordt de tijd tot het eerste token verkort en verbetert de algehele efficiëntie van AI-datapijplijnen.
De LPDDR5X-geheugenarchitectuur van de Grace CPU, met tot 1 TB/s geheugenbandbreedte, elimineert knelpunten en zorgt voor een naadloze gegevensstroom. Het WEKA Data Platform, dat gebruikmaakt van gedistribueerde architectuur en kernel-bypass-technologie, ondersteunt snellere modeltraining, kortere epoch-tijden en hogere inferentiesnelheden, waardoor het een ideale oplossing is voor het schalen van enterprise AI-workloads.
Deze oplossing biedt ongekende energie-efficiëntie, waarbij het WEKA-platform de efficiëntie van de GPU-stack met een factor 10 tot 50 verhoogt . Door het aantal datakopieën te verminderen en gebruik te maken van de elasticiteit van de cloud, verkleint het platform de ecologische voetafdruk van de data-infrastructuur met een factor 4 tot 7, waardoor de CO2-uitstoot met maximaal 260 ton CO2e per petabyte per jaar daalt en de energiekosten tot wel 10 keer lager worden. Dankzij de energie-efficiëntie van de Grace CPU Superchip kunnen organisaties hun duurzaamheidsdoelstellingen behalen en tegelijkertijd de AI-prestaties verbeteren.
Transformatie van datacenters voor enterprise AI
De samenwerking tussen WEKA, NVIDIA, Arm en Supermicro onderstreept een gedeelde visie voor het creëren van hoogwaardige, energiezuinige oplossingen die zijn afgestemd op datacenters van de volgende generatie. Nilesh Patel, Chief Product Officer van WEKA, benadrukte het transformatieve potentieel van dit partnerschap en benadrukte hoe de oplossing AI- en HPC-workloads versnelt, terwijl de tijd tot bruikbare inzichten wordt verkort en het stijgende energieverbruik van datacenters wordt aangepakt.
De Supermicro ARS-121L-NE316R opslagserver beschikt over:
- 16 Gen5 E3.S NVMe SSD-sleuven voor opslag met hoge prestaties.
- Drie PCIe Gen 5-netwerkslots, met ondersteuning voor maximaal twee NVIDIA ConnectX-7 of BlueField-3 SuperNIC's en één OCP 3.0-netwerkadapter.
- Een ontwerp dat is geoptimaliseerd voor AI, data-analyse en grootschalige cloudtoepassingen.
Ivan Goldwasser, Director of Data Center CPUs bij NVIDIA, prees de oplossing voor de naadloze integratie van de NVIDIA Grace CPU Superchip met het WEKA-platform om data-intensieve AI-workloads te verbeteren. Patrick Chiu, Senior Director of Storage Product Management bij Supermicro, beschreef de Supermicro ARS-121L-NE316R Petascale-opslagserver als de eerste opslaggeoptimaliseerde server met de NVIDIA Grace Superchip, op maat gemaakt voor opslagworkloads met hoge prestaties, zoals AI, data-analyse en hyperscale cloudtoepassingen.
Beschikbaarheid
De opslagoplossing van WEKA en Supermicro met NVIDIA Grace CPU Superchips zal begin 2025 commercieel verkrijgbaar zijn.
Amazon