PÅ SC24 i Atlanta förhandsgranskade WEKA branschens första högpresterande lagringslösning designad specifikt för NVIDIA Grace CPU Superchip. Denna lösning har utvecklats i samarbete med NVIDIA, Arm och Supermicro och använder WEKA Data Platform-programvaran för att ge oöverträffad prestandatäthet och energieffektivitet för företags AI och högpresterande datorer (HPC) arbetsbelastningar. Den har Arm Neoverse V2-kärnor, NVIDIA ConnectX-7 NIC och BlueField-3 SuperNIC, som körs på en banbrytande Supermicro-lagringsserver för att hantera de växande utmaningarna med dataåtkomst, utrymme och strömbegränsningar i moderna datacenter.
Drivkraft för nästa generations AI-innovation
NVIDIA Grace CPU Superchip integrerar funktionerna hos en flaggskepp x86-64 dual-socket server i en enda modul som drivs av 144 Arm Neoverse V2-kärnor. Denna design ger två gånger så mycket energieffektivitet som traditionella x2-servrar. Parat med NVIDIA ConnectX-86 NIC och BlueField-7 SuperNIC, som erbjuder upp till 3 Gb/s genomströmning, ger lösningen höghastighetsnätverk med låg latens som är avgörande för AI- och HPC-arbetsbelastningar. Dessa framsteg är kopplade till WEKA Data Platforms nollkopieringsarkitektur, vilket eliminerar I/O-flaskhalsar och dramatiskt minskar AI-pipeline-latensen.
I kombination med WEKA Data Platforms AI-native arkitektur, gör denna förmåga organisationer att accelerera AI-arbetsflöden med upp till 10x, vilket minskar tiden till första token och förbättrar den övergripande effektiviteten i AI-datapipelines.
Grace CPU:s LPDDR5X-minnesarkitektur, med upp till 1 TB/s minnesbandbredd, eliminerar flaskhalsar, vilket säkerställer ett sömlöst dataflöde. WEKA-dataplattformen, som utnyttjar distribuerad arkitektur och kernel-bypass-teknik, stöder snabbare modellträning, minskade epoktider och högre slutledningshastigheter, vilket gör den till en idealisk lösning för att skala företags AI-arbetsbelastningar.
Denna lösning erbjuder oöverträffad energieffektivitet, där WEKA-plattformen ökar GPU-stackens effektivitet med 10–50 gånger . Genom att minska datakopier och utnyttja molnelasticitet krymper plattformen datainfrastrukturens fotavtryck med 4–7 gånger, vilket minskar koldioxidutsläppen med upp till 260 ton CO2e per petabyte årligen och sänker energikostnaderna med upp till 10 gånger. Med Grace CPU Superchips energieffektivitet kan organisationer uppnå hållbarhetsmål samtidigt som de förbättrar AI-prestanda.
Förvandla datacenter för företags AI
WEKA, NVIDIA, Arm och Supermicro-samarbetet understryker en gemensam vision för att skapa högpresterande, energieffektiva lösningar skräddarsydda för nästa generations datacenter. Nilesh Patel, WEKA:s Chief Product Officer, lyfte fram den transformativa potentialen i detta partnerskap, och betonade hur lösningen accelererar AI- och HPC-arbetsbelastningar samtidigt som den minskar tiden till handlingsbara insikter och tar itu med ökande datacenterenergiförbrukning.
Supermicro ARS-121L-NE316R lagringsserver har:
- 16 Gen5 E3.S NVMe SSD-fack för högpresterande lagring.
- Tre PCIe Gen 5-nätverksplatser som stöder upp till två NVIDIA ConnectX-7 eller BlueField-3 SuperNIC och en OCP 3.0-nätverksadapter.
- En design optimerad för AI, dataanalys och hyperskala molnapplikationer.
Ivan Goldwasser, Director of Data Center CPUs på NVIDIA, berömde lösningen för att sömlöst integrera NVIDIA Grace CPU Superchip med WEKA-plattformen för att förbättra dataintensiva AI-arbetsbelastningar. Patrick Chiu, Senior Director of Storage Product Management på Supermicro, beskrev Supermicro ARS-121L-NE316R Petascale-lagringsservern som den första lagringsoptimerade servern som använder NVIDIA Grace Superchip, skräddarsydd för högpresterande lagringsarbetsbelastningar som AI, dataanalys, och hyperskala molnapplikationer.
Tillgänglighet
WEKA och Supermicro-lagringslösningen med NVIDIA Grace CPU Superchips kommer att finnas kommersiellt tillgänglig i början av 2025.
Amazon