CoreWeave heeft zijn eerste Dell XE9712 GB200 NVL-72-systeem onthuld, compleet met prestatie-inzichten!
CoreWeave heeft het nieuwste GB200 NVL-72-systeem geïmplementeerd met de nieuwe Dell XE9712-servers. Het systeem werd getoond in een livedemonstratie in een state-of-the-art Switch-datacenter, waarbij de baanbrekende prestaties en geavanceerde koelinfrastructuur werden benadrukt.
Het GB200 NVL-72-systeem van CoreWeave, ondergebracht in Rob Roy's Evo Chamber, is ontworpen om de meest veeleisende rekenwerklasten aan te kunnen. De live demo begon met de NCCL All-Reduce Test, een benchmark die de ultrahoge bandbreedte en lage latentie van de Nvidia NVLink-interconnectiviteit over de 72 GPU's van het rack demonstreerde. De test zorgt voor naadloze communicatie tussen de GPU's.
BHierop voortbouwend, illustreerde de GPU Blaze Test de ruwe rekenkracht van het systeem. De GPU's pakten complexe matrixvermenigvuldigingswerklasten aan, simuleerden bewerkingen die werden gebruikt in AI-training, wetenschappelijke simulaties en geavanceerde gegevensverwerking.
Live training met CoreWeave's Sunk
De GB200 NVL-72 werd ook getest met een live trainingsrun met Slurm op Kubernetes (Sunk), waarbij het Megatron-model werd getraind. De trainingssessie valideerde het rek met een echte werklast en demonstreerde de resulterende belasting op de koel- en stroominfrastructuur.
Naarmate de GPU-activiteit toenam, paste de in-rack Cooling Distribution Unit (CDU) de koeloutput dynamisch aan om optimale hardwaretemperaturen te behouden. Realtimegegevens van de CDU illustreerden hoe vloeistofretourtemperaturen toenamen met GPU-werklasten, wat zorgde voor efficiënt thermisch beheer zonder dat dit ten koste ging van de prestaties.
Het energiedashboard van de GB200 NVL-72 gaf continu inzicht in de energiebehoeften van het systeem, wat de efficiëntie en transparantie van het energiebeheer aantoonde.
Rob Roy's Evo-kamer
De NVL72 is ondergebracht in Rob Roy's Evo Chamber, die een indrukwekkende 1 MW aan vermogen en koelvermogen per rack levert. Deze vooruitgang in infrastructuur combineert 250 kW aan luchtkoeling met 750 kW aan direct-to-chip vloeistofkoelcapaciteit, wat zorgt voor optimale prestaties voor de meest veeleisende AI- en HPC-werklasten. Het geavanceerde ontwerp van de kamer handhaaft efficiënt stroomverbruik en thermisch beheer, terwijl het de volgende generatie computervereisten ondersteunt.
Conclusie
CoreWeave is een duidelijke leider in de sector als het gaat om het bewijzen van AI-infrastructuur als een service. Een groot deel van hun succes is te danken aan hun vermogen om de nieuwste AI-infrastructuur sneller te onboarden dan andere clouds. De nieuwe Dell GB200 NVL-72-systemen vertegenwoordigen een nieuw tijdperk in high-performance computing. Ze combineren geavanceerde GPU-prestaties, geavanceerde koeloplossingen en energie-efficiëntie om te voldoen aan de eisen van AI, wetenschappelijk onderzoek en data-intensieve applicaties - een enorme overwinning voor hun klanten die AI-workloads op schaal uitvoeren.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
