CoreWeave har presenterat sitt första Dell XE9712 GB200 NVL-72-system – komplett med prestandainsikter!
CoreWeave har implementerat det senaste GB200 NVL-72-systemet med de nya Dell XE9712-servrarna. Systemet visades upp i en livedemonstration i ett Switch-state-of-the-art datacenter, som lyfte fram dess banbrytande prestanda och avancerade kylningsinfrastruktur.
CoreWeaves GB200 NVL-72-system, inrymt i Rob Roys Evo Chamber, är designat för att hantera de mest krävande beräkningsbelastningarna. Livedemon började med NCCL All-Reduce Test, ett riktmärke som visar den ultrahöga bandbredden och den låga latensen hos Nvidia NVLink-sammankopplingen över rackets 72 GPU:er. Testet säkerställer sömlös kommunikation mellan GPU:erna.
BUtgående från detta illustrerade GPU Blaze Test systemets råa beräkningskraft. GPU:erna hanterade komplexa arbetsbelastningar för matrismultiplikation, simulerade operationer som används i AI-träning, vetenskapliga simuleringar och avancerad databehandling.
Liveträning med CoreWeave's Sunk
GB200 NVL-72 testades också med en liveträningskörning med Slurm på Kubernetes (Sunk), som tränade Megatron-modellen. Träningspasset validerade racket med en verklig arbetsbelastning och visade den resulterande belastningen på kyl- och kraftinfrastrukturen.
När GPU-aktiviteten ökade, justerade den inbyggda kyldistributionsenheten (CDU) dynamiskt kyleffekten för att bibehålla optimala hårdvarutemperaturer. Realtidsdata från CDU illustrerade hur vätskereturtemperaturerna ökade med GPU-arbetsbelastningar, vilket säkerställer effektiv värmehantering utan att kompromissa med prestanda.
GB200 NVL-72:s kraftinstrumentpanel gav en kontinuerlig översikt över systemets energibehov, vilket visade dess effektivitet och transparens i energihantering.
Rob Roys Evo-kammare
NVL72 är inrymd i Rob Roys Evo Chamber, som ger en imponerande 1MW kraft och kylkapacitet per rack. Detta framsteg inom infrastruktur kombinerar 250 kW luftkylning med 750 kW vätskekylningskapacitet direkt till chip, vilket säkerställer optimal prestanda för de mest krävande AI- och HPC-arbetsbelastningarna. Kammarens sofistikerade design upprätthåller effektiv energianvändning och termisk hantering samtidigt som den stödjer nästa generations datorkrav.
Slutsats
CoreWeave är en tydlig branschledare när det gäller att bevisa AI-infrastruktur som en tjänst. Mycket av deras framgång beror på deras förmåga att ta in den senaste AI-infrastrukturen snabbare än andra moln. De nya Dell GB200 NVL-72-systemen representerar en ny era inom högpresterande datoranvändning. De kombinerar banbrytande GPU-prestanda, avancerade kylningslösningar och energieffektivitet för att möta kraven från AI, vetenskaplig forskning och dataintensiva applikationer – en enorm vinst för deras kunder som kör AI-arbetsbelastningar i stor skala.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
