Společnost CoreWeave nasadila nejnovější systém GB200 NVL-72 s novými servery Dell XE9712. Systém byl představen v živé demonstraci v moderním datovém centru Switch, která zdůraznila jeho průlomový výkon a pokročilou chladicí infrastrukturu.
Systém GB200 NVL-72 od CoreWeave, umístěný v komoře Evo od Roba Roye, je navržen tak, aby zvládl i ty nejnáročnější výpočetní úlohy. Živá demoverze začala testem NCCL All-Reduce, což byl benchmark demonstrující ultra vysokou šířku pásma a nízkou latenci propojení Nvidia NVLink napříč 72 grafickými procesory v racku. Test zajišťuje bezproblémovou komunikaci mezi grafickými procesory.
BNa základě toho GPU Blaze Test demonstroval hrubý výpočetní výkon systému. GPU zvládaly složité úlohy násobení matic, simulovaly operace používané při trénování umělé inteligence, vědeckých simulacích a pokročilém zpracování dat.
Živý trénink se Sunkem od CoreWeave
GB200 NVL-72 byl také testován v živém tréninkovém běhu s využitím Slurm na Kubernetes (Sunk), kde byl trénován model Megatron. Tréninkové sezení ověřilo funkčnost racku s reálným zatížením a demonstrovalo výsledné zatížení chladicí a napájecí infrastruktury.
S rostoucí aktivitou grafického procesoru (GPU) dynamicky upravovala chladicí jednotka (CDU) v racku chladicí výkon, aby udržovala optimální teplotu hardwaru. Data z CDU v reálném čase ilustrovala, jak se teploty vratné kapaliny zvyšovaly s pracovním zatížením GPU, což zajistilo efektivní řízení teploty bez kompromisů ve výkonu.
Panel napájení GB200 NVL-72 poskytoval nepřetržitý přehled o energetických požadavcích systému, což demonstrovalo jeho efektivitu a transparentnost v oblasti správy energie.
Rob Royova Evo Chamber
NVL72 je umístěn v komoře Evo Chamber od Roba Roye, která poskytuje působivý výkon a chladicí kapacitu 1 MW na rack. Tento pokrok v infrastruktuře kombinuje 250 kW vzduchového chlazení se 750 kW kapacity kapalinového chlazení přímo na čip, což zajišťuje optimální výkon pro nejnáročnější úlohy umělé inteligence a HPC. Sofistikovaná konstrukce komory udržuje efektivní využití energie a tepelný management a zároveň podporuje požadavky na výpočetní techniku nové generace.
Závěr
Společnost CoreWeave je jasným lídrem v oboru, pokud jde o prokazování infrastruktury umělé inteligence jako služby. Velká část jejich úspěchu je způsobena schopností implementovat nejnovější infrastrukturu umělé inteligence rychleji než jiné cloudy. Nové systémy Dell GB200 NVL-72 představují novou éru vysoce výkonných výpočtů. Kombinují špičkový výkon grafických procesorů, pokročilá řešení chlazení a energetickou účinnost, aby splňovaly požadavky umělé inteligence, vědeckého výzkumu a datově náročných aplikací – což je obrovské vítězství pro jejich zákazníky, kteří provozují úlohy umělé inteligence ve velkém měřítku.
Amazon