Firma CoreWeave wdrożyła najnowszy system GB200 NVL-72 z nowymi serwerami Dell XE9712. System został zaprezentowany na żywo w najnowocześniejszym centrum danych Switch, gdzie podkreślono jego przełomową wydajność i zaawansowaną infrastrukturę chłodzenia.
System GB200 NVL-72 firmy CoreWeave, umieszczony w komorze Evo firmy Rob Roy, został zaprojektowany z myślą o obsłudze najbardziej wymagających obciążeń obliczeniowych. Demonstracja na żywo rozpoczęła się od testu NCCL All-Reduce, testu porównawczego demonstrującego ultrawysoką przepustowość i niskie opóźnienia połączeń Nvidia NVLink pomiędzy 72 procesorami graficznymi w szafie. Test zapewnia płynną komunikację między procesorami graficznymi.
BBazując na tym, test GPU Blaze zilustrował surową moc obliczeniową systemu. Procesory GPU poradziły sobie ze złożonymi zadaniami mnożenia macierzy, symulując operacje wykorzystywane w szkoleniu sztucznej inteligencji, symulacjach naukowych i zaawansowanym przetwarzaniu danych.
Szkolenie na żywo z Sunk firmy CoreWeave
GB200 NVL-72 został również przetestowany w trybie rzeczywistym z wykorzystaniem Slurm na Kubernetes (Sunk), trenując model Megatron. Podczas sesji szkoleniowej sprawdzono działanie szafy z rzeczywistym obciążeniem i zademonstrowano wynikające z tego obciążenie infrastruktury chłodzenia i zasilania.
Wraz ze wzrostem aktywności GPU, jednostka dystrybucji chłodzenia (CDU) dynamicznie dostosowywała moc chłodzenia, aby utrzymać optymalną temperaturę sprzętu. Dane z CDU w czasie rzeczywistym pokazywały, jak temperatura powrotu płynu wzrastała wraz z obciążeniem GPU, zapewniając efektywne zarządzanie temperaturą bez obniżania wydajności.
Panel sterowania energią GB200 NVL-72 umożliwiał stały podgląd zapotrzebowania systemu na energię, wykazując jego wydajność i przejrzystość w zarządzaniu energią.
Komora ewolucyjna Roba Roya
Serwer NVL72 mieści się w komorze Evo firmy Rob Roy, która zapewnia imponującą moc 1 MW i wydajność chłodzenia na szafę. Ten postęp w infrastrukturze łączy 250 kW chłodzenia powietrzem z 750 kW chłodzenia cieczą bezpośrednio do układu scalonego, zapewniając optymalną wydajność dla najbardziej wymagających zadań AI i HPC. Zaawansowana konstrukcja komory zapewnia efektywne zużycie energii i zarządzanie temperaturą, jednocześnie spełniając wymagania obliczeniowe nowej generacji.
Wniosek
CoreWeave jest zdecydowanym liderem branży w zakresie wdrażania infrastruktury AI jako usługi (ISP). W dużej mierze ich sukces wynika z możliwości szybszego wdrażania najnowszej infrastruktury AI niż w przypadku innych chmur. Nowe systemy Dell GB200 NVL-72 reprezentują nową erę w dziedzinie obliczeń o wysokiej wydajności. Łączą one najnowocześniejszą wydajność GPU, zaawansowane rozwiązania chłodzenia i energooszczędność, aby sprostać wymaganiom sztucznej inteligencji, badań naukowych i aplikacji intensywnie przetwarzających dane – to ogromny atut dla klientów, którzy korzystają z obciążeń AI na dużą skalę.
Amazon