Společnost Dell Technologies ve spolupráci se společností CoreWeave oznámila dodání prvního systému NVIDIA GB300 NVL72 v oboru. Tento milník navazuje na dřívější úspěch společnosti Dell jako prvního dodavatele, který dodal systém NVIDIA GB200, a dále upevňuje její vedoucí postavení v oblasti infrastruktury umělé inteligence. CoreWeave, přední poskytovatel cloudových služeb (CSP) pro umělou inteligenci, se stává prvním hyperškálovacím poskytovatelem, který nasazuje systém NVIDIA GB300 NVL72, kapalinou chlazený systém umělé inteligence škálovatelný pro rackové úlohy, který je navržen pro nejnáročnější podnikové úlohy.
Tento úspěch je výsledkem silného partnerství mezi společnostmi Dell, CoreWeave a NVIDIA, které staví na dynamice projektu Dell AI Factory s NVIDIA . Dell AI Factory poskytuje komplexní a bezpečná řešení v oblasti umělé inteligence přizpůsobená vyvíjejícím se potřebám moderních podniků a umožňuje organizacím s jistotou urychlit jejich iniciativy v oblasti umělé inteligence.
Odemknutí podnikového potenciálu s CoreWeave
Nasazení integrovaných racků Dell s procesorem NVIDIA GB300 NVL72 společností CoreWeave představuje významný skok v škálovatelnosti a výkonu cloudových služeb umělé inteligence. Řešení využívá kapalinou chlazené integrované škálovatelné rackové systémy Dell poháněné servery PowerEdge XE9712 . Každý rack je vybaven 72 grafickými procesory NVIDIA Blackwell Ultra a 36 procesory NVIDIA Grace s architekturou Arm, což poskytuje robustní základ pro úlohy umělé inteligence nové generace.
Grafické procesory NVIDIA Blackwell Ultra, které jsou srdcem tohoto systému, dosahují 1.5krát více výpočetních FLOPS pro umělou inteligenci ve srovnání s jejich předchůdci, což umožňuje rychlejší a efektivnější zpracování složitých modelů. Systém je také vybaven rozšířenou pamětí HBM3e, která nabízí až 21 TB paměti GPU s vysokou šířkou pásma na rack, což je 1.5krát více než předchozí generace GB200 NVL72. Toto podstatné zvýšení paměti umožňuje větší dávky a složitější modely, což je nezbytné pro maximalizaci propustnosti v úlohách uvažování a inference s umělou inteligencí.
Technologie NVIDIA NVLink páté generace poskytuje působivou celkovou šířku pásma 130 TB/s, což zajišťuje bezproblémovou a vysokorychlostní komunikaci mezi jednotlivými grafickými procesory v systému. Tato úroveň propojení je klíčová pro dosažení špičkového výkonu v modelech umělé inteligence, zejména těch, které fungují ve velkém měřítku.
Síťové připojení je dále vylepšeno technologií InfiniBand nové generace s přepínači NVIDIA Quantum-X800 InfiniBand a síťovými kartami NVIDIA ConnectX-8 SuperNIC, které poskytují vyhrazenou konektivitu s rychlostí 800 gigabitů za sekundu (Gb/s) pro každou grafickou kartu. Tato architektura zajišťuje nejlepší vzdálený přístup k paměti (RDMA) ve své třídě a maximalizuje efektivitu rozsáhlých úloh s umělou inteligencí.
Zabezpečení a multi-tenancy jsou řešeny prostřednictvím softwarového frameworku NVIDIA DOCA, který běží na procesorech NVIDIA BlueField-3. Tato kombinace zrychluje úlohy umělé inteligence tím, že poskytuje síťové připojení tenantů s rychlostí linky až 200 Gb/s a vysoce výkonný přístup k datům prostřednictvím GPU, což podporuje bezpečná cloudová prostředí s více tenanty.
Navrženo pro umělou inteligenci na hraniční úrovni
Řešení Dell Integrated Rack je navrženo pro rychlé nasazení a bezproblémovou integraci do produkčních prostředí. Podle společnosti Dell dokáže systém až desetinásobně zkrátit dobu odezvy uživatelů a dosáhnout pětinásobného zvýšení propustnosti na watt ve srovnání s předchozí generací NVIDIA Hopper.
CoreWeave zdůrazňuje, že systém je určen pro umělou inteligenci na hraniční úrovni a umožňuje uživatelům trénovat, optimalizovat a nasazovat modely s parametry v řádu bilionů. Je speciálně navržen tak, aby zvládal vysoké výpočetní nároky škálování inference v testovacím čase, což je klíčový požadavek pro nasazení pokročilých modelů umělé inteligence v produkčním prostředí.
Toto nasazení výrazně vylepšuje cloudovou platformu CoreWeave pro umělou inteligenci, zjednodušuje trénování, uvažování a inferenci v reálném čase pro rozsáhlé jazykové modely. Architektura systému podporuje rychlou komunikaci mezi GPU prostřednictvím přepínacích lišt NVIDIA NVLink, poskytuje hustý výkon umělé inteligence přes jeden exaflop a poskytuje až 40 TB vysokorychlostní paměti v jednom racku.
Závazek k výkonu a škálovatelnosti
Společnost CoreWeave plánuje v průběhu roku zavádět servery Dell s akcelerací NVIDIA GB300, čímž podtrhuje svůj závazek k efektivitě, škálovatelnosti a špičkovému výkonu. Tuto iniciativu plně podporují profesionální služby AI společnosti Dell, které přinášejí hluboké odborné znalosti v oblasti návrhu a integrace datových center a zajišťují zákazníkům optimální výkon a hladký přechod na infrastrukturu AI nové generace.
Amazon