Podrobný přehled kapalinou chlazeného serveru Dell PowerEdge XE9640 s grafickou kartou

Dell PowerEdge XE9640 je rackový server s 4x vyšší akcelerací GPU, který díky kapalinovému chlazení dokáže efektivně poskytovat výkon umělé inteligence. XE9640 byl představen na konferenci SC22 spolu s XE8640 a jedním z našich oblíbených, 8procesorovým GPU serverem XE9680 . Dnes je XE9640 běžně dostupný a my se podrobněji ponoříme do základního hardwaru.

Řada serverů Dell s akcelerací GPU

Řada serverů PowerEdge XE je určena pro komplexní úlohy v oblasti umělé inteligence a HPC, které vyžadují výkon a spolehlivost. Tyto servery jsou navrženy tak, aby byly vysoce výkonné, zaměřené na analýzu dat a inteligentní. V současné době řada serverů XE zahrnuje XE9680 ( zmínili jsme se, že byl oblíbený u Jordana?), XE9640, XE8640 a XE8545. Společným prvkem všech těchto serverů je návrh pro podporu široké škály iniciativ v oblasti umělé inteligence s možností chlazení, která dává zákazníkovi smysl.

Produkty	Účel	Výhody	Případy užití
XE9680	Navrženo pro vylepšení analýzy dat s akcelerací umělé inteligence pro optimální výkon a nejrychlejší návratnost investic	Využijte extrémní výkon pro umělou inteligenci a HPC s 8 grafickými procesory NVIDIA H100 nebo A100 Tensor Core SXM	Velké jazykové modely
		Inteligentní provoz s chlazením vzduchem (až do 35 °C) maximalizuje převod dat do výsledků	Zpracování přirozeného jazyka
		Inteligentní provoz s chlazením vzduchem (až do 35 °C) maximalizuje převod dat do výsledků	Školení pro velké doporučovací nástroje
			Modelování a simulace
			Digitální dvojčata a výroba
XE9640	Účelově navržený pro podporu iniciativ v oblasti umělé inteligence ve vysoce hustém 2U, inteligentním kapalinou chlazeném serveru	Dosáhněte lepších výsledků v oblasti umělé inteligence se 4 grafickými procesory NVIDIA H100 Tensor Core nebo 4 grafickými procesory Intel Data Center Max OAM	Zpracování přirozeného jazyka
		Inteligentní kapalinou chlazené CPU a GPU maximalizují výkon	Školení pro velké doporučovací nástroje
		Nižší celkové náklady na vlastnictví (TCO) s optimalizovanou účinností využití energie	Modelování a simulace
			Umělá inteligence, školení ML/DL pro rozpoznávání objektů
XE8640	Zvyšte výkon a řiďte úlohy umělé inteligence, HPC a analytiky	Automatizujte analýzu do poznatků se 4 grafickými kartami NVIDIA H100 pro širokou škálu aplikací	Modely jazyka pro datové sady středních rozměrů
		Chlazení vzduchem (až 35 °C) pro zvýšení energetické účinnosti	Zpracování přirozeného jazyka
		Škálování provozu s inteligentními možnostmi expanze	Modelování a simulace
			Umělá inteligence, trénování a inferencování ML/DL, rozpoznávání obrazů
XE8545	Výkon běžných aplikací s umělou inteligencí a grafikou	Zvyšte výkon trénování a inferencování se 4 grafickými procesory NVIDIA A100	Modelování a simulace, včetně seismické analýzy
		Vzduchové chlazení (až 35 °C) zajišťuje efektivní provoz	Umělá inteligence, trénování a inference ML/DL, rozpoznávání obrázků a chatbot
		Nižší celkové náklady na vlastnictví (TCO) s vyváženým řešením výkonu a spotřeby energie

Dell PowerEdge XE9640 – Diverzita grafických karet a kapalinové chlazení

PowerEdge XE9640 nabízí přímé kapalinové chlazení (DLC) pro grafické karty a procesory díky hlubokému partnerství s partnerskou společností CoolIT. Server je dodáván s několika ventilátory, které zajišťují dostatečné proudění vzduchu a chlazení pro paměťové karty DRAM, úložiště a rozšiřující karty PCIe. Tyto ventilátory však nemusí pracovat na maximálních otáčkách, což šetří značnou energii.

PowerEdge XE9640 přináší diverzifikaci grafických karet a nabízí výběr mezi 4x propojeným modulem NVIDIA NVLink H100 SXM5 GPU 700W nebo 4x propojeným modulem Intel XeLink Intel Data Center GPU Max 1550 600W Open Compute Platform (OCP) Accelerator Module (OAM).

Díky technologiím, jako jsou NVIDIA NVLink a Intel Xelink, tyto grafické karty komunikují bezproblémově a efektivně sdílejí paměť a jádra. To je obzvláště výhodné pro zpracování paměťově koherentních úloh, jako jsou modely velkých jazyků (LLM). Tato všestrannost je činí vhodnými pro širokou škálu úloh umělé inteligence. Samozřejmá otázka samozřejmě zní: „A co AMD Instinct?“ Společnost Dell neustále vyhodnocuje podporu pro další grafické karty, ale v tomto serveru při uvedení na trh nenabízí řešení od AMD.

Tato rozmanitost GPU umožňuje uživatelům řešit rostoucí požadavky generativní umělé inteligence, průmyslového simulačního modelování a špičkového vědeckého výzkumu. Například akcelerátor Intel Data Center GPU Max serveru PowerEdge XE9640 byl použit v Texas Advanced Computing Center (TACC) pro jejich superpočítač Stampede3.

Pokud jde o hustotu a chlazení, byl PowerEdge XE9640 navržen tak, aby efektivně využíval prostor v racku a zároveň zvyšoval výkon. Díky kompaktnímu profilu 2RU nabízí tento server působivou kapacitu GPU na rack, čímž maximalizuje cenný prostor v datovém centru. Díky využití DLC překonává PowerEdge XE9640 tradiční vzduchem chlazené systémy z hlediska účinnosti a nákladové efektivity.

Dell PowerEdge XE9640 – Zbytek hardwaru

Kromě „pouhých“ grafických karet je konstrukce řady XE prvotřídní. Právě jsme zveřejnili video recenzi modelů XE9640 a XE8640 . Video poskytuje vynikající detaily o designu, od přístupu k jednotkám a vedení DLC trubek na XE9640 až po uzavřený okruh kapalinového chlazení GPU na XE8640 a cestu k budoucím vylepšením na všech serverech XE. Video je vloženo níže pro referenci.

Kromě modelu XE9640 poskytuje odstranění krytu snadný přístup k diskům NVMe. Dva sloty na pravé straně šasi podporují disky úložného subsystému optimalizovaného pro bootování (BOSS) a zahrnují HWRAID 1 prostřednictvím 2 disků M.2 SSD. V současné době je primární úložiště zajištěno 4 disky U.2 Gen4 NVMe. Toto číslo se v budoucí verzi zdvojnásobí díky možnosti přihrádky na SSD pro podporu 8 disků E3.S Gen5 NVMe. Platforma nepodporuje HW RAID pro pozice U.2 NVMe, i když většina z nich jej nebude potřebovat. Mnoho z těchto grafických karet využívá masivní datové sady externě. Lokální úložiště v tomto případě nebude primárním zdrojem pro tyto velké datové sady.

Pro profesionály v oblasti umělé inteligence, kteří potřebují využívat masivní úložná pole, jsou samozřejmě v zadní části serveru dobré možnosti rozšíření. XE9640 podporuje čtyři sloty PCIe Gen5, dva poloviční výšky a dva plné výšky. Kromě toho je k dispozici slot PCIe Gen3 OCP NIC.

Aby se uklidnily obavy z úniku, kapalinou chlazené servery zahrnují v iDRAC hlášení o detekci úniků. Metoda společnosti Dell pro detekci úniků je docela neuvěřitelná, když vrtáte do různých částí šasi. Například na snímku chladicí desky CPU níže můžete rozeznat jemné měděné stopy v přerušovaném vzoru kolem celého vodního bloku. Pokud na tyto spoje kape voda, otevřená smyčka kabeláže detekuje malý zkrat a systém ví, že došlo k úniku. V jiných částech šasi se s podobnou metodou detekce používá opletené ocelové lano. To je vidět na naší fotografii hlavního bloku distribuce kapaliny s četnými hadicemi v přední části šasi. Kromě toho mají jednotky CoolIT CDU a zbytek smyčky také hlášení o detekci úniků v mnoha bodech podél cesty.

Mimochodem, vzduchem chlazené XE8640 a XE9680 také zahrnují uzavřenou smyčku kapalinového chlazení GPU se stejnou detekcí úniků prostřednictvím iDRAC.

Optimalizace výkonu na rack

PowerEdge XE9640 nabízí zákazníkům možnost jemně vyladit využití energie na rack. S devíti servery na rack může špičkové zatížení zrychleného výpočetního výkonu vyžadovat přibližně 41 kW energie, přičemž pro vyvážený výkon se využívá třífázový rozvod napájení. Pro škálování mohou datová centra nasadit racky s 12, 18 nebo dokonce 21 servery PowerEdge XE9640, čímž dosáhnou úrovně výkonu přibližně 54 kW, 81 kW a 95 kW. Tato přizpůsobivost umožňuje datovým centrem optimalizovat využití energie racku podle specifických požadavků.

Společnost Dell sestavila řadu zdrojů, které zákazníkům poskytují komplexní vhled do serveru PowerEdge XE9640. Patří sem videa s rozbalením a podrobné recenze produktu. Video s rozbalením představuje design a funkce serveru a nabízí zákazníkům vizuální prohlídku jeho možností.

Aby společnost Dell dále zdůraznila výhody serveru PowerEdge XE9640, vytvořila infografiku, která jej porovnává s jeho vzduchem chlazeným protějškem, PowerEdge XE8640 . Tato infografika zdůrazňuje významné rozdíly serveru PowerEdge XE9640, zejména jeho účinnost kapalinového chlazení a působivou kapacitu grafických karet na rack.

Závěrečné myšlenky

Server PowerEdge XE9640 je nedílnou součástí rozšiřující se řady generativních řešení umělé inteligence společnosti Dell, která jsou navržena tak, aby způsobila revoluci v pracovních úlohách s využitím umělé inteligence a podpořila inovace. Řešení generativní umělé inteligence od společnosti Dell kombinuje špičkové technologie, inovace a služby nabízené společností Dell Technologies, aby poskytovalo inteligentnější a rychlejší výsledky. Využitím možností generativní umělé inteligence mohou organizace získat nové poznatky, urychlit své transformační úsilí a zvýšit efektivitu pracovní síly.

Zatímco XE9680 může zůstat naším favoritem mezi servery Dell s grafickými procesory, XE9640 si získal naši pozornost čistě z hlediska efektivity a designu. Šasi 2U v sobě skrývá obrovské množství inženýrských dovedností; datová centra s kapalinovým chlazením budou k těmto energeticky úsporným boxům jednoznačně tíhnout. Čtyři moduly NVIDIA samy o sobě spotřebují 2800 W, takže cokoli, co Dell může udělat pro to, aby datová centra byla efektivnější z hlediska racku a energie, je obrovský skok vpřed.

Infographic