Szczegółowa analiza serwera Dell PowerEdge XE9640 z procesorem graficznym chłodzonym cieczą

Dell PowerEdge XE9640 to serwer rackowy z 4-krotną akceleracją GPU, który dzięki chłodzeniu cieczą zapewnia energooszczędne zasilanie sztucznej inteligencji. XE9640 został zaprezentowany podczas konferencji SC22 wraz z XE8640 i jednym z naszych ulubionych serwerów, 8-kanałowym serwerem z GPU XE9680 . Dziś XE9640 jest już powszechnie dostępny, a my przyglądamy się bliżej jego podzespołom.

Rodzina serwerów Dell z akceleracją GPU

Rodzina serwerów PowerEdge XE została zaprojektowana specjalnie do obsługi złożonych obciążeń AI i HPC, które wymagają wydajności i niezawodności. Serwery te zostały zaprojektowane z myślą o wysokiej wydajności, analizie i inteligencji. Obecnie rodzina serwerów XE obejmuje modele XE9680 (czy wspominaliśmy już, że był to ulubiony model Jordana?), XE9640, XE8640 i XE8545. Wspólnym mianownikiem wszystkich tych serwerów jest konstrukcja wspierająca szeroką gamę inicjatyw AI z opcją chłodzenia, która jest korzystna dla klienta.

Produkty	Cel	Korzyści	Przypadków użycia
Hexnumx	Zaprojektowano w celu zwiększenia wglądu dzięki przyspieszeniu sztucznej inteligencji, zapewniającemu optymalną wydajność i najszybszy czas do uzyskania wartości	Wykorzystaj ekstremalną wydajność sztucznej inteligencji i obliczeń o wysokiej wydajności (HPC) dzięki 8 procesorom graficznym NVIDIA H100 lub A100 Tensor Core SXM	Duże modele językowe
		Inteligentna praca w trybie chłodzenia powietrzem (do 35°C) maksymalizuje konwersję danych na wyniki	Przetwarzanie języka naturalnego
		Inteligentna praca w trybie chłodzenia powietrzem (do 35°C) maksymalizuje konwersję danych na wyniki	Szkolenie dużego silnika rekomendacji
			Modelowanie i symulacja
			Cyfrowe bliźniaki i produkcja
Hexnumx	Zaprojektowany specjalnie do wdrażania inicjatyw AI w 2U, bardzo gęstym, inteligentnym serwerze chłodzonym cieczą	Osiągnij lepsze wyniki w zakresie sztucznej inteligencji dzięki czterem procesorom graficznym NVIDIA H100 Tensor Core lub czterem procesorom graficznym Intel Data Center Max OAM	Przetwarzanie języka naturalnego
		Inteligentne procesory i procesory graficzne chłodzone cieczą maksymalizują wydajność	Szkolenie dużego silnika rekomendacji
		Niższy całkowity koszt posiadania dzięki zoptymalizowanej efektywności wykorzystania energii	Modelowanie i symulacja
			Sztuczna inteligencja, szkolenie ML/DL w zakresie rozpoznawania obiektów
Hexnumx	Obsługuj obciążenia AI, HPC i analitykę z najwyższą wydajnością	Zautomatyzuj analizę i uzyskaj wgląd dzięki czterem procesorom graficznym NVIDIA H100 dla szerokiej gamy zastosowań	Modele języka średniego zbioru danych
		Pracuj w trybie chłodzenia powietrzem (do 35°C), aby zwiększyć wydajność energetyczną	Przetwarzanie języka naturalnego
		Zwiększ skalę operacji dzięki inteligentnym opcjom rozbudowy	Modelowanie i symulacja
			Sztuczna inteligencja, szkolenie i wnioskowanie ML/DL, rozpoznawanie obrazów
Hexnumx	Wydajność popularnych aplikacji AI i graficznych	Zwiększ wydajność szkolenia i wnioskowania dzięki czterem procesorom graficznym NVIDIA A100	Modelowanie i symulacja, w tym analiza sejsmiczna
		Praca w trybie chłodzenia powietrzem (do 35°C) zapewnia wydajną pracę	Sztuczna inteligencja, szkolenie i wnioskowanie ML/DL, rozpoznawanie obrazów i chatbot
		Niższy całkowity koszt posiadania dzięki zrównoważonemu rozwiązaniu wydajności/stosunku mocy do mocy

Dell PowerEdge XE9640 – różnorodność GPU i chłodzenie cieczą

Serwer PowerEdge XE9640 oferuje bezpośrednie chłodzenie cieczą (DLC) procesorów graficznych i procesorów dzięki ścisłej współpracy z firmą CoolIT. Serwer jest sprzedawany w zestawie z kilkoma wentylatorami, aby zapewnić odpowiedni przepływ powietrza i chłodzenie pamięci DRAM, pamięci masowej i kart rozszerzeń PCIe. Wentylatory te nie muszą jednak pracować z maksymalną prędkością obrotową, co pozwala zaoszczędzić znaczną ilość energii.

PowerEdge XE9640 zapewnia różnorodność procesorów graficznych, dając możliwość wyboru pomiędzy modułem H100 SXM5 GPU 700W z czterema połączonymi kartami NVIDIA NVLink lub modułem akceleratora Intel Data Center GPU Max 1550 600W Open Compute Platform (OCP) Accelerator Module (OAM) z czterema połączonymi kartami Intel XeLink.

Dzięki technologiom takim jak NVIDIA NVLink i Intel Xelink, te procesory graficzne komunikują się bezproblemowo, efektywnie łącząc pamięć i rdzenie. Jest to szczególnie korzystne w przypadku obsługi obciążeń wymagających spójności pamięci, takich jak LLM (Large Language Models). Ta wszechstronność sprawia, że ​​procesor ten nadaje się do szerokiej gamy zadań związanych ze sztuczną inteligencją. Oczywiście nasuwa się pytanie: „A co z AMD Instinct?”. Dell stale analizuje możliwości obsługi dodatkowych procesorów graficznych, ale nie oferuje rozwiązania AMD w tym serwerze w momencie premiery.

Ta różnorodność GPU pozwala użytkownikom sprostać rosnącym wymaganiom generatywnej sztucznej inteligencji, modelowania symulacji przemysłowych i najnowocześniejszych badań naukowych. Na przykład, możliwości akceleratora Intel Data Center GPU Max w PowerEdge XE9640 zostały wykorzystane w Texas Advanced Computing Center (TACC) w ich superkomputerze Stampede3.

Pod względem gęstości i chłodzenia, serwer PowerEdge XE9640 został zaprojektowany z myślą o efektywnym wykorzystaniu przestrzeni w szafie rack przy jednoczesnym zwiększeniu wydajności. Dzięki kompaktowej obudowie 2RU, serwer ten oferuje imponującą wydajność GPU w szafie rack, maksymalizując cenną przestrzeń w centrum danych. Dzięki technologii DLC, serwer PowerEdge XE9640 przewyższa tradycyjne systemy chłodzone powietrzem pod względem wydajności i opłacalności.

Dell PowerEdge XE9640 – reszta sprzętu

Poza „tylko” procesorami graficznymi, inżynieria stojąca za serią XE jest pierwszorzędna. Właśnie opublikowaliśmy film z recenzją XE9640 i XE8640 . Film zawiera szczegółowe informacje na temat konstrukcji, od dostępu do napędów i prowadzenia przewodów DLC w XE9640, po chłodzenie cieczą GPU w zamkniętej pętli w XE8640, a także ścieżkę przyszłych ulepszeń we wszystkich serwerach XE. Film znajduje się poniżej w celach informacyjnych.

Oprócz XE9640, zdjęcie ramki zapewnia łatwy dostęp do dysków NVMe. Dwa gniazda po prawej stronie obudowy obsługują dyski podsystemu pamięci masowej NVMe zoptymalizowanego pod kątem rozruchu (BOSS) i obejmują HWRAID 1 za pośrednictwem dwóch dysków SSD M.2. Obecnie podstawową pamięć masową zapewniają cztery dyski U.2 Gen4 NVMe. W przyszłej wersji liczba ta zostanie podwojona dzięki opcji tacy SSD, która obsługuje osiem dysków E3.S Gen5 NVMe. Platforma nie obsługuje HW RAID dla zatok U.2 NVMe, chociaż większość komputerów nie będzie tego potrzebować. Wiele z tych procesorów graficznych wykorzystuje ogromne zbiory danych z zewnątrz. W tym przypadku pamięć lokalna nie będzie głównym źródłem tych dużych zbiorów danych.

Oczywiście, z tyłu serwera znajdują się dobre opcje rozbudowy dla specjalistów AI, którzy potrzebują dostępu do ogromnych macierzy pamięci masowej. XE9640 obsługuje cztery gniazda PCIe Gen5, dwa o połowie wysokości i dwa o pełnej wysokości. Dodatkowo, serwer posiada gniazdo karty sieciowej PCIe Gen3 OCP.

Aby rozwiać obawy przed wyciekiem, serwery chłodzone cieczą zawierają funkcję raportowania wycieków w kontrolerze iDRAC. Metoda wykrywania wycieków firmy Dell jest naprawdę niesamowita, gdy wierci się w różnych częściach obudowy. Na przykład, na poniższym zdjęciu płytki chłodzącej procesor, można dostrzec cienkie miedziane ścieżki ułożone w nieregularny wzór wokół całego bloku wodnego. Jeśli woda kapie na te połączenia, otwarta pętla okablowania wykrywa niewielkie zwarcie, a system informuje o wystąpieniu wycieku. W innych częściach obudowy stosowana jest pleciona linka stalowa z podobną metodą wykrywania. Widać to na naszym zdjęciu głównego bloku dystrybucji cieczy z licznymi przewodami z przodu obudowy. Dodatkowo, moduły CoolIT CDU i reszta pętli również mają funkcję raportowania wycieków w wielu punktach wzdłuż całej drogi.

Nawiasem mówiąc, chłodzone powietrzem modele XE8640 i XE9680 są również wyposażone w zamknięty obieg chłodzenia cieczą procesora graficznego z tą samą funkcją wykrywania wycieków za pomocą kontrolera iDRAC.

Optymalizacja mocy na szafę

Serwer PowerEdge XE9640 oferuje klientom możliwość precyzyjnego dostosowania zużycia energii w szafie. Przy dziewięciu serwerach w szafie, szczytowe obciążenie przyspieszonego przetwarzania może wymagać około 41 kW mocy, a trójfazowa dystrybucja zasilania zapewnia zrównoważoną wydajność. W celu skalowania, centra danych mogą wdrażać szafy mieszczące 12, 18, a nawet 21 serwerów PowerEdge XE9640, osiągając poziomy mocy odpowiednio około 54 kW, 81 kW i 95 kW. Ta elastyczność umożliwia centrom danych optymalizację zużycia energii w szafach zgodnie z konkretnymi wymaganiami.

Firma Dell zebrała szereg materiałów, aby zapewnić klientom kompleksowy wgląd w serwer PowerEdge XE9640. Wśród nich znajdują się filmy instruktażowe z rozpakowywania i szczegółowe recenzje produktu. Film instruktażowy prezentuje konstrukcję i funkcje serwera, oferując klientom wizualny przegląd jego możliwości.

Aby jeszcze bardziej podkreślić zalety serwera PowerEdge XE9640, firma Dell stworzyła infografikę porównującą go z chłodzonym powietrzem odpowiednikiem, PowerEdge XE8640 . Infografika podkreśla istotne cechy serwera PowerEdge XE9640, w szczególności jego wydajność chłodzenia cieczą i imponującą wydajność procesora graficznego w przeliczeniu na szafę.

Uwagi końcowe

Serwer PowerEdge XE9640 stanowi integralną część rozwijających się rozwiązań Dell Generative AI, zaprojektowanych z myślą o zrewolucjonizowaniu obciążeń AI i wspieraniu innowacji. Rozwiązanie Dell Generative AI łączy najnowocześniejsze technologie, innowacje i usługi oferowane przez Dell Technologies, aby zapewnić bardziej inteligentne i szybsze rezultaty. Wykorzystując możliwości generatywnej AI, organizacje mogą uzyskać nowe informacje, przyspieszyć transformację i zwiększyć wydajność pracowników.

Choć XE9680 może pozostać naszym ulubionym serwerem Dell z GPU, XE9640 zdobył nasze serca wyłącznie ze względu na wydajność i design. Obudowa 2U mieści w sobie ogromną ilość zaawansowanych rozwiązań technicznych; centra danych z chłodzeniem cieczowym z pewnością będą skłaniać się ku tym energooszczędnym obudowom. Cztery moduły NVIDIA pobierają 2800 W mocy, więc wszystko, co Dell może zrobić, aby centra danych były bardziej energooszczędne i energooszczędne, to ogromny krok naprzód.

Infografika