HPE ProLiant Compute DL380a Gen12 jest przeznaczony dla zespołów zajmujących się sztuczną inteligencją klasy korporacyjnej, które chcą uzyskać gęstość bez konieczności zmiany konfiguracji szaf. Ta chłodzona powietrzem obudowa 4U jest łatwa w montażu, obsługuje do ośmiu procesorów graficznych o podwójnej szerokości i oferuje pełną obsługę PCIe Gen5. Można ją skonfigurować z dwoma procesorami Intel Xeon 6, każdy z maksymalnie 144 rdzeniami, 4 TB pamięci DDR5 w 32 modułach DIMM oraz szesnastoma zatokami E3.S NVMe, co zapewnia wysoką przepustowość i pojemność. Cel jest prosty: osiągnięcie inferencji klasy produkcyjnej i precyzyjnego dostrajania na dużą skalę bez konieczności stosowania chłodzenia cieczą.
W przypadku akceleratorów HPE weryfikuje szeroki stos obejmujący karty NVIDIA H200 NVL, H100 NVL, L40S, L20, L4 oraz RTX PRO 6000 Blackwell Server Edition, z opcjami zasilacza obsługującymi komponenty o wyższym poborze mocy. W tej recenzji skupiamy się na serwerze RTX PRO 6000, który idealnie trafia w praktyczne potrzeby rozwiązań AI dla przedsiębiorstw. Każda karta oferuje 96 GB pamięci ECC GDDR7, PCIe Gen5 x16, rdzenie Tensor obsługujące FP4 oraz moc 600 W, która może pracować w szafach chłodzonych powietrzem. Nasz zestaw został dostarczony z czterema kartami, co stanowi rozsądny punkt wyjścia do wnioskowania o wysokiej przepustowości i precyzyjnego dostrajania, z możliwością skalowania.
HPE uzupełnia platformę o istotne elementy operacyjne. iLO 7 obsługuje konfigurację, stan i kontrolę zasilania poza pasmem, bazując na Silicon Root of Trust – bezpiecznej enklawie zapewniającej integralność oprogramowania sprzętowego – obsługuje 4096-bitowy algorytm RSA oraz odłączany moduł DC-MHS iLO, który wzmacnia weryfikację łańcucha dostaw. Serwer integruje się również z infrastrukturą sztucznej inteligencji chmury prywatnej HPE, umożliwiając zarządzanie wieloma zespołami i powtarzalne wdrożenia w skali floty.
HPE ProLiant Compute DL380a Gen12 – Specyfikacja techniczna
| Kategoria | Specyfikacja |
|---|---|
| Typ procesora | HPE ProLiant Compute DL380a Gen12 |
| Rodzina procesorów | Procesory Intel® Xeon® Scalable czwartej generacji |
| Dostępne rdzenie procesora | Od 64 do 144 rdzeni, w zależności od procesora |
| Liczba procesorów | 2 |
| szybkość procesora | Do 2.4 GHz, w zależności od procesora |
| Maksymalna pojemność pamięci | 4 TB RDIMM (2 TB na procesor) |
| gniazda pamięci | 32 gniazda DIMM |
| Typ pamięci | Inteligentna pamięć HPE DDR5 |
| Ochrona pamięci | RAS: Zaawansowany ECC, zapasowy dysk online, kopiowanie lustrzane, funkcjonalność połączonych kanałów (lockstep), szybka pamięć HPE Fast Fault Tolerant Memory (ADDDC) |
| Wsparcie napędu | SFF NVMe i EDSFF |
| Ochrona | Opcjonalna blokada ramki, wykrywanie włamań i wbudowany moduł HPE TPM 2.0 |
| Zarządzanie infrastrukturą | HPE iLO Standard z funkcją inteligentnego udostępniania (wbudowane), HPE OneView Standard (wymagane pobranie) • Opcjonalnie: HPE iLO Advanced i HPE OneView Advanced (wymagane licencje) |
| Zasilanie | Do 8 M-CRPS. Pojedyncza redundancja 1+1 dla płyty głównej. Podwójna redundancja 2+1 dla procesorów graficznych. |
| Gniazda rozszerzeń | 6 |
| Wentylatory systemowe | W zestawie 4 wentylatory z podwójnym wirnikiem i 8 wentylatorów z pojedynczym wirnikiem z możliwością wymiany na gorąco |
| Budowa | Szafa 4U |
| Gwarancja | 3/3/3: Gwarancja na serwer |
Projekt i budowa serwera HPE ProLiant DL380a Gen12
HPE ProLiant Compute DL380a Gen12 to dwugniazdowy serwer rack 4U, zaprojektowany z myślą o wydajnych i skalowalnych wdrożeniach. Mierzący 17.63 x 81,6 cm (6.88 x 17,63 x 31.60 cala), łączy w sobie moc obliczeniową procesora CPU i GPU z wydajnym chłodzeniem powietrznym, zapewniając niezawodną pracę pod dużym obciążeniem.
Obudowa, ważąca od 37,7 do 61,7 kg (82.7–137.8 funta), w zależności od konfiguracji, obsługuje komponenty o dużej pojemności, redundantne zasilanie i zapewnia łatwy dostęp od przodu, co ułatwia serwisowanie. Jej konstrukcja kładzie nacisk na wydajność, możliwość rozbudowy i solidne zarządzanie temperaturą, dzięki czemu idealnie nadaje się do środowisk korporacyjnych i centrów danych.
Przechodząc do kwestii pamięci masowej, serwer HPE ProLiant DL380a Gen12 oferuje konfiguracje 4- i 8-kieszeniowe w formatach SFF lub EDSFF. Nasz egzemplarz testowy został skonfigurowany z zestawem HPE DL380a Gen12 NS204i-u Front Cage Kit, obsługującym dwa urządzenia rozruchowe NVMe M.2 z możliwością podłączania podczas pracy. Obudowa zawierała również osiem 2.5-calowych zatok, w których zamontowano dwa dyski SSD U.3 marki HPE o pojemności 15.36 TB. HPE oferuje kilka opcji przedniej zatoki, umożliwiając elastyczną skalowalność w zależności od potrzeb wdrożeniowych.
Urządzenie można transportować za pomocą dwóch uchwytów po każdej stronie, co oznacza, że do jego bezpiecznego montażu i instalacji potrzebne są co najmniej dwie osoby. Urządzenie wykorzystuje zestaw szyn 2U z szynami teleskopowymi, co umożliwia bezproblemową instalację i serwisowanie w szafie rack bez konieczności całkowitego demontażu.
Z tyłu serwera HPE ProLiant DL380a Gen12 znajduje się przemyślany układ, który zapewnia przepływ powietrza, możliwość rozbudowy i serwisowania. System obsługuje do ośmiu zasilaczy MCRPS (1-8) ze zintegrowaną ścianką wentylacyjną, zapewniając optymalne chłodzenie pod obciążeniem. Możliwości rozbudowy są szerokie, dzięki licznym gniazdom PCIe Gen5 x16 (1-6), które obsługują zarówno standardowe, jak i opcjonalne karty riser, a także gniazdom OCP A i B, umożliwiającym elastyczne konfiguracje kart sieciowych.
Łączność obejmuje dedykowany port sieciowy iLO, kilka portów USB 3.2 Gen 1 oraz port VGA do zarządzania lokalnego. Warto zauważyć, że gniazdo 1 jest dostępne tylko po zainstalowaniu kabla HPE DL380a Gen12 4EDSFF Direct Cable for NVD (P74716-B21) i nie można go używać z dyskami SFF NVMe, natomiast gniazdo 4 nie jest obsługiwane w konfiguracjach z 4 lub 8 procesorami graficznymi DW.
Zasilanie serwera HPE ProLiant DL380a Gen12 zapewniają modułowe zestawy zasilaczy M-CRPS Titanium Hot Plug, z obsługiwanymi opcjami, takimi jak modele 1500 W (P67244-B21), 2400 W (P67252-B21) i 3200 W (P67248-B21). System obsługuje do ośmiu zasilaczy, co pozwala na redundancję N+1, gwarantującą ciągłość pracy nawet w przypadku awarii modułu zasilania. W zależności od konfiguracji procesora graficznego, zapotrzebowanie na energię i dystrybucja mogą się różnić. Nasz egzemplarz testowy został wyposażony w pięć zasilaczy M-CRPS o mocy 2400 W, zapewniających wystarczającą moc do zasilania czterech procesorów graficznych o TDP 600 W, przy jednoczesnym zachowaniu niezawodnej redundancji.
Patrząc z góry na wnętrze serwera HPE ProLiant DL380a Gen12, widać wyraźnie, że HPE zaprojektowało tę obudowę, kierując się strategią chłodzenia zorientowaną na GPU, umieszczając je z przodu systemu, aby zapewnić bezpośredni i niezakłócony przepływ powietrza. System chłodzenia składa się z czterech zespołów wentylatorów hot-plug, z których każdy składa się z jednego wentylatora dwuwirnikowego 92x56 mm i dwóch wentylatorów jednowirnikowych 40x28 mm. Mniejsze wentylatory koncentrują przepływ powietrza na modułach procesora i pamięci, zapewniając efektywne zarządzanie temperaturą dla podzespołów znajdujących się niżej. Dla porównania, większe wentylatory dwuwirnikowe zostały zaprojektowane specjalnie z myślą o napędzaniu strumienia powietrza bezpośrednio przez macierz GPU. Ta zrównoważona konstrukcja zapewnia optymalne chłodzenie zarówno komponentów obliczeniowych, jak i akceleratorów, nawet przy długotrwałym obciążeniu o dużej mocy.
Po przeanalizowaniu konfiguracji GPU, nasza jednostka została wstępnie podłączona do czterech procesorów graficznych PCIe 5.0, każdy z nich zainstalowany w przedniej obudowie GPU. System został skonfigurowany z kartami graficznymi NVIDIA RTX PRO 6000 (Blackwell Server Edition, 96 GB), należącymi do nowej, profesjonalnej linii produktów NVIDIA, zoptymalizowanej pod kątem obciążeń związanych ze sztuczną inteligencją, renderowaniem i obliczeniami. W zależności od konfiguracji, DL380a Gen12 może obsługiwać 4 lub 8 procesorów graficznych o podwójnej szerokości lub do 16 akceleratorów o pojedynczej szerokości, oferując elastyczność w szerokim zakresie wdrożeń korporacyjnych i AI.
Obsługiwane przez tę platformę procesory graficzne obejmują:
- NVIDIA RTX PRO 6000 Server Edition (96 GB)
- NVIDIA H200 NVL (141 GB)
- NVIDIA H100 NVL (94 GB)
- NVIDIA L40S (48 GB)
- NVIDIA L20 (48 GB)
- NVIDIA L4 (24 GB)
Ten elastyczny układ GPU w połączeniu z liniami PCIe Gen5 o wysokiej przepustowości gwarantuje, że serwer DL380a Gen12 jest gotowy zarówno do zadań wymagających dużej gęstości wnioskowania, jak i do środowisk szkoleniowych AI na dużą skalę. Zagłębiając się w obudowę, z zainstalowaną osłoną chłodzącą, widzimy przemyślane podejście inżynieryjne HPE do zarządzania przepływem powietrza. Osłona charakteryzuje się precyzyjnie uformowaną przegrodą, która efektywnie kieruje powietrze do procesorów, modułów pamięci i modułów VRM, zapewniając równomierne chłodzenie w całym systemie.
Projektując chłodzenie procesora, firma HPE zaprojektowała model DL380a Gen12 z myślą o równowadze termicznej. Każdy procesor Xeon 6 jest wyposażony w wysoki radiator o dużej gęstości, zaprojektowany tak, aby odprowadzać ciepło generowane przez procesor oraz dodatkowe ciepło generowane przez procesory graficzne (GPU) umieszczone z przodu obudowy. Taka konstrukcja zapewnia stałą wydajność chłodzenia nawet przy dużych, mieszanych obciążeniach, gdzie powietrze z procesora graficznego może podnosić temperaturę otoczenia w okolicach procesora. W przypadku zastosowania procesorów graficznych o dużej mocy, połączenie wyższych radiatorów i opracowanej przez HPE konstrukcji z przepływem powietrza od przodu do tyłu zapewnia niezbędną powierzchnię i wydajność chłodzenia, aby skutecznie radzić sobie z dodatkowym obciążeniem termicznym.
Przegląd MOP 7
Jak wspomniano, system zawiera dedykowany port iLO, który zapewnia funkcje zarządzania poza pasmem, umożliwiając pełną kontrolę i monitorowanie serwera. Urządzenie jest wyposażone w nowy interfejs HPE iLO 7, który zapewnia administratorom dostęp do odświeżonego interfejsu i ulepszonych funkcji, zintegrowanych z HPE Compute Ops Management, co usprawnia konfigurację, monitorowanie i zarządzanie cyklem życia. Poniżej znajduje się nowy ekran logowania do HPE iLO 7 z naszego przykładowego systemu.
Zaczynając od pulpitu nawigacyjnego, widzimy, że HPE iLO 7 oferuje zmodernizowany interfejs, który natychmiast podświetla stan systemu i kluczowe wskaźniki jego kondycji. Panel główny zapewnia przegląd stanu zasilania hosta, jego kondycji i stanu połączenia z HPE Compute Ops Management. Po prawej stronie wyświetlane są ogólne informacje o systemie, takie jak adres IP iLO, nazwa hosta i typ licencji, ułatwiające szybki dostęp.
Panel konsoliduje kluczowe wskaźniki – takie jak redundancja wentylatorów, stan zasilacza i odczyty temperatury – w przejrzystym, kolorowym układzie, ułatwiając ocenę stanu serwera na pierwszy rzut oka. Dostęp do wirtualnych multimediów i zdalnej konsoli jest również możliwy bezpośrednio ze strony głównej, co usprawnia typowe zadania zdalnego zarządzania bez konieczności dodatkowej nawigacji.
Na karcie „Oprogramowanie sprzętowe” system HPE iLO 7 zapewnia przejrzysty i uporządkowany widok wszystkich komponentów i zadań zarządzania aktualizacjami. Interfejs wyświetla listę oprogramowania sprzętowego, aktywne kolejki instalacji i wyniki weryfikacji w układzie kart, po którym można łatwo nawigować. Administratorzy mogą szybko inicjować aktualizacje, przesyłać pakiety do repozytorium iLO lub tworzyć zestawy instalacyjne do wdrożenia wsadowego.
Weryfikacja oprogramowania układowego i zarządzanie repozytoriami są wbudowane bezpośrednio w ten widok, umożliwiając użytkownikom weryfikację integralności i zachowanie spójności wersji między komponentami. Menu Szybkie akcje po prawej stronie usprawnia podstawowe zadania, takie jak aktualizacja oprogramowania układowego lub przesyłanie nowych plików. Karta Ustawienia oprogramowania układowego zapewnia kontrolę nad zasadami obniżania wersji i akceptacją pakietów innych firm.
W sekcji Host, HPE iLO 7 zapewnia szybki dostęp do kluczowych funkcji zarządzania serwerem, takich jak sterowanie zasilaniem, nośniki wirtualne, stan sprzętu i wydajność systemu. Administratorzy mogą przeglądać stan redundancji sprzętu w czasie rzeczywistym, uzyskiwać dostęp do zintegrowanego dziennika zarządzania lub uruchamiać konsolę zdalną bezpośrednio z tego interfejsu. Interfejs obejmuje również szybkie akcje, takie jak bezpieczne wyłączanie systemu, włączanie i wyłączanie zasilania oraz resetowanie, umożliwiając pełne zdalne sterowanie systemem bez dostępu fizycznego.
Prawy panel wyświetla ustawienia hosta, w tym status modułu TPM, konfigurację zasad platformy oraz informacje o module sprzętowym. Ogólnie rzecz biorąc, ta sekcja podkreśla rolę iLO 7 jako scentralizowanego centrum sterowania, umożliwiającego administratorom bezpieczne zarządzanie zasilaniem, monitorowanie zdarzeń i nadzór operacyjny w jednym widoku.
W widoku Host > Sprzęt możemy zobaczyć zainstalowane w systemie procesory graficzne. Jak wspomniano, urządzenie jest wyposażone w cztery procesory graficzne NVIDIA RTX PRO 6000 Blackwell, z których każdy jest oznaczony jako włączony i działa prawidłowo. iLO 7 dostarcza szczegółowych informacji o sprzęcie, w tym numery modeli, numery części i numery seryjne, umożliwiając administratorom szybką weryfikację stanu podzespołów.
Na karcie „Bezpieczeństwo” HPE iLO 7 konsoliduje wszystkie kluczowe funkcje kontroli związane z ochroną systemu i zarządzaniem dostępem. Panel przeglądu zapewnia ogólny wgląd w ogólny stan bezpieczeństwa, ze wskazaniem poziomów ryzyka, blokad konfiguracji i statusu certyfikatów. Z tego miejsca administratorzy mogą zarządzać ustawieniami szyfrowania, metodami uwierzytelniania i certyfikatami TLS, a także konfigurować bezpieczne wymazywanie danych i zdalne zarządzanie kluczami.
Interfejs wyraźnie wskazuje obszary wymagające uwagi, takie jak certyfikaty podpisane przez użytkownika czy nieskonfigurowane zarządzanie kluczami, jednocześnie potwierdzając bezpieczeństwo działania w stosownych przypadkach. Dzienniki bezpieczeństwa, zasady zarządzania użytkownikami i mechanizmy kontroli dostępu są łatwo dostępne, zapewniając administratorom kompleksowy wgląd w stan bezpieczeństwa systemu bezpośrednio ze środowiska iLO.
W zakładce Aplikacje HPE, iLO 7 zapewnia dostęp do zintegrowanych narzędzi, które usprawniają wdrażanie serwerów i zarządzanie ich cyklem życia. Z tego poziomu administratorzy mogą uruchomić Intelligent Provisioning, wbudowane narzędzie zaprojektowane w celu uproszczenia instalacji systemu operacyjnego, aktualizacji oprogramowania sprzętowego i konfiguracji systemu bez konieczności używania nośników zewnętrznych.
Karta Ustawienia iLO konsoliduje wszystkie opcje konfiguracyjne i administracyjne do zarządzania interfejsem iLO. Z tego miejsca administratorzy mogą kontrolować dostęp użytkowników, konfiguracje portów sieciowych, metody uwierzytelniania i sposób rejestrowania. Menu zawiera również opcje rozwiązywania problemów, egzekwowania zasad, zarządzania licencjami i synchronizacji czasu.
Szybkie czynności, takie jak tworzenie kopii zapasowej lub przywracanie konfiguracji iLO oraz resetowanie, są wygodnie dostępne po prawej stronie, co usprawnia zadania konserwacyjne. Układ odzwierciedla resztę nowoczesnego, opartego na kartach interfejsu iLO 7, zapewniając przejrzysty i uporządkowany sposób zarządzania bezpieczeństwem, łącznością i parametrami operacyjnymi z jednego, scentralizowanego miejsca.
Test wydajności
Aby ocenić rzeczywiste możliwości serwera DL380a Gen12, przeprowadziliśmy kompleksowy zestaw testów wydajności, obejmujących zarówno wnioskowanie AI, jak i ogólne obciążenia obliczeniowe. Obejmowały one testy porównawcze usług online vLLM dla dużych modeli językowych (LLM) oraz testy Phoronix Test Suite, mierzące przepustowość procesora, przepustowość pamięci, wydajność serwerów internetowych i wydajność kryptograficzną.
Konfiguracja systemu
- PROCESOR: 2 procesory Intel Xeon 6527P
- Pamięć: 16 x HPE 64 GB 2Rx4 PC5-3400B-R Smart Kit
- GPU: 4 x NVIDIA RTX PRO 6000 (96 GB)
- Przechowywanie: 2 x 15.63TB PM1733a U.3
vLLM Online Serving – wydajność wnioskowania LLM
vLLM to najpopularniejszy silnik wnioskowania i obsługi o wysokiej przepustowości dla systemów LLM. Test porównawczy obsługi online vLLM to narzędzie do oceny wydajności, które mierzy rzeczywiste możliwości obsługi tego silnika wnioskowania przy współbieżnych żądaniach. Symuluje obciążenia produkcyjne, wysyłając żądania do działającego serwera vLLM z konfigurowalnymi parametrami, takimi jak częstotliwość żądań, długość wejścia/wyjścia i liczba współbieżnych klientów. Test mierzy kluczowe wskaźniki, takie jak przepustowość (tok/s), czas do pierwszego tokena i czas na token wyjściowy, pomagając użytkownikom zrozumieć, jak vLLM działa w różnych warunkach obciążenia.
Przetestowaliśmy wydajność wnioskowania w trzech reprezentatywnych modelach obejmujących różne skale i podejścia do kwantyzacji, oceniając, jak cztery procesory graficzne NVIDIA RTX PRO 6000 zastosowane w serwerze HPE ProLiant DL380a Gen12 radzą sobie z obciążeniami wnioskowania produkcyjnego.
Wydajność gęstego modelu
Modele gęste reprezentują konwencjonalną architekturę LLM, w której wszystkie parametry i aktywacje są uwzględniane podczas wnioskowania. Oceniliśmy dwie konfiguracje modeli gęstych: Llama-2-70b-chat-hf i Llama-3.2-90B-Vision-Instruct.
Llama-2-70B-Wydajność czatu
Przy współbieżności pojedynczego użytkownika (BS=1) i TP=4 model osiąga 32.89 tok/s na użytkownika przy TPOT 30.18 ms. Przy BS=8 wydajność sięga 15.68 tok/s na użytkownika przy całkowitej przepustowości 433.62 tok/s i TPOT 35.98 ms. Po skalowaniu do BS=32 całkowita przepustowość osiąga 741.62 tok/s, przy zachowaniu 8.00 tok/s na użytkownika przy TPOT 43.44 ms.
Llama-3.2-90B-Vision-Instruct Performance
Przy BS=1 i TP=4 model zapewnia 20.59 tok/s na użytkownika z czasem TPOT wynoszącym 38.27 ms. Przy BS=16 wydajność skaluje się do 7.20 tok/s na użytkownika z całkowitą przepustowością 806.14 tok/s i czasem TPOT wynoszącym 54.98 ms. Maksymalna całkowita przepustowość wynosząca 1372.21 tok/s jest osiągana przy BS=128, zapewniając 2.59 tok/s na użytkownika z czasem TPOT wynoszącym 122.75 ms.
Wydajność typów danych w mikroskali
Mikroskalanie to zaawansowane podejście do kwantyzacji, które stosuje drobnoziarniste współczynniki skalowania do małych bloków wag, zamiast jednorodnej kwantyzacji w dużych grupach parametrów. Format NVFP4 firmy NVIDIA implementuje tę technikę poprzez blokową reprezentację zmiennoprzecinkową, gdzie każdy mikroblok o wartościach od 8 do 32 ma wspólny wykładnik jako współczynnik skalowania. To granularne podejście zachowuje precyzję numeryczną, jednocześnie osiągając 4-bitową reprezentację, utrzymując zakres dynamiczny krytyczny dla architektur transformatorowych. Format ten integruje się z architekturą Tensor Core firmy NVIDIA w karcie RTX PRO 6000, umożliwiając wydajne obliczenia o mieszanej precyzji z dekompresją „w locie” podczas operacji na macierzach.
Wydajność GPT-OSS-120B
Oceniliśmy model GPT-OSS-120B OpenAI z wykorzystaniem kwantyzacji NVFP4. Przy współbieżności pojedynczego użytkownika i TP=2, model osiąga 176.09 tok/s na użytkownika z czasem TPOT 5.46 ms, co stanowi najniższe opóźnienie w naszym zestawie testowym. Przy BS=4 z TP=4, wydajność sięga 105.79 tok/s na użytkownika, zapewniając całkowitą przepustowość 1155.94 tok/s z czasem TPOT 7.79 ms. Przy BS=32 z TP=4, przepustowość skaluje się do 47.54 tok/s na użytkownika i 3956.44 tok/s łącznie z czasem TPOT 13.86 ms. Maksymalna całkowita przepustowość 4015.77 tok/s jest osiągana przy BS=64, zapewniając 25.38 tok/s na użytkownika z czasem TPOT 14.78 ms.
Testy porównawcze Phoronix
Phoronix Test Suite to zautomatyzowana platforma testowa o otwartym kodzie źródłowym, która obsługuje ponad 450 profili testowych i ponad 100 pakietów testowych za pośrednictwem OpenBenchmarking.org. Obsługuje ona wszystko, od instalowania zależności, przez uruchamianie testów, po zbieranie wyników, co czyni ją idealną do porównywania wydajności, walidacji sprzętu i ciągłej integracji. Skupimy się na następujących testach: Stream, 7-Zip, kompilacji jądra Linux, Apache i OpenSSL.
Przepustowość pamięci strumieniowej
W teście Stream, mierzącym przepustowość pamięci, HPE DL380a Gen12 osiągnął imponujące 542 GB/s, co dowodzi zdolności platformy do utrzymania wysokich prędkości transferu danych przy ciągłym obciążeniu. Taka przepustowość sprawia, że system jest szczególnie skuteczny w przypadku obciążeń takich jak modelowanie danych, symulacje i wnioskowanie AI, gdzie duże zbiory danych muszą być szybko przesyłane między pamięcią a zasobami obliczeniowymi.
Kompresja 7-Zip
Test kompresji 7-Zip wykazał 305 tys. MIP-ów, co potwierdza wysoką wydajność wielowątkową systemu w przypadku intensywnych obliczeniowo operacji kompresji i dekompresji. Te wyniki sprawiają, że DL380a Gen12 doskonale nadaje się do środowisk wymagających częstego pakowania danych, zadań archiwizacyjnych lub procesów tworzenia kopii zapasowych, które wymagają spójnej, powtarzalnej wydajności procesora.
Kompilacja jądra
Podczas kompilacji pełnego jądra Linux (allmodconfig), serwer DL380a Gen12 wykonał zadanie w 316 sekund. Ten test porównawczy odzwierciedla zdolność systemu do łatwego radzenia sobie z równoległymi obciążeniami o dużej ilości kodu. Szybsza wydajność kompilacji przekłada się bezpośrednio na krótsze czasy kompilacji i szybszą iterację dla programistów pracujących w środowiskach oprogramowania na dużą skalę lub CI/CD.
Apache Web Server
W testach wydajności serwerów WWW, serwer DL380a Gen12 osiągnął 94 348 żądań na sekundę w teście Apache. Wynik ten świadczy o zrównoważonej obsłudze wejścia/wyjścia i wysokiej wydajności pamięci podręcznej, zapewniając przepustowość i responsywność niezbędne dla korporacyjnych aplikacji internetowych, front-endów wirtualizacji lub wewnętrznego hostingu usług.
Weryfikacja OpenSSL
Wydajność kryptograficzna była równie wysoka – DL380a Gen12 zweryfikował 803 miliardy operacji na sekundę w OpenSSL. To pokazuje zdolność systemu do zarządzania obciążeniami związanymi z szyfrowaniem, uwierzytelnianiem i bezpieczną komunikacją na dużą skalę.
| Testy porównawcze Phoronix | HPE ProLiant DL380a Gen 12 (2x Intel Xeon 6527P) |
| Strumień | 542,720.7 MB / s |
| 7-zip | 806 375 MIP/s |
| Kompilacja jądra (allmod) | Sekundy 316.166 |
| Apache (liczba żądań na sekundę) | 48 729,63 R/s |
| OpenSSL | 4 409 642 672 307 Zweryfikuj/a |
Wniosek
HPE ProLiant DL380a Gen12 wyróżnia się jako jeden z najbardziej praktycznych i dobrze wyważonych serwerów AI zaprojektowanych z myślą o rynku rozwiązań AI dla przedsiębiorstw. Jego chłodzona powietrzem konstrukcja 4U zapewnia wysoką gęstość obliczeniową dzięki dwóm procesorom Xeon 6, obsłudze do 8 procesorów graficznych o podwójnej szerokości lub 16 procesorów o pojedynczej szerokości oraz 16 zatokom E3.S NVMe, a jednocześnie zapewnia niezawodność i łatwość serwisowania. Inżynieryjne podejście HPE do przepływu powietrza i równowagi termicznej zapewnia spójną wydajność nawet przy dużych obciążeniach, co dowodzi, że zaawansowana akceleracja AI może nadal funkcjonować w tradycyjnych środowiskach chłodzonych powietrzem.
Wprowadzenie iLO 7 zapewnia znaczną poprawę łatwości zarządzania, co stanowi ogromną zaletę dla dostawców serwerów najwyższej klasy, takich jak HPE. Zmodernizowany interfejs, integracja z HPE Compute Ops Management oraz szczegółowa telemetria sprzętowa sprawiają, że zdalna administracja jest intuicyjna i wydajna. Każda sekcja – Pulpit nawigacyjny, Oprogramowanie sprzętowe, Host, Zabezpieczenia, Aplikacje i Ustawienia – odzwierciedla dążenie HPE do bardziej przejrzystego, zintegrowanego z chmurą środowiska, bez rezygnowania z kontroli lokalnej, na której polegają zespoły korporacyjne.
W testach wydajności serwer uzyskał znakomite wyniki. Cztery procesory graficzne RTX PRO 6000 osiągnęły imponującą przepustowość zarówno w gęstych, jak i mikroskalowych modelach LLM, a wydajność w vLLM dorównuje systemom chłodzonym cieczą. Testy wydajności procesorów firmy Phoronix dodatkowo podkreślają jego równowagę – przepustowość pamięci ponad 540 GB/s, 94 tys. RPS w Apache i ponad 800 miliardów weryfikacji OpenSSL na sekundę, co świadczy o sile zarówno w zakresie sztucznej inteligencji, jak i obliczeń ogólnego przeznaczenia.
Cel projektowy HPE jest jasny: zapewnienie wysokiej gęstości, gotowej do produkcji wydajności AI z wykorzystaniem chłodzenia powietrzem, które pasuje do istniejącej infrastruktury rack i zasilania. Dla zespołów centrów danych poszukujących niezawodnej, bezpiecznej i łatwej w zarządzaniu mocy obliczeniowej w obudowie chłodzonej powietrzem, serwer DL380a Gen12 to wydajne, przyszłościowe rozwiązanie dla rosnącego rynku popularnych rozwiązań AI.
Tabela wyników: Cztery karty RTX PRO 6000 Server Edition wymienione w tej recenzji pojawiają się w tabeli skalowalności w naszej tabeli najlepszych procesorów graficznych dla przedsiębiorstw , w której karta ta zajęła pierwsze miejsce w kategorii Najlepszy procesor graficzny do wnioskowania dla przedsiębiorstw.
Amazon