Recenzja Dell Pro Max z GB10

Kiedy w październiku po raz pierwszy dostaliśmy w ręce kartę NVIDIA DGX Spark, było jasne, że NVIDIA poważnie myśli o zmniejszeniu sztucznej inteligencji klasy centrów danych do poziomu, który zmieści się na biurku. Nasz pierwszy egzemplarz Founders Edition dał nam wczesny wgląd w możliwości platformy GB10 opartej na architekturze Grace Blackwell w kompaktowym, autonomicznym urządzeniu.

Od tego czasu ekosystem dojrzał dzięki projektom OEM. Niedawno otrzymaliśmy do laboratorium dwa komputery Dell Pro Max z GB10 do testów. Umieściliśmy je obok naszych innych systemów Spark, aby ocenić spójność wydajności, parametry termiczne i ogólne różnice w projektowaniu pomiędzy implementacjami różnych dostawców.

Podczas gdy oryginalny Spark koncentrował się na sprzęcie referencyjnym, Dell wnosi do platformy własny styl. Pro Max z GB10 wyróżnia się obudową Dell L6 o bardziej wyrafinowanym, industrialnym wyglądzie i estetyce przyjaznej dla komputerów stacjonarnych, co nadaje mu charakterystyczną tożsamość, zachowując jednocześnie tę samą podstawę GB10. Wygląda mniej jak zestaw deweloperski, a bardziej jak gotowy produkt przeznaczony do profesjonalnego miejsca pracy.

W chwili pisania tego tekstu konfiguracja 1 TB jest oferowana w sklepie Dell za 4,061.34 USD , co plasuje ją jako wysokiej klasy stacjonarne urządzenie AI. W tej recenzji sprawdzimy, jak platforma GB10 firmy Dell wypada na tle innych testowanych przez nas systemów Spark, koncentrując się na rzeczywistej wydajności i zachowaniu termicznym pod stałym obciążeniem.

Dell Pro Max z GB10 – specyfikacja

Poniższa tabela przedstawia dostępne konfiguracje pamięci masowej i opcje kompilacji dla komputera Dell Pro Max z GB10.

Specyfikacja	Dell Pro Max z GB10
Wymiary i waga
Wysokość	2 w
Szerokość	5.9 w
Głębokość	5.9 w
Waga	2.69 lb
Procesor
Typ procesora	NVIDIA GB10 (Grace Blackwell Superchip) (20 rdzeni)
Zintegrowana karta graficzna	Procesor graficzny NVIDIA Blackwell (zintegrowany)
Pamięć
Typ pamięci	LPDDR5x (zunifikowana pamięć systemowa)
Konfiguracja pamięci	128 GB LPDDR5x, ujednolicona pamięć systemowa
Przepustowość pamięci	273 GB/s (8533 MT/s)
System operacyjny
obsługiwane systemy operacyjne	System operacyjny NVIDIA DGX
Zewnętrzne porty i gniazda
Porty sieciowe	Jedno złącze RJ45 (10GbE) Karta sieciowa NVIDIA ConnectX-7 (200 Gb × 2 QSFP)
Porty USB	Trzy porty USB 3.2 Gen 2×2 typu C (20 Gb/s) Jeden port USB 3.2 Gen 2×2 typu C z wejściem PD
Port(y) wideo	Jedno złącze HDMI 2.1a
Port zasilacza	USB typu C (PD IN)
Gniazdo bezpieczeństwa	żaden
Bezprzewodowy
WiFi	Wi-Fi 7 (AW-EM637, 2×2)
Bluetooth	Bluetooth 5.4
Dyski
Opcje bagażu	M.2 Gen4 NVMe: 1 TB / 2 TB / 4 TB (Opal 2.0 różni się)
Zasilacz
Typ	Zasilacz zewnętrzny 280 W (USB typu C)

Dell Pro Max z konstrukcją i designem GB10

Ogólnie rzecz biorąc, Dell zastosował inne podejście projektowe niż w komputerach stacjonarnych z serii Pro, dodając przednią ramkę o strukturze plastra miodu, która nadaje mu estetykę serwera korporacyjnego, pomimo miniaturowej, 1-litrowej obudowy. Ogólna konstrukcja jest imponująca. Metalowa obudowa w kolorze grafitowo-szarym sprawia, że ​​komputer jest solidny i dobrze leży w dłoni, dzięki czemu jest zarówno przenośny, jak i wytrzymały w podróży, zarówno na biurku, jak i w laboratorium. Dell zastosował również diodę LED wskazującą zasilanie w modelu GB10, którą widzieliśmy tylko w tym modelu i jednej innej wersji na rynku.

GB10 ma 1.80 cala wysokości z przodu i z tyłu, a wysokość w szczycie to 2.0 cala. Kompaktowa obudowa o wymiarach 5.90 cala kwadratowego zajmuje minimalną przestrzeń i waży od 2.69 do 2.96 funta (ok. 1,18 do 1,39 kg), w zależności od konfiguracji.

Z tyłu urządzenia znajdziesz jeden port Ethernet RJ45 10GbE, dwa porty QSFP 200 Gb/s (Realtek RTL8127-CG; NVIDIA ConnectX-7), trzy porty USB 3.2 Gen 2×2 (20 Gb/s) typu C z trybem alternatywnym DisplayPort 1.4a i funkcją zasilania, jeden port HDMI 2.1a. Ponadto firma Dell odróżnia się od serii Founders Edition i innych konstrukcji OEM, stosując większy zasilacz USB typu C o mocy 280 W, powszechnie stosowany w przenośnych stacjach roboczych tej marki, zapewniający duży zapas mocy do obsługi długotrwałych obciążeń.

Wewnątrz GB10 znajduje się moduł bezprzewodowy AzureWave AW-EM637, który zapewnia łączność Wi-Fi, umożliwiając elastyczne scenariusze wdrożenia. Za pamięć masową odpowiada pojedyncze gniazdo M.2 2230/2242 obsługujące dyski SSD PCIe Gen 4, co zapewnia szybki rozruch i dostęp do danych. Pamięć RAM to prawdziwy atut – 128 GB pamięci RAM LPDDR5X o przepustowości 8533 MT/s zapewnia wysoką przepustowość niezbędną do obsługi wymagających zadań AI.

Sercem systemu jest układ NVIDIA GB10, zaprojektowany specjalnie do wnioskowania AI i obliczeń brzegowych. System jest dostarczany z preinstalowanym systemem operacyjnym NVIDIA DGX OS, czyli zoptymalizowaną dystrybucją Linuksa firmy NVIDIA, zawierającą wstępnie skonfigurowane sterowniki, biblioteki CUDA oraz popularne frameworki AI, takie jak TensorFlow i PyTorch. Pozwala to użytkownikom na natychmiastowe wdrażanie aplikacji AI bez konieczności rozbudowanej konfiguracji systemu.

Testy termiczne Dell Pro Max z GB10

Aby przetestować parametry termiczne podzespołów Dell Pro Max z GB10, porównaliśmy je z podzespołami Founders Edition oraz producentami OEM, takimi jak ASUS, Acer i Gigabyte. Zagłębiliśmy się w ten temat w naszym artykule „Spark Thermal Testing”.

Monitorowaliśmy komponenty w całym stosie w określonym przedziale czasowym, z trzema etapami obciążenia, zwiększając wykorzystanie w ciągu około godziny. Pozwoliło nam to zaobserwować urządzenie w trakcie intensywnego użytkowania i na różnych etapach obciążenia. Monitorowaliśmy temperatury procesora, karty graficznej, sieci, dysków NVMe oraz całkowite zużycie energii.

Temperatura procesora

Podczas testów termicznych procesora, Dell Pro Max z GB10 znajdował się w górnej części grupy w fazach intensywnego obciążenia. W fazie intensywnego obciążenia Prefill, Dell odnotował szczytową temperaturę około 87.7°C około 1500 sekundy, co plasuje go wśród najcieplejszych systemów podczas tej zmiany obciążenia.

W fazie Equal ISL/OSL, Dell plasował się blisko systemów z wyższej półki, stopniowo zwiększając temperaturę do 62–75°C, podobnie jak ASUS i Founders Edition. Gigabyte pracował zauważalnie chłodniej w tej fazie, podczas gdy Acer utrzymał najniższą ogólną temperaturę procesora.

W trybie Prefill Heavy, krzywa temperaturowa Della rosła bardziej agresywnie niż w większości innych systemów, osiągając szczyt w okolicach 88°C przed przejściem w tryb Decode Heavy. Po podtrzymaniu obciążenia Decode, system ustabilizował się na poziomie 80–83°C. Chociaż plasowało to Della w cieplejszej części grupy, to jednak wykazał on stałą kontrolę temperatury przy zwiększonym obciążeniu, a nie przy ciągłym wzroście.

Acer okazał się najchłodniejszym rozwiązaniem w całym teście, utrzymując temperaturę w okolicach 60°C w dłuższych fazach. Gigabyte utrzymał również bardziej umiarkowaną temperaturę w porównaniu z Dellem.

Ogólnie rzecz biorąc, Dell Pro Max z GB10 odnotował jedną z najwyższych temperatur szczytowych procesora w grupie podczas intensywnych obciążeń, ale po normalizacji obciążenia temperatura wróciła do poziomu konkurencyjnego dla długotrwałego obciążenia.

Temperatura GPU

Podobny przebieg miała temperatura procesora graficznego. Podczas intensywnego procesu wstępnego napełniania (Prefill Heavy) Dell osiągnął szczytową temperaturę około 80°C, co plasuje ją w górnym zakresie stosu w warunkach obciążenia.

W Equal ISL/OSL firma Dell szybko osiągnęła temperaturę około 60°C, pozostając w tyle za ASUS-em i Founders Edition. Zarówno Gigabyte, jak i Acer pracowały w niższych temperaturach w tej fazie.

Po przejściu w tryb Decode Heavy, Dell ustabilizował się w zakresie 68–71°C. Choć nadal cieplej niż w przypadku Acer i Gigabyte, różnica w temperaturze zmniejszyła się w porównaniu z fazą burst. Modele Founders Edition i ASUS utrzymywały podobny zakres temperatur jak Dell podczas dekodowania ciągłego.

Podsumowując, systemy firmy Dell charakteryzowały się wyższymi temperaturami procesora graficznego, ale zachowywały się stabilnie i przewidywalnie przy stałym obciążeniu.

Temperatura NVMe

Temperatura pamięci masowej była tym aspektem, w którym konfiguracja Della najwyraźniej odbiegała od parametrów rzeczywistych. Podczas fazy Prefill Heavy, dysk NVMe osiągnął temperaturę szczytową około 63–64°C, co plasowało go w górnej granicy grupy porównawczej.

W teście Equal ISL/OSL temperatura Della początkowo mieściła się w przedziale od niskich do średnich 40°C i systematycznie rosła, wykazując tendencję do nieco wyższej temperatury niż większość konkurentów w trakcie całego etapu. Podczas długotrwałych obciążeń dekodowania dysk ustabilizował się w zakresie 59–61°C.

Choć temperatury te mieszczą się w standardowych specyfikacjach roboczych NVMe, wskazują na stosunkowo ciaśniejszy przepływ powietrza lub rozmieszczenie pamięci masowej w porównaniu z Acer i Gigabyte, z których oba utrzymywały niższe, stałe temperatury NVMe w tych samych fazach.

Temperatura karty sieciowej

Temperatury kart sieciowych (NIC) wykazały podobny, choć mniej wyraźny wzorzec. Dell osiągnął szczyt w dolnym zakresie 70°C podczas fazy intensywnego wypełniania i ustabilizował się w górnym paśmie 60°C podczas fazy intensywnego dekodowania.

Podczas testów Dell plasował się w cieplejszej połowie grupy, ale nie wykazał skrajnych odchyleń od ASUS-a ani Founders Edition. Acer ponownie utrzymał najniższą temperaturę w klasyfikacji generalnej.

Pobór mocy GPU

Pobór mocy GPU był bliższy średniej w tej grupie. Dell osiągnął szczyt na poziomie około 70 W w fazie Prefill Heavy, około 1,400–1,600 sekundy. To na krótko zbliżyło się do maksymalnego poboru mocy Founders Edition wynoszącego 74 W, ale ogólnie pozostało nieco niższe.

Podczas testów Equal ISL/OSL, Dell zwiększył pobór mocy z około 27 W do około 40 W, w dużej mierze zgodnie z oczekiwaniami pozostałych systemów. W trybie Prefill Heavy, pobór mocy na krótko osiągnął 70 W, po czym ustabilizował się. W trybie Decode Heavy, Dell ustabilizował się w zakresie 40–45 W, nieznacznie przewyższając Acer i ASUS, ale słabiej Founders Edition, który utrzymywał najwyższy stały pobór mocy przez GPU przez resztę testu.

Z perspektywy poboru mocy, Dell nie wydaje się agresywnie przeciążać karty graficznej. Zamiast tego, wyższe temperatury w porównaniu z niektórymi konkurentami prawdopodobnie wynikają bardziej z przepływu powietrza w obudowie i decyzji dotyczących rozmieszczenia podzespołów niż z nadmiernego przydzielania mocy.

Podsumowanie termiczne

Monitorując procesor, kartę graficzną, dysk NVMe i kartę sieciową, Dell Pro Max z GB10 generalnie pracował w cieplejszym zakresie w grupie podczas intensywnych obciążeń Prefill. Jednak w warunkach długotrwałego dekodowania temperatury ustabilizowały się w konkurencyjnych zakresach bez gwałtownego wzrostu.

Acer konsekwentnie utrzymywał najniższą temperaturę w ogólnym profilu, a Gigabyte również działał chłodniej w porównaniu z Dellem. Modele Founders Edition i ASUS zazwyczaj były bardziej zbliżone do Della pod względem temperatury.

Ostatecznie dane wskazują, że wdrożone przez firmę Dell rozwiązania kładą nacisk na kompaktową konstrukcję i obudowę w stylu stacji roboczej, przy czym zachowanie termiczne pozostaje stabilne pod obciążeniem, ale wykazuje mniejszy zapas mocy podczas agresywnych zmian obciążenia w porównaniu do najchłodniejszej obudowy w zestawie.

Testy wydajności Dell Pro Max GB10

Aby ocenić serwer Dell Pro Max z GB10, przetestowaliśmy jednostki Spark za pomocą testu porównawczego vLLM Online Serving, najpopularniejszego silnika wnioskowania i obsługi o wysokiej przepustowości dla dużych modeli językowych. Test porównawczy vLLM Online Serving symuluje rzeczywiste obciążenia produkcyjne poprzez wysyłanie współbieżnych żądań do działającego serwera vLLM i pomiar kluczowych wskaźników, takich jak całkowita przepustowość tokenów (liczba tokenów na sekundę), czas do pierwszego tokenu i czas na token wyjściowy, w różnych warunkach obciążenia.

Nasze testy obejmowały szereg modeli, w tym gęste architektury i mikroskalowalne typy danych, i oceniały wydajność w trzech scenariuszach obciążenia: Equal ISL/OSL, Prefill Heavy i Decode Heavy. Scenariusze te odzwierciedlają różne wzorce obsługi w świecie rzeczywistym, od zrównoważonych obciążeń wejścia i wyjścia, przez intensywne obliczeniowo przetwarzanie natychmiastowe, po generowanie tokenów z ograniczoną przepustowością pamięci.

Oprócz Dell Pro Max z GB10, przeprowadziliśmy testy porównawcze NVIDIA Founders Edition Spark jako punktu odniesienia, obok systemów OEM firm ASUS, Acer i Gigabyte. Pozwoliło nam to umiejscowić wyniki Della w szerszym kontekście konkurencji i zrozumieć, gdzie przoduje, dotrzymuje kroku, a gdzie pozostaje w tyle w porównaniu z różnymi modelami i typami obciążeń.

GPT-OSS-120B

W Equal ISL/OSL firma Dell skaluje się od 68.57 do 670.83 tok/s, plasując się w środku stawki w całym zakresie partii. Prefill Heavy rozpoczyna się od 298.60 tok/s i skaluje do 2,707.15 tok/s przy rozmiarze partii 64, co plasuje firmę Dell na szczycie listy przy większych rozmiarach partii, pomimo skromniejszego punktu wyjścia. Decode Heavy skaluje się od 37.74 do 273.54 tok/s, przy czym skalowanie pozostaje ograniczone w porównaniu z innymi typami obciążeń.

GPT-OSS-20B

Equal ISL/OSL skaluje się od 90.76 do 1,585.28 tok/s ze stałym wzrostem w przypadku wszystkich wielkości partii. Prefill Heavy osiąga 4,453.55 tok/s przy wielkości partii 64, co stanowi najwyższą bezwzględną przepustowość firmy Dell wśród testowanych modeli. Decode Heavy skaluje się w zakresie od 49.88 do 687.17 tok/s, skalując się spójnie w całym spektrum partii.

Koder Qwen3 30B A3B FB8

Equal ISL/OSL skaluje się od 103.76 do 1,258.08 tok/s, przy czym dostawcy są ściśle pogrupowani według wielkości partii. Prefill Heavy rośnie do 2,018.58 tok/s przy wielkości partii 64, z minimalnym rozbieżnością między systemami przy większych wielkościach partii. Decode Heavy skaluje się od 54.69 do 493.82 tok/s, zachowując podobne klastrowanie między dostawcami.

Koder Qwen3 30B A3B Base

Equal ISL/OSL działa w zakresie od 62.74 do 748.04 tok/s dla różnych wielkości partii. Prefill Heavy skaluje się w zakresie od 266.80 do 1,693.68 tok/s, pozostając w pobliżu górnego zakresu dla średnich i dużych wielkości partii. Decode Heavy waha się w zakresie od 34.11 do 365.68 tok/s dla całego spektrum obciążeń.

Llama 3.1 8B Instrukcja FP4

Equal ISL/OSL skaluje się od 76.03 do 2,776.30 tok/s dla różnych wielkości partii. Prefill Heavy plasuje Dell w średnim paśmie przy większych wielkościach partii, a przepustowość rośnie wraz z resztą stosu. Decode Heavy skaluje się od 40.87 do 575.50 tok/s, skalując się progresywnie wraz z wielkością partii.

Llama 3.1 8B Instrukcja FP8

Skala Equal ISL/OSL waha się od 24.50 do 1,079.44 tok/s, a dostawcy są ściśle powiązani w całym zakresie partii. Prefill Heavy osiąga 245.35 tok/s przy rozmiarze partii 64, a separacja między dostawcami rośnie przy większych rozmiarach partii. Decode Heavy ma zakres od 23.60 do 464.12 tok/s, a skalowanie jest spójne w całej grupie.

Bezpośrednie przechowywanie GPU

Jednym z testów, jakie przeprowadziliśmy na Sparku, był test MagnumIO GPU Direct Storage (GDS). GDS to funkcja opracowana przez firmę NVIDIA, która pozwala procesorom graficznym ominąć procesor główny (CPU) podczas uzyskiwania dostępu do danych przechowywanych na dyskach NVMe lub innych szybkich urządzeniach pamięci masowej. Zamiast kierować dane przez procesor i pamięć systemową, GDS umożliwia bezpośrednią komunikację między procesorem graficznym a urządzeniem pamięci masowej, znacznie redukując opóźnienia i poprawiając przepustowość danych.

Dell wykorzystuje dysk SSD Phison ESL04TBTLCZ 4 TB Gen4 w obudowie Pro Max GB10. Chociaż jego pojemność jest taka sama jak w innych modelach 4 TB, jest to model Gen4, o niższych prędkościach odczytu i zapisu.

Jak działa bezpośrednie przechowywanie danych GPU

Tradycyjnie, gdy procesor graficzny (GPU) przetwarza dane przechowywane na dysku NVMe, dane muszą najpierw przejść przez procesor (CPU) i pamięć systemową, zanim dotrą do procesora graficznego (GPU). Proces ten wprowadza wąskie gardła, ponieważ procesor (CPU) działa jako pośrednik, zwiększając opóźnienia i zużywając cenne zasoby systemowe. Technologia GPU Direct Storage eliminuje ten problem, umożliwiając procesorowi graficznemu bezpośredni dostęp do danych z urządzenia pamięci masowej za pośrednictwem magistrali PCIe. Ta bezpośrednia ścieżka zmniejsza obciążenie związane z przesyłaniem danych, umożliwiając szybsze i bardziej wydajne przesyłanie danych.

Obciążenia sztucznej inteligencji, zwłaszcza te wykorzystujące uczenie głębokie, charakteryzują się wysoką intensywnością przetwarzania danych. Trenowanie dużych sieci neuronowych wymaga przetwarzania terabajtów danych, a każde opóźnienie w transferze danych może prowadzić do niewykorzystania procesorów graficznych (GPU) i wydłużenia czasu trenowania. Technologia GPU Direct Storage rozwiązuje ten problem, zapewniając jak najszybsze dostarczanie danych do procesora graficznego (GPU), minimalizując czas przestoju i maksymalizując wydajność obliczeniową.

Ponadto GDS jest szczególnie przydatny w przypadku obciążeń wymagających strumieniowego przesyłania dużych zbiorów danych, takich jak przetwarzanie wideo, przetwarzanie języka naturalnego czy wnioskowanie w czasie rzeczywistym. Zmniejszając zależność od procesora, GDS przyspiesza przesyłanie danych i uwalnia zasoby procesora do innych zadań, co dodatkowo zwiększa ogólną wydajność systemu.

Przepustowość odczytu GDSIO 16k

Patrząc na przepustowość odczytu GDSIO 16K, Dell zaczyna od około 0.50 GiB/s przy 1 wątku i skaluje do 1.34 GiB/s przy 8 wątkach, gdzie wyraźnie przewyższa ASUS z wynikiem około 0.95 GiB/s. Ta przewaga utrzymuje się przy 16 wątkach, gdzie Dell osiąga 2.26 GiB/s w porównaniu do ASUS z wynikiem około 1.58 GiB/s, a także ponownie przy 32 wątkach, gdzie Dell osiąga 3.32 GiB/s w porównaniu do ASUS z wynikiem 2.55 GiB/s.

Nawet przy 64 wątkach Dell utrzymuje przewagę na poziomie 4.35 GiB/s, wyprzedzając ASUS-a z wynikiem około 3.68 GiB/s. Dopiero przy 128 wątkach Dell stabilizuje się na poziomie około 4.30 GiB/s, podczas gdy inne platformy skalują się wyżej. W całym zakresie skalowania rdzeni Dell konsekwentnie prowadzi i zdecydowanie przewyższa system ASUS-a.

Średnie opóźnienie odczytu GDSIO 16K

Patrząc na średnie opóźnienie odczytu GDSIO (16 KB), Dell oferuje najniższe opóźnienie w większości krzywych skalowania. Zaczyna się ono od około 0.03 ms przy 1 wątku, co jest wynikiem zbliżonym do ASUS-a, ale szybko się zmniejsza przy 2 wątkach (0.09 ms vs. 0.13 ms) i 4 wątkach (0.112 ms vs. 0.118 ms). Dell utrzymuje przewagę przy 8 wątkach (0.092 ms vs. 0.13 ms), 16 wątkach (0.108 ms vs. 0.155 ms) i 32 wątkach (0.148 ms vs. 0.193 ms).

Przy 64 wątkach Dell pozostaje konkurencyjny z wynikiem około 0.222 ms, nieznacznie niższym niż ASUS z wynikiem 0.267 ms. Dopiero przy 128 wątkach opóźnienie gwałtownie wzrasta do około 0.45 ms, co plasuje go na tym samym poziomie co ASUS. Ogólnie rzecz biorąc, Dell konsekwentnie wykazuje niższe opóźnienie przy niskich i średnich poziomach współbieżności, zanim osiągnie zbieżność przy największej liczbie wątków.

Przepustowość zapisu GSDIO 16K

Patrząc na przepustowość zapisu GDSIO (16 KB), Dell zaczyna mocno, osiągając około 0.35 GiB/s przy 1 wątku i szybko się wycofuje przy niższej współbieżności, osiągając około 0.75 GiB/s przy 2 wątkach i 1.55 GiB/s przy 4 wątkach, wyraźnie wyprzedzając ASUS w tych samych punktach (0.58 i 0.65 GiB/s). Dell kontynuuje skalowanie do 2.33 GiB/s przy 8 wątkach i osiąga szczyt około 2.88–2.90 GiB/s przy 16 i 32 wątkach, gdzie jest liderem w grupie.

Jednak powyżej 32 wątków wydajność Della osiąga plateau, a następnie nieznacznie spada, utrzymując się na poziomie około 2.90 GiB/s przy 64 wątkach i spadając do około 2.75 GiB/s przy 128 wątkach, podczas gdy Acer, Gigabyte i Founders Edition gwałtownie przyspieszają powyżej 5 GiB/s przy 64 wątkach i osiągają około 6.5 GiB/s przy 128 wątkach. Ogólnie rzecz biorąc, Dell dominuje w zakresie niskiej i średniej liczby wątków, ale nie skaluje się do wyższych poziomów współbieżności, tak jak systemy o najwyższej wydajności.

Średnie opóźnienie zapisu GDSIO 16 tys.

Patrząc na średnie opóźnienie zapisu GDSIO (16K), Dell zapewnia najniższe opóźnienie na niemal całej krzywej skalowania. Zaczyna się ono od około 0.045 ms dla 1 wątku i pozostaje bardzo niskie, na poziomie 0.05 ms dla 2 wątków i 0.04 ms dla 4 wątków, znacznie poniżej ASUS, który mierzy odpowiednio około 0.06 ms i 0.10 ms. Przy 8 wątkach Dell osiąga około 0.055 ms, podczas gdy ASUS około 0.20 ms. Różnica ta powiększa się jeszcze bardziej przy 16 wątkach, gdzie Dell odnotowuje około 0.085 ms, podczas gdy ASUS około 0.35 ms, a przy 32 wątkach Dell utrzymuje się na poziomie około 0.17 ms, podczas gdy ASUS wzrasta do prawie 0.68 ms.

Nawet przy 64 wątkach Dell utrzymuje się na poziomie około 0.34 ms, podczas gdy ASUS osiąga wartość skokową do około 1.51 ms. Dopiero przy 128 wątkach Dell osiąga bardziej stromy wzrost, do około 0.71 ms, ale pozostaje on znacznie niższy niż w przypadku ASUS-a, który przekracza 3.10 ms. Ogólnie rzecz biorąc, Dell wykazuje znacznie lepszą kontrolę nad opóźnieniem zapisu wraz ze wzrostem współbieżności niż ASUS.

Przepustowość odczytu GDSIO 1M

Patrząc na przepustowość odczytu GDSIO (1M), Dell zaczyna od około 2.6 GiB/s na 1 wątku, skaluje do 4.3 GiB/s na 2 wątkach i osiąga około 5.6 GiB/s na 4 wątkach. Od tego momentu wydajność w dużej mierze się stabilizuje, utrzymując się na poziomie około 5.6 GiB/s przy 8 wątkach, 5.4 GiB/s przy 16 wątkach, 5.4 GiB/s przy 32 wątkach i 5.5 GiB/s przy 64 wątkach, a następnie osiągając około 5.5 GiB/s przy 128 wątkach.

Podczas gdy Dell zapewnia wysoką skalowalność na wczesnym etapie i stabilną wydajność, Acer i Gigabyte nadal przekraczają 11 GiB/s przy wyższej liczbie wątków, a Founders Edition zbliża się do 10 GiB/s, co plasuje Dell w średniej półce pod względem przepustowości odczytu dużych bloków.

Średnie opóźnienie odczytu GDSIO: 1M

Patrząc na średnie opóźnienie odczytu GDSIO (1M), Dell zaczyna od około 0.35 ms z 1 wątkiem, wzrasta do około 0.45 ms z 2 wątkami i osiąga około 0.70 ms z 4 wątkami. Opóźnienie nadal rośnie w kontrolowany sposób w przypadku 8 wątków (1.50 ms) i 16 wątków (3.00 ms), następnie spada do około 5.90 ms przy 32 wątkach i 12.40 ms przy 64 wątkach, kończąc na około 25.40 ms przy 128 wątkach.

Chociaż Dell skaluje się wydajniej niż ASUS, który osiąga prawie 29.60 ms przy 128 wątkach, to w szczytowej współbieżności utrzymuje się na poziomie 11 ms w porównaniu z Acerem i Gigabyte. Ogólnie rzecz biorąc, Dell utrzymuje średnie opóźnienie w przypadku odczytu dużych bloków, przewyższając ASUS, ale ustępując platformom o najniższym opóźnieniu przy największej liczbie wątków.

Przepustowość zapisu GDSIO 1M

Patrząc na przepustowość zapisu GDSIO (1M), Dell zaczyna od około 2.6 GiB/s dla 1 wątku, wzrasta do około 3.2 GiB/s dla 2 wątków i osiąga około 3.3 GiB/s dla 4 wątków. Od tego momentu wydajność stabilizuje się, utrzymując się na poziomie 3.2–3.3 GiB/s dla 8–64 wątków, po czym nieznacznie spada do około 3.1 GiB/s dla 128 wątków.

Chociaż Dell zapewnia stabilną i spójną wydajność zapisu dużych bloków, nie skaluje się z wyższą współbieżnością, jak Acer i Gigabyte, które osiągają ponad 12 GiB/s w trybie 8-64 wątków, ani nawet Founders Edition, który utrzymuje około 8.7 GiB/s w średnim zakresie. Ogólnie rzecz biorąc, Dell pozostaje stabilny, ale wyraźnie ustępuje najwydajniejszym systemom w zakresie wysokiej współbieżności zapisu 1 MB.

Średnie opóźnienie zapisu GDSIO 1M

Patrząc na średnie opóźnienie zapisu GDSIO (1M), Dell zaczyna od około 0.6 ms z 1 wątkiem, stopniowo zwiększając je do około 0.8 ms z 2 wątkami i 1.2 ms z 4 wątkami. Opóźnienie nadal rośnie do około 2.5 ms przy 8 wątkach, 5.0 ms przy 16 wątkach i 9.5 ms przy 32 wątkach, by następnie osiągnąć około 19.0 ms przy 64 wątkach i blisko 40.0 ms przy 128 wątkach.

Chociaż Dell skaluje się płynniej niż ASUS, który gwałtownie przekracza 100 ms przy 64 wątkach, to nadal ustępuje Acerowi i Gigabyte'owi pod względem wyższej współbieżności, które przy 128 wątkach utrzymują się bliżej 14 ms. Ogólnie rzecz biorąc, Dell utrzymuje kontrolowane, ale średnie opóźnienie zapisu dużych bloków wraz ze wzrostem liczby wątków.

Wniosek

Dell Pro Max z GB10 zawiera standardową platformę GB10 Spark firmy NVIDIA w obudowie Dell Pro Max, zachowując tę ​​samą podstawową bazę obliczeniową, co w całym ekosystemie. W testach vLLM, wydajność wnioskowania AI pozostała na tym samym poziomie co w pozostałych systemach Spark, z silnym skalowaniem Prefill i przewidywalnym zachowaniem w przypadku obciążeń Equal i Decode.

Pod względem termicznym, Dell działał w cieplejszym końcu grupy podczas intensywnych przejść Prefill, w tym wysokich temperatur NVMe w porównaniu z niektórymi konkurentami. Jednak przy długotrwałych obciążeniach Decode, temperatury ustabilizowały się w konkurencyjnych zakresach, bez oznak niestabilności ani dławienia. Zachowanie mocy GPU pozostało w oczekiwanym zakresie dla platformy.

W testach GPU Direct Storage, Dell uzyskał dobre wyniki w skalowaniu przepustowości odczytu 16K i wykazał się silną kontrolą opóźnień zapisu przy niższych i średnich poziomach współbieżności. Przy większych transferach 1M, przepustowość osiągnęła plateau wcześniej niż Acer i Gigabyte przy wyższej liczbie wątków, co wydaje się być związane z konkretną konfiguracją dysków SSD Gen4, a nie z ograniczeniami samej architektury GB10. Niestety, Dell podjął szereg rozczarowujących decyzji dotyczących pamięci masowej, wdrażając GB10, bez opcji dysków SSD Gen5. Ponadto, ich oferta 2TB wykorzystuje dysk SSD Gen4 QLC, który prawdopodobnie będzie miał gorsze wyniki niż wyniki w tej recenzji.

W całej ofercie Spark, podstawowa przepustowość AI pozostaje ściśle pogrupowana. Różnice wynikają z wyboru implementacji, a nie z samej mocy obliczeniowej.

Strona produktu – Dell Pro Max z GB10

Ranking: Dell Pro Max z GB10 znajduje się w czołówce sprawdzonych komputerów w naszym rankingu najlepszych komputerów stacjonarnych pod kątem lokalnej sztucznej inteligencji.