StorageReview.com

Recenzja stacji HP ZGX Nano G1n AI: bezpieczny i zrównoważony węzeł AI do zastosowań biurkowych

konsument  ◇  Workstation

Platforma DGX Spark jest nam już dobrze znana. Przeanalizowaliśmy referencyjny projekt GB10 Grace Blackwell firmy NVIDIA , oparty na platformach Dell , ASUS , Acer i Gigabyte , i wszystkie z nich charakteryzują się spójnymi podstawowymi cechami: mocą obliczeniową FP4 o wartości 1,000 TOPS, 128 GB zunifikowanej pamięci LPDDR5x i podwójnym interfejsem sieciowym 200 GbE w obudowie o grubości 150 mm. Stacja HP ​​ZGX Nano G1n AI Station opiera się na tym fundamencie, ale sposób, w jaki HP ją zbudował, wyróżnia ją na tle innych platform Spark.

Przednia ramka HP ZGX Nano G1n

Najbardziej widoczne różnice dotyczą materiałów i konstrukcji. HP umieściło ZGX Nano w obudowie wykonanej w 75% z aluminium pochodzącego z recyklingu i w 20% ze stali pochodzącej z recyklingu, a opakowanie zawiera do 93% materiałów pochodzących z recyklingu. Układ wewnętrzny dzieli obudowę na górną i dolną połowę, co ułatwia dostęp do komponentów, takich jak dysk SSD i bateria pastylkowa, niż w kilku testowanych przez nas jednostkach Spark. W zakresie parametrów termicznych, HP ocenia system na 22 dBA w stanie spoczynku i 27.6 dBA przy intensywnym obciążeniu, co jest wartością cichą jak na system generujący około 780 BTU/h w szczytowym momencie.

Bezpieczeństwo to obszar, w którym HP zdecydowanie przewyższa platformę referencyjną. ZGX Nano jest dostarczany z modułem TPM 2.0 działającym w trybie certyfikowanym FIPS 140-2, spełnia wymagania Common Criteria EAL4+ i oferuje funkcje bezpiecznego rozruchu na poziomie BIOS-u oraz kontroli PXE. Pamięć masowa jest instalowana fabrycznie jako samoszyfrujący dysk OPAL NVMe. Podsumowując, HP pozycjonuje to urządzenie nie tylko jako węzeł AI dla programistów, ale także jako system, który może działać w regulowanych środowiskach, w których certyfikacje łańcucha dostaw, szyfrowanie w spoczynku i odporność na manipulacje mają znaczenie dla zaopatrzenia.

Specyfikacja Stacja HP ​​ZGX Nano G1n AI
Przegląd
Nazwa produktu Stacja HP ​​ZGX Nano G1n AI
Form Factor Mini
System operacyjny NVIDIA DGX OS 7 / Ubuntu 24.04
UWAGA: Ten produkt nie obsługuje systemu Microsoft Windows.
sprzęt komputerowy
Procesor Superchip NVIDIA GB10 Grace Blackwell
Architektura Blackwell GPU
20-rdzeniowy procesor ARM (10x Cortex-X925 + 10x Cortex-A725)
Rdzenie Blackwell CUDA
Rdzenie tensorowe 5. generacji
Rdzenie RT 4. generacji
1x NVENC
1x NVDEC
Pamięć 128 GB LPDDR5x, zunifikowana, 16 kanałów, lutowana
Przepustowość pamięci 273 Gb / s
Pamięć masowa (wewnętrzne wejście/wyjście) 1x M.2 PCIe Gen5 x4
Opcje: 2TB lub 4TB PCIe Gen4 x4 NVMe (2242, SED OPAL TLC)
Sieci i wejście/wyjście
Porty wejścia/wyjścia z tyłu 1x zasilanie USB-C (240 W)
3x USB-C 20 Gb/s (DisplayPort 1.4a, łącznie 30 W)
1x HDMI 2.1a
1x 10GbE RJ-45
2x QSFP 200GbE (ConnectX-7)
Kontrolery sieciowe Realtek RTL8127-CG 10GbE
NVIDIA ConnectX-7 200GbE
Wi-Fi i Bluetooth AzureWave AW-EM637
Wi-Fi 7 + Bluetooth 5.4
Wydajność
Obliczenia AI Do 1,000 TOPS (FP4)
Pojemność modelu Do 200B parametrów
Fizyczne i Mocne
Wymiary (wys x szer x gł) 2.01″ (bez nóżek) / 2.1″ (z nóżkami)
5.9 "x 5.9"
Waga Od 1.25 kg (2.76 funta)
Zasilacz laboratoryjny Zewnętrzny zasilacz USB-C 240 W, sprawność 89%, aktywny PFC

Budowa i projektowanie

HP ZGX Nano G1n prezentuje zauważalnie inne podejście do konstrukcji DGX Spark w porównaniu z innymi systemami, które do tej pory testowaliśmy (zobacz nasze recenzje Dell / ASUS / Acer / Gigabyte ). Zamiast typowej konstrukcji, w której podzespoły wydają się być schowane w górnej pokrywie, HP dzieli obudowę na górną i dolną połowę, co ułatwia zrozumienie układu wnętrza po wejściu do środka. To, co na pierwszy rzut oka wydaje się bardziej skomplikowane, okazuje się dość praktyczne, z prostym dostępem do części, takich jak bateria pastylkowa i dysk SSD, po odkręceniu zaledwie kilku śrubek. Bardziej przemyślana struktura wewnętrzna przekłada się również na wygląd zewnętrzny, gdzie HP kładzie większy nacisk na sposób konstrukcji i użyte materiały.

Mimo to, HP opakowało go w elegancką, czarną obudowę o powierzchni 150 mm² i w dużym stopniu oparło się na materiałach pochodzących z recyklingu. W szczególności, konstrukcja wykorzystuje do 75% aluminium pochodzącego z recyklingu, 20% stali pochodzącej z recyklingu oraz znaczną ilość plastiku pochodzącego z recyklingu pokonsumenckiego. Nawet opakowanie odzwierciedla to zaangażowanie. Materiały faliste zawierają do 93% materiałów pochodzących z recyklingu, a opakowania plastikowe zawierają co najmniej 30% materiałów pochodzących z recyklingu.

Pod względem termicznym system wykorzystuje chłodzenie wymuszone. Jest to godny uwagi wybór inżynieryjny, biorąc pod uwagę gęstość układu NVIDIA GB10 Grace Blackwell Superchip. Pomimo kompaktowych rozmiarów, HP określa pełną osłonę termiczną . Przy maksymalnym obciążeniu system rozprasza do około 780 BTU/h, w zależności od konfiguracji. Szczytowy pobór mocy systemu wynosi około 228 W. Ponadto HP deklaruje stosunkowo niski poziom hałasu, wynoszący 22 dBA w stanie spoczynku i 27.6 dBA przy intensywnym obciążeniu.

HP ZGX Nano G1n spód

Urządzenie ma wymiary 5.9 x 5.9 x 2.01 cala (bez nóżek), co plasuje je w kategorii ultrakompaktowych. HP wyraźnie zaznacza, że ​​urządzenie nie nadaje się do montażu w szafie rack, co podkreśla jego rolę jako stacjonarnego węzła AI, a nie tradycyjnej infrastruktury centrum danych. Konstrukcja urządzenia ogranicza jego możliwości serwisowe do minimum. Do dostępu do podzespołów wewnętrznych potrzebny jest śrubokręt krzyżakowy nr 1, a większość komponentów, w tym pamięć, nie podlega wymianie przez użytkownika.

Sekcja wentylatora wewnętrznego HP ZGX Nano G1n

Wewnętrznie, ZGX Nano wykorzystuje referencyjną konstrukcję płyty głównej firmy NVIDIA, podobnie jak wielu innych producentów OEM budujących na platformie DGX Spark. Pamięć LPDDR5x jest lutowana bezpośrednio do płyty i pracuje z częstotliwością do 8533 MHz. Ogólnie rzecz biorąc, platforma stawia na wydajność i gęstość, a nie na modułowość.

Bezpieczeństwo i możliwość aktualizacji

HP zabezpiecza ZGX Nano G1n już na etapie projektowania. Posiada zintegrowany moduł TPM 2.0, który działa w trybie certyfikowanym FIPS 140-2, spełnia specyfikacje Trusted Computing Group i posiada certyfikat Common Criteria EAL4+. Zabezpieczenia na poziomie BIOS-u obejmują kontrolę bezpiecznego rozruchu, funkcje zdalnego rozruchu oparte na PXE oraz możliwość całkowitego wyłączenia rozruchu z nośników wymiennych.

HP ZGX Nano G1n ze zdjętą dolną pokrywą

Z punktu widzenia sprzętu, HP jasno stwierdza: tego systemu nie można rozbudowywać. 128 GB pamięci zunifikowanej LPDDR5x jest przylutowane bezpośrednio do płyty głównej. Dodatkowo, kupujący musi wybrać pamięć masową w momencie zakupu. Chociaż pojedynczy slot M.2 obsługuje elektrycznie PCIe Gen5 x4, konfiguracje fabryczne są dostarczane z dyskami SSD PCIe Gen4 x4 NVMe. Dostępne są one w pojemnościach 2 TB lub 4 TB i wszystkie są samoszyfrującymi dyskami OPAL.

HP zaznacza, że ​​części zamienne będą dostępne nawet przez pięć lat po zakończeniu produkcji. Niemniej jednak jest to zasadniczo system przypominający urządzenie, a nie modułowa stacja robocza.

I/O i rozszerzenia

Przód urządzenia jest minimalistyczny i zawiera jedynie przycisk zasilania oraz diodę LED stanu. Z tyłu system oferuje bogaty wachlarz wysokowydajnych opcji łączności. HP dostarcza zasilanie za pośrednictwem standardowego, rekomendowanego przez firmę NVIDIA zasilacza USB-C o mocy 240 W i ostrzega, że ​​zasilacze innych firm mogą powodować spadek wydajności lub niestabilność.

Porty tylne i łączność HP ZGX Nano G1n

Trzy porty USB 3.2 typu C zapewniają łączność USB, każdy z prędkością 20 Gb/s i obsługą trybu DisplayPort 1.4a Alt Mode. Dedykowany port HDMI 2.1a zapewnia dodatkowe wyjście wideo. Do obsługi sieci system zawiera kontroler Realtek RTL8127-CG 10GbE oraz kontroler NVIDIA ConnectX-7, oferując dwa porty 200 GbE QSFP112, każdy o przepustowości 200 Gb/s.

Stos sieciowy obsługuje szeroki zakres funkcji korporacyjnych. Należą do nich: rozruch PXE, Wake-on-LAN, tagowanie VLAN (802.1Q), synchronizacja czasu (802.1as/1588) oraz praca w trybie pełnego dupleksu przy wszystkich obsługiwanych prędkościach. Dodatkowo, moduł Wi-Fi 7 (802.11be) 2×2 z Bluetooth 5.4 zapewnia łączność bezprzewodową i obsługuje MU-MIMO, zabezpieczenia WPA3 oraz działanie w pasmach 2.4 GHz, 5 GHz i 6 GHz.

Grafika i dźwięk

Zintegrowany układ graficzny NVIDIA Blackwell w procesorze GB10 Superchip obsługuje wszystkie zadania graficzne. System obsługuje sygnał wyjściowy do 8K z częstotliwością odświeżania 60 Hz przez USB-C DisplayPort 1.4a oraz 8K z częstotliwością odświeżania 30 Hz przez HDMI 2.1a. HP zaleca korzystanie z bezpośrednich połączeń kablowych do sygnału wyjściowego 8K, ponieważ adaptery lub stacje dokujące mogą powodować niestabilność lub pogorszenie jakości sygnału.

Dźwięk przesyłany jest przez HDMI, bez dedykowanych analogowych wyjść audio. Jest to zgodne z pozycjonowaniem systemu jako węzła obliczeniowego, a nie tradycyjnej stacji roboczej do obsługi multimediów.

Testowanie termiczne

Temperatura procesora

Podczas testów termicznych procesora, HP ZGX Nano G1n osiągnął szczytową temperaturę 77.3°C podczas najbardziej intensywnych skoków obciążenia. To plasuje HP poniżej najgorętszych systemów w zestawie porównawczym podczas szczytowych zmian obciążenia, podczas gdy inne jednostki osiągały temperaturę 90°C. Wraz z przejściem obciążenia do trybu Equal ISL/OSL, a następnie Decode Heavy, temperatura procesora ustabilizowała się, zamiast gwałtownie rosnąć.

W dolnym zakresie, procesor odnotował minimalną temperaturę 36.4°C w warunkach niskiego obciążenia. Oznacza to, że HP zapewnia efektywne odprowadzanie ciepła, gdy system nie jest poddawany większemu obciążeniu obliczeniowemu. Ogólnie rzecz biorąc, ZGX wykazał kontrolowane, gwałtowne zmiany temperatury procesora i stabilną wydajność przy długotrwałym obciążeniu.

 

Temperatura GPU

Podobny przebieg miała temperatura GPU. Podczas okresów intensywnego przyspieszania GPU osiągał maksymalną temperaturę 69°C. To plasuje HP po niższej stronie w porównaniu z innymi systemami w warunkach szczytowego obciążenia, podczas gdy kilka innych systemów (takich jak Dell, ASUS i Founders Edition) osiągało zauważalnie wyższą temperaturę w górnym zakresie. Wraz z przejściem aktywności w fazy Equal ISL/OSL i Decode Heavy, temperatura GPU ustabilizowała się i pozostała stabilna.

W fazach o mniejszym obciążeniu procesor graficzny zanotował temperaturę minimalną 34°C, co wskazuje na jego solidne parametry termiczne w stanie spoczynku.

Temperatura NVMe

W fazie Equal dysk NVMe osiągnął temperaturę około 42°C, wykazując jedynie stopniowy wzrost w stosunku do wartości bazowej. Wraz z przejściem obciążenia na tryb Prefill Heavy, temperatura pamięci masowej wyraźnie wzrosła, wahając się od 42°C do 47°C. W fazie Decode Heavy dysk pracował w najcieplejszym zakresie temperatur, od 47°C do 54°C, gdzie osiągnął szczyt, jednak utrzymywał się wyraźnie poniżej temperatury w większości innych systemów Spark.

Temperatura karty sieciowej

W fazie Equal temperatura karty sieciowej wahała się od 39°C do 52°C, wykazując stały wzrost, co wskazuje na umiarkowany wzrost temperatury w miarę zwiększania się aktywności sieciowej na wczesnym etapie przebiegu.

W fazie Prefill Heavy temperatura karty sieciowej wzrosła, wahając się od 48°C do 64°C, ponieważ ta faza wywiera znacznie bardziej równomierne obciążenie na podsystem sieciowy. Podczas fazy Decode Heavy temperatura karty sieciowej znajdowała się w najwyższym zakresie, od 52°C do 68°C, gdzie osiągnięto szczyt. Niemniej jednak, zachowanie termiczne pozostało stabilne przez cały test.

Pobór mocy GPU

W fazie Equal pobór mocy GPU wahał się od 2.86 W do nieco ponad 40 W, co plasowało HP ZGX Nano G1n w środku stawki.

W trybie Prefill Heavy pobór mocy GPU wynosił początkowo ok. 37 W, spadał do 35 W i wzrastał do 69 W. Była to faza testu charakteryzująca się największym poborem mocy.

W trakcie operacji Decode Heavy pobór mocy przez GPU ustabilizował się w niższym, bardziej stabilnym zakresie od 35 W do 46 W, co wskazuje, że zapotrzebowanie na energię zmniejszyło się, ponieważ obciążenie przestało zachowywać się agresywniej.

Podsumowanie termiczne

Pod obciążeniem ZGX Nano G1n pracuje w ściśle kontrolowanej strefie termicznej. Maksymalny pobór mocy systemu wynosi około 228 W, a rozpraszanie ciepła około 780 BTU/h. Z kolei pobór mocy w stanie spoczynku pozostaje niski i wynosi około 36–38 W, co wskazuje na efektywne skalowanie mocy, gdy system nie jest aktywny. System chłodzenia wymuszonym obiegiem powietrza zapewnia stabilną pracę w zakresie temperatur od 5°C do 30°C określonym przez HP.

Testowanie wydajności HP ZGX Nano AI

Aby ocenić HP ZGX Nano z GB10, przetestowaliśmy jednostki Spark za pomocą testu porównawczego vLLM Online Serving, najpopularniejszego silnika wnioskowania i obsługi o wysokiej przepustowości dla dużych modeli językowych. Test porównawczy vLLM Online Serving symuluje rzeczywiste obciążenia produkcyjne poprzez wysyłanie współbieżnych żądań do działającego serwera vLLM i pomiar kluczowych wskaźników, takich jak całkowita przepustowość tokenów (liczba tokenów na sekundę), czas do pierwszego tokena i czas na token wyjściowy, w zmiennych warunkach obciążenia.

Nasze testy obejmowały szereg modeli, w tym gęste architektury i mikroskalowalne typy danych, i oceniały wydajność w trzech scenariuszach obciążenia: Equal ISL/OSL, Prefill Heavy i Decode Heavy. Scenariusze te odzwierciedlają różne wzorce obsługi w świecie rzeczywistym, od zrównoważonych obciążeń wejścia i wyjścia, przez intensywne obliczeniowo przetwarzanie natychmiastowe, po generowanie tokenów z ograniczoną przepustowością pamięci.

Oprócz HP ZGX Nano z GB10, przeprowadziliśmy testy porównawcze innych systemów OEM firm Dell, ASUS , Acer i Gigabyte . Pozwoliło nam to umiejscowić wyniki HP w szerszym kontekście konkurencji i zrozumieć, gdzie firma jest liderem, dotrzymuje kroku konkurencji, a gdzie plasuje się w tyle w przypadku różnych modeli i obciążeń.

GPT-OSS-120B

Dzięki GPT-OSS-120B, HP ZGX Nano G1n osiąga najlepsze wyniki w trybie Prefill Heavy, gdzie przepustowość wzrasta z 304.5 tok/s w partii 1 do 2773.3 tok/s w partii 64. Równy ISL/OSL również skaluje się stabilnie, rosnąc z 69.6 tok/s do 722.9 tok/s w całym zakresie. W porównaniu z tym tryb Decode Heavy jest znacznie niższy – startuje od 183.7 tok/s w partii 1, nieznacznie spada w partii 2, a następnie wraca do 262.9 tok/s w partii 64.

 

GPT-OSS-20B

W przypadku GPT-OSS-20B, najwyższe wyniki HP pochodzą z Prefill Heavy, ale skalowanie jest mniej liniowe niż w przypadku innych modeli. Prefill rozpoczyna się od 1626.6 tok/s w partii 1, wzrasta do 1980.3 tok/s w partii 2, gwałtownie spada do 1120.3 tok/s w partii 4, a następnie wraca do 4345.1 tok/s w partii 64. Równy ISL/OSL skaluje się płynniej z 92.6 tok/s do 1550.6 tok/s, a Decode Heavy rośnie z 94.4 tok/s do 670.4 tok/s.

Koder Qwen3 30B A3B FP8

W przypadku Qwen3 Coder 30B A3B (FP8), HP ponownie przoduje w kategorii Prefill Heavy, zwiększając przepustowość z 432.2 tok/s przy rozmiarze partii 1 do 2069.4 tok/s przy rozmiarze partii 64. W przypadku Equal ISL/OSL wzrasta ona ze 104.2 tok/s do 1274.4 tok/s, a w przypadku Decode Heavy z 55.9 tok/s do 480.4 tok/s. Jest to jeden z lepszych wyników HP.

Podstawa Qwen3 Coder 30B A3B

W przypadku Qwen3 Coder 30B A3B (Base), HP zapewnia stabilny wzrost we wszystkich trzech fazach, choć szczyt pozostaje w fazie Prefill Heavy. Faza ta wzrasta z 258.6 tok/s w partii 1 do 1629.4 tok/s w partii 64. Równy ISL/OSL skaluje się z 60.3 tok/s do 690.3 tok/s, podczas gdy Decode Heavy rośnie z 33.0 tok/s do 331.8 tok/s.

Llama 3.1 8B Instrukcja FP4

Dzięki Llama-3.1-8B-Instruct (FP4), HP wyraźnie zwiększa przepustowość. Equal ISL/OSL rośnie z 76.4 tok/s w partii 1 do 2774.1 tok/s w partii 64, co czyni go najsilniejszą z trzech faz HP w tym modelu. Prefill Heavy również skaluje się agresywnie, rosnąc z 316.8 tok/s do 2397.1 tok/s w partii 32, a następnie spadając do 2270.4 tok/s w partii 64. Decode Heavy rośnie z 40.7 tok/s do 547.6 tok/s w całym zakresie.

Llama 3.1 8B Instruct (podstawa)

W systemie Llama-3.1-8B-Instruct (Base), HP ZGX Nano G1n skaluje się płynnie we wszystkich trzech fazach. W trybie Equal ISL/OSL przepustowość wzrasta z 28.2 tok/s w partii 1 do 1298.6 tok/s w partii 64. W trybie Prefill Heavy, HP wzrasta ze 123.2 tok/s do 1759.5 tok/s, przy czym wzrosty pozostają silne w całym zakresie, po czym nieznacznie maleją w górnym zakresie. W trybie Decode Heavy przepustowość jest znacznie niższa, wzrastając z 15.5 tok/s w partii 1 do 366.4 tok/s w partii 64.

Bezpośrednie przechowywanie GPU

Jak działa bezpośrednie przechowywanie danych GPU

Tradycyjnie, gdy procesor graficzny (GPU) przetwarza dane z dysku NVMe, dane muszą najpierw przejść przez procesor i pamięć systemową, zanim dotrą do procesora graficznego (GPU). Ten proces tworzy wąskie gardła, ponieważ procesor działa jako pośrednik, zwiększając opóźnienia i zużywając zasoby systemowe. Technologia GPU Direct Storage eliminuje ten problem, umożliwiając procesorowi graficznemu bezpośredni dostęp do danych z urządzenia pamięci masowej za pośrednictwem magistrali PCIe. Ta bezpośrednia ścieżka zmniejsza obciążenie związane z przesyłaniem danych, umożliwiając szybsze i bardziej wydajne transfery.

Obciążenia sztucznej inteligencji, zwłaszcza te wykorzystujące uczenie głębokie, charakteryzują się wysoką intensywnością przetwarzania danych. Trenowanie dużych sieci neuronowych wymaga przetwarzania terabajtów danych, a każde opóźnienie w transferze danych prowadzi do niewykorzystania procesorów graficznych (GPU) i wydłużenia czasu trenowania. W związku z tym rozwiązanie GPU Direct Storage rozwiązuje ten problem, dostarczając dane do procesora graficznego tak szybko, jak to możliwe, minimalizując czas przestoju i maksymalizując wydajność obliczeniową.

Ponadto GDS wspiera obciążenia strumieniowe dużych zbiorów danych, takie jak przetwarzanie wideo, przetwarzanie języka naturalnego i wnioskowanie w czasie rzeczywistym. Zmniejszając obciążenie procesora, GDS przyspiesza przesyłanie danych i uwalnia zasoby procesora do innych zadań, co dodatkowo zwiększa ogólną wydajność systemu.

Przepustowość odczytu GDSIO 16K

Patrząc na przepustowość odczytu GDSIO 16K, HP ZGX Nano G1n zaczyna od 0.70 GiB/s z 1 wątkiem, co plasuje go wśród najlepszych procesorów niskowątkowych w tej grupie. Spada do 0.41 GiB/s przy 2 wątkach, a następnie rośnie do 0.86 GiB/s przy 4 wątkach, wykazując tę ​​samą niewielką niespójność na wczesnym etapie wątków, obserwowaną w kilku z tych systemów. Od tego momentu skalowanie staje się znacznie bardziej spójne. Przepustowość wzrasta do 1.6 GiB/s przy 8 wątkach i 2.2 GiB/s przy 16 wątkach, a następnie kontynuuje wzrost do 3.0 GiB/s przy 32 wątkach. Przy wyższych głębokościach kolejek HP nadal zyskuje na popularności, osiągając 3.9 GiB/s przy 64 wątkach i osiągając szczyt 4.6 GiB/s przy 128 wątkach.

Średnie opóźnienie odczytu GDSIO: 16 tys.

Patrząc na średnie opóźnienie odczytu GDSIO (16 KB), HP ZGX Nano G1n rozpoczyna od około 0.02 ms z 1 wątkiem i utrzymuje niskie wartości dla 2 wątków (0.08 ms) i 4 wątków (0.07 ms). Opóźnienie nieznacznie wzrasta przy 8 wątkach (0.08 ms) i 16 wątkach (0.11 ms), a następnie wyraźnie wzrasta przy 32 wątkach (0.16 ms) i 64 wątkach (0.25 ms). Przy 128 wątkach opóźnienie sięga 0.42 ms, co nadal jest nieco poniżej najwyższych wyników w grupie, jednocześnie śledząc stałe skalowanie przepustowości systemu w całym teście.

Przepustowość zapisu GDSIO 16K

Patrząc na przepustowość zapisu GDSIO 16K, HP ZGX Nano G1n rozpoczyna od 0.84 GiB/s na 1 wątku, wzrasta do 1.4 GiB/s na 2 wątkach i osiąga 2.2 GiB/s na 4 wątkach. Wydajność nadal dynamicznie rośnie przy 8 wątkach (3.0 GiB/s) i osiąga 3.3 GiB/s przy 16 wątkach, gdzie praktycznie się stabilizuje. Od tego momentu przepustowość utrzymuje się na niemal stałym poziomie 3.3 GiB/s przy 32 i 64 wątkach, a następnie nieznacznie spada do 3.2 GiB/s przy 128 wątkach, co wskazuje, że platforma stosunkowo wcześnie osiąga swój pułap zapisu i utrzymuje go konsekwentnie przez resztę cyklu.

Średnie opóźnienie zapisu GDSIO 16 tys.

Patrząc na średnie opóźnienie zapisu GDSIO (16 000), HP ZGX Nano G1n zaczyna od około 0.02 ms przy 1 wątku i pozostaje bardzo niskie przy 2 wątkach (0.02 ms) i 4 wątkach (0.03 ms). Opóźnienie rośnie nieznacznie przy 8 wątkach (0.04 ms) i 16 wątkach (0.07 ms), a następnie gwałtownie rośnie przy 32 wątkach (0.15 ms) i 64 wątkach (0.30 ms). Przy 128 wątkach opóźnienie sięga 0.61 ms, co nadal jest dość dobrze kontrolowane, choć trend wzrostowy pokrywa się z punktem, w którym przepustowość zapisu uległa już spłaszczeniu przy wyższej liczbie wątków.

Przepustowość odczytu GDSIO 1M

Patrząc na przepustowość odczytu GDSIO 1M, HP ZGX Nano G1n rozpoczyna od 3.2 GiB/s na 1 wątku i wzrasta do 4.1 GiB/s na 2 wątkach. Wydajność nadal rośnie przy 4 wątkach (5.2 GiB/s) i 8 wątkach (5.5 GiB/s), po czym platforma osiąga swój maksymalny pułap. Przepustowość utrzymuje się na zasadniczo stabilnym poziomie 5.5 GiB/s dla 16, 32 i 64 wątków, po czym nieznacznie spada do 5.3 GiB/s przy 128 wątkach, co wskazuje na silny wzrost na początku, po którym następuje bardzo stabilny plateau z dużą liczbą wątków.

Średnie opóźnienie odczytu GDSIO: 1M

Patrząc na średnie opóźnienie odczytu GDSIO (1M), HP ZGX Nano G1n rozpoczyna od około 0.31 ms przy 1 wątku i pozostaje stosunkowo niskie przy 2 wątkach (0.47 ms) i 4 wątkach (0.76 ms). Opóźnienie rośnie wraz z współbieżnością, osiągając 1.4 ms przy 8 wątkach, 2.9 ms przy 16 wątkach i 5.9 ms przy 32 wątkach. Tendencja ta utrzymuje się przy 64 wątkach (12.8 ms) i osiąga 27.2 ms przy 128 wątkach, co odzwierciedla wyższe głębokości kolejek, mimo że przepustowość została spłaszczona znacznie wcześniej w trakcie analizy.

Przepustowość zapisu GDSIO 1M

Patrząc na przepustowość zapisu GDSIO 1M, HP ZGX Nano G1n rozpoczyna od 3.1 GiB/s z 1 wątkiem i wzrasta do 3.5 GiB/s z 2 wątkami, a następnie utrzymuje ten poziom przy 4, 8 i 16 wątkach. Wydajność nieznacznie spada do 3.3 GiB/s przy 32 wątkach, a następnie wraca do 3.5 GiB/s przy 64 wątkach. Przy 128 wątkach przepustowość wzrasta do 3.7 GiB/s, co wskazuje na zasadniczo płaski profil zapisu w całym zakresie, z niewielkimi wahaniami i niewielkim wzrostem przy największej liczbie wątków.

Średnie opóźnienie zapisu GDSIO 1M

Patrząc na średnie opóźnienie zapisu GDSIO (1M), HP ZGX Nano G1n zaczyna od około 0.31 ms z 1 wątkiem, wzrastając do 0.57 ms z 2 wątkami i 1.1 ms z 4 wątkami. Opóźnienie nadal rośnie wraz ze wzrostem współbieżności, osiągając 2.2 ms z 8 wątkami, 4.4 ms z 16 wątkami i 9.4 ms z 32 wątkami. Trend wzrostowy utrzymuje się przy 64 wątkach (17.7 ms) i osiąga 37.3 ms przy 128 wątkach, co odzwierciedla stale rosnące obciążenie kolejki, mimo że sama przepustowość zapisu pozostaje dość stabilna przez większość cyklu.

Wniosek

HP ZGX Nano G1n oferuje oczekiwany profil wydajności platformy DGX Spark i oferuje rozwiązania inżynieryjne, które wyróżniają go na tle innych systemów Spark w tym segmencie. Podczas naszych testów temperatura procesora osiągnęła szczyt 77.3°C, a temperatura karty graficznej 69°C – obie wartości są niższe niż w testowanych przez nas jednostkach Spark. Wydajność vLLM była najwyższa w przypadku obciążeń Prefill Heavy we wszystkich sześciu testowanych modelach, a skalowanie utrzymywało się bez zarzutu przy większych rozmiarach wsadów. Przepustowość odczytu z pamięci masowej GPU Direct Storage osiągnęła 4.6 GiB/s przy blokach 16 000 i 5.5 GiB/s przy blokach 1 mln, a przepustowość zapisu początkowo osiągnęła plateau, ale utrzymywała się na tym poziomie przez cały czas trwania testów.

HP ZGX Nano G1n w układzie piętrowym

ZGX Nano G1n wyróżnia się na tle innych urządzeń Spark dzięki pracy HP nad projektem referencyjnym. Zawartość materiałów pochodzących z recyklingu, podział górnej i dolnej części obudowy, który poprawia jej funkcjonalność, oraz obudowa akustyczna, która utrzymuje poziom hałasu na poziomie 27.6 dBA pod obciążeniem, odzwierciedlają przemyślane decyzje inżynieryjne, wykraczające poza wymagania samej platformy GB10. Stos zabezpieczeń opiera się na tym samym schemacie. TPM 2.0 w trybie FIPS 140-2, Common Criteria EAL4+ i pamięć masowa SED OPAL sprawiają, że urządzenie to wykracza poza możliwości urządzenia deweloperskiego i zmierza w kierunku systemu, który może bez problemu sprostać wymaganiom w środowiskach regulowanych.

Podobnie jak inne modele Spark, nie jest to stacja robocza ogólnego przeznaczenia i HP nie pozycjonuje jej jako takiej. Dla deweloperów, małych zespołów i organizacji, które potrzebują lokalnych zasobów obliczeniowych AI, a ich zakup jest uzasadniony wiarygodnymi historiami zrównoważonego rozwoju i bezpieczeństwa, ZGX Nano G1n stanowi wyraźnie wyróżniającą się opcję w ofercie Spark. Dla firm, dla których te kryteria nie mają zastosowania, platforma bazowa jest stała we wszystkich pięciu testowanych przez nas systemach OEM, a decyzja zależy od ekosystemu, wsparcia i ceny.

Strona produktu – HP ZGX Nano G1n AI

Tabela wyników: Stacja HP ​​ZGX Nano G1n AI znajduje się w gronie sprawdzonych urządzeń w naszej tabeli najlepszych komputerów stacjonarnych do lokalnej sztucznej inteligencji.

Skontaktuj się z StorageReview

Biuletyn | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Kanał RSS

Conor Houser