StorageReview.com

Recenzia stanice HP ZGX Nano G1n s umelou inteligenciou: Bezpečný a udržateľný uzol umelej inteligencie pre stolné použitie

Spotrebiteľ  ◇  Workstation

Platforma DGX Spark je pre nás v tomto bode už známou oblasťou. Preskúmali sme verzie referenčného dizajnu GB10 Grace Blackwell od spoločností Dell , ASUS , Acer a Gigabyte a základné ingrediencie sú vo všetkých z nich konzistentné: 1 000 TOPS výpočtového výkonu FP4, 128 GB unifikovanej pamäte LPDDR5x a duálne sieťové rozhranie 200 GbE v 150 mm šasi. Stanica AI Station HP ZGX Nano G1n stavia na tomto základe, ale spôsob, akým ju HP využilo, odlišuje túto jednotku od zvyšku poľa Spark.

Predný rám HP ZGX Nano G1n

Najviditeľnejšie rozdiely sú v materiáloch a konštrukcii. HP balí ZGX Nano do šasi vyrobeného až zo 75 % recyklovaného hliníka a 20 % recyklovanej ocele, pričom balenie obsahuje až 93 % recyklovaného obsahu. Vnútorné usporiadanie rozdeľuje šasi na hornú a dolnú polovicu, čo uľahčuje prístup ku komponentom, ako je SSD a gombíková batéria, v porovnaní s niekoľkými testovanými jednotkami Spark. Z tepelného hľadiska HP hodnotí systém na 22 dBA v nečinnosti a 27.6 dBA pri intenzívnom zaťažení, čo je tichý systém so špičkovou spotrebou približne 780 BTU/hod.

Bezpečnosť je oblasť, v ktorej HP posúva svoju referenčnú platformu ďalej. ZGX Nano sa dodáva s TPM 2.0 pracujúcim v režime certifikovanom podľa normy FIPS 140-2, spĺňa štandardy Common Criteria EAL4+ a zahŕňa zabezpečené bootovanie na úrovni BIOSu a ovládacie prvky PXE. Úložisko je z výroby nainštalované ako samošifrovací disk OPAL NVMe. Celkovo HP pozicionuje túto jednotku nielen ako uzol umelej inteligencie pre vývojárov, ale aj ako systém, ktorý môže fungovať v regulovaných prostrediach, kde sú pre obstarávanie dôležité certifikácie dodávateľského reťazca, šifrovanie v pokoji a odolnosť voči neoprávnenej manipulácii.

špecifikácia Stanica s umelou inteligenciou HP ZGX Nano G1n
Prehľad
Názov Produktu Stanica s umelou inteligenciou HP ZGX Nano G1n
Form Factor Mini
operačný systém NVIDIA DGX OS 7 / Ubuntu 24.04
POZNÁMKA: Tento produkt nepodporuje systém Microsoft Windows.
technické vybavenie
procesor Superčip NVIDIA GB10 Grace Blackwell
Architektúra grafického procesora Blackwell
20-jadrový procesor Arm (10x Cortex-X925 + 10x Cortex-A725)
Jadrá Blackwell CUDA
Tenzorové jadrá 5. generácie
RT jadrá 4. generácie
1x NVENC
1x NVDEC
Memory Masážne stoly 128GB LPDDR5x, unifikovaná, 16 kanálov, spájkovaná
Šírka pamäte 273 GB / s
Úložisko (interné I/O) 1x M.2 PCIe Gen5 x4
Možnosti: 2 TB alebo 4 TB PCIe Gen4 x4 NVMe (2242, SED OPAL TLC)
Siete a vstupno-výstupné pripojenie
Zadné I / O porty 1x napájanie cez USB-C (240 W)
3x USB-C 20 Gb/s (DisplayPort 1.4a, celkovo 30 W)
1x HDMI 2.1a
1x 10GbE RJ-45
2x QSFP 200GbE (ConnectX-7)
Sieťové ovládače Realtek RTL8127-CG 10GbE
NVIDIA ConnectX-7 200GbE
WLAN a Bluetooth AzureWave AW-EM637
Wi-Fi 7 + Bluetooth 5.4
výkon
AI Compute Až 1 000 TOPS (FP4)
Kapacita modelu Parametre až do 200B
Fyzické a výkonné
Rozmery (Š x V x D) 2.01″ (bez nožičiek) / 2.1″ (s nožičkami)
5.9 "x 5.9"
Váha Od 1.25 kg (2.76 libry)
Zdroj 240W externý adaptér USB-C, účinnosť 89 %, aktívna korekcia účinníka (PFC)

Vytváranie a dizajn

HP ZGX Nano G1n má oproti dizajnu DGX Spark výrazne odlišný prístup v porovnaní s ostatnými systémami, ktoré sme doteraz skúmali (pozrite si naše recenzie Dell / ASUS / Acer / Gigabyte ). Namiesto bežnejšej konštrukcie, kde sa vnútorné komponenty zdajú byť zastrčené v hornom kryte, HP rozdeľuje šasi na hornú a spodnú polovicu, vďaka čomu je vnútorné usporiadanie ľahšie pochopiteľné po otvorení. To, čo sa na prvý pohľad zdá komplikovanejšie, sa ukáže ako celkom praktické, s jednoduchým prístupom k častiam, ako je gombíková batéria a SSD, po odstránení len niekoľkých skrutiek. Táto premyslenejšia vnútorná štruktúra sa prenáša aj na vonkajšiu konštrukciu, kde HP kladie väčší dôraz na konštrukciu systému a použité materiály.

Napriek tomu ho HP balí do elegantného čierneho puzdra s rozmermi 150 mm štvorcových a vo veľkej miere sa spolieha na recyklované materiály. Konkrétne, konštrukcia využíva až 75 % recyklovaného hliníka, 20 % recyklovanej ocele a značné množstvo recyklovaných plastov po spotrebe. Dokonca aj balenie odráža tento záväzok. Vlnité materiály obsahujú až 93 % recyklovaného obsahu a plastové balenie obsahuje najmenej 30 % recyklovaného obsahu.

Z tepelného hľadiska sa systém spolieha na chladenie núteným prúdením vzduchu. Vzhľadom na hustotu superčipu NVIDIA GB10 Grace Blackwell ide o pozoruhodnú technickú voľbu. Napriek kompaktným rozmerom spoločnosť HP špecifikuje plný tepelný obal . Pri maximálnom zaťažení systém rozptyľuje energiu až približne 780 BTU/hodinu v závislosti od konfigurácie. Maximálna spotreba energie systému dosahuje približne 228 W. Spoločnosť HP navyše udáva relatívne nízku hladinu hluku, ktorá je 22 dBA v režime nečinnosti a 27.6 dBA pri intenzívnom zaťažení.

Spodná časť HP ZGX Nano G1n

Fyzické rozmery jednotky sú 5.9 x 5.9 x 2.01 palca bez nožičiek, čo ju pevne zaraďuje do ultrakompaktného prostredia. Spoločnosť HP výslovne uvádza, že jednotku nie je možné montovať do racku, čím sa posilňuje jej úloha ako uzla umelej inteligencie pri stole, a nie ako tradičnej infraštruktúry dátového centra. Servis je konštrukčne minimálny. Používatelia potrebujú krížový skrutkovač č. 1 na prístup k vnútorným komponentom a väčšinu komponentov vrátane pamäte si používateľ nemôže vymeniť.

Vnútorná sekcia ventilátora HP ZGX Nano G1n

Interne ZGX Nano využíva referenčný dizajn dosky od spoločnosti NVIDIA, rovnako ako mnoho ďalších výrobcov OEM, ktorí stavajú na platforme DGX Spark. Pamäť LPDDR5x je prispájkovaná priamo na dosku a beží až na frekvencii 8533 MHz. Celkovo platforma uprednostňuje efektivitu a hustotu pred modularitou.

Bezpečnosť a možnosť aktualizácie

Spoločnosť HP uzamkla ZGX Nano G1n už od začiatku. Je vybavená integrovaným modulom TPM 2.0, ktorý pracuje v režime s certifikáciou FIPS 140-2, spĺňa špecifikácie Trusted Computing Group a má certifikáciu Common Criteria EAL4+. Ochrany na úrovni BIOSu zahŕňajú bezpečné ovládanie spúšťania, možnosti vzdialeného spúšťania založené na PXE a možnosť úplne zakázať spúšťanie z vymeniteľných médií.

HP ZGX Nano G1n s odmontovaným spodným krytom

Z hľadiska hardvéru je HP explicitný: tento systém nie je možné upgradovať. 128 GB unifikovanej pamäte LPDDR5x je prispájkovaných priamo na doske. Okrem toho si kupujúci musia pri kúpe vybrať úložisko. Zatiaľ čo jeden slot M.2 elektricky podporuje PCIe Gen5 x4, továrenské konfigurácie sa dodávajú s diskami SSD PCIe Gen4 x4 NVMe. Tieto disky sa dodávajú s kapacitou 2 TB alebo 4 TB a všetky sú samošifrovacie disky OPAL.

Spoločnosť HP poznamenáva, že náhradné diely budú k dispozícii až päť rokov po ukončení výroby. Napriek tomu ide v podstate o systém v štýle spotrebiča, a nie o modulárnu pracovnú stanicu.

Vstupy/výstupy a rozšírenie

Predná strana zariadenia je minimalistická a obsahuje iba tlačidlo napájania a stavovú LED diódu. Na zadnej strane systém ponúka širokú škálu vysokovýkonných možností pripojenia. Spoločnosť HP napája štandardný 240W USB-C adaptér odporúčaný spoločnosťou NVIDIA a upozorňuje, že adaptéry tretích strán môžu spôsobiť zníženie výkonu alebo nestabilitu.

Zadné porty a konektivita HP ZGX Nano G1n

Tri porty USB 3.2 typu C poskytujú pripojenie USB, pričom každý pracuje s rýchlosťou 20 Gb/s a podporuje režim DisplayPort 1.4a Alt. Samostatný port HDMI 2.1a poskytuje ďalší výstup na displej. Pre sieťové pripojenie systém obsahuje radič Realtek RTL8127-CG 10GbE a radič NVIDIA ConnectX-7, ktoré poskytujú dva porty 200GbE QSFP112, každý s priepustnosťou 200 Gb/s.

Sieťový balík podporuje širokú škálu podnikových funkcií. Patria sem PXE boot, Wake-on-LAN, VLAN tagging (802.1Q), synchronizácia času (802.1as/1588) a plne duplexná prevádzka vo všetkých podporovaných rýchlostiach. Okrem toho modul Wi-Fi 7 (802.11be) 2×2 s rozhraním Bluetooth 5.4 poskytuje bezdrôtové pripojenie a podporuje zabezpečenie MU-MIMO, WPA3 a prevádzku v pásmach 2.4 GHz, 5 GHz a 6 GHz.

Grafika a zvuk

Integrovaná grafická karta NVIDIA Blackwell v superčipe GB10 zvláda všetky grafické úlohy. Systém podporuje výstup až 8K pri 60 Hz cez USB-C DisplayPort 1.4a a 8K pri 30 Hz cez HDMI 2.1a. Spoločnosť HP odporúča pre výstup 8K používať priame káblové pripojenia, pretože adaptéry alebo doky môžu spôsobiť nestabilitu alebo znížiť kvalitu signálu.

Zvuk sa prenáša cez HDMI, bez samostatných analógových zvukových výstupov. To je v súlade s umiestnením systému ako výpočtového uzla a nie ako tradičnej multimediálnej pracovnej stanice.

Tepelné testovanie

Teplota CPU

Počas tepelného testovania CPU dosiahol HP ZGX Nano G1n maximálnu teplotu 77.3 °C počas intenzívnejších záťažových prechodov. Vďaka tomu sa HP počas prechodov do špičky dostal pod najhorúcejšie systémy v porovnávacom súbore, keďže ostatné jednotky sa dostali do rozsahu 90 °C. Keď sa záťaž prepínala na režim Equal ISL/OSL a potom Decode Heavy, teploty CPU sa stabilizovali, namiesto toho, aby naďalej prudko stúpali.

V spodnej časti zaznamenal CPU minimálnu teplotu 36.4 °C pri nízkom zaťažení. To znamená, že HP má efektívny odvod tepla, keď systém nie je vystavený väčšiemu výpočtovému zaťaženiu. Celkovo ZGX preukázal kontrolované tepelné správanie CPU pri vysokých teplotách so stabilným výkonom pri trvalom zaťažení.

 

Teplota grafického procesora

Teploty GPU sa vyvíjali podobne. Počas období intenzívnej akcelerácie dosiahla GPU maximálnu teplotu 69 °C. Vďaka tomu sa HP počas špičkového zaťaženia nachádza na chladnejšej strane porovnateľných systémov, pričom niekoľko ďalších systémov (ako napríklad Dell, ASUS a Founders Edition) sa v horných hraniciach záťaže citeľne oteplovalo. Ako sa aktivita presúvala do fáz Equal ISL/OSL a Decode Heavy, teploty GPU sa ustálili a zostali stabilné.

Grafický procesor zaznamenal počas slabších fáz minimálnu teplotu 34 °C, čo naznačuje solídne tepelné schopnosti v nečinnom režime.

Teplota NVMe

Počas fázy Equal dosiahol disk NVMe približne 42 °C, čo predstavuje len postupný nárast od svojej pokojovej základnej teploty. S prechodom pracovného zaťaženia na režim Prefill Heavy sa teplota úložiska výrazne zvýšila, v rozmedzí od 42 °C do 47 °C. V režime Decode Heavy disk pracoval v najteplejšom rozsahu, od 47 °C do 54 °C, kde dosiahol vrchol, no zostal výrazne pod úrovňou väčšiny ostatných systémov Spark.

Teplota sieťovej karty

Počas fázy Equal sa teplota sieťovej karty pohybovala od 39 °C do 52 °C, čo ukazuje stabilný nárast, čo naznačuje mierne tepelné nahromadenie, keďže aktivita siete sa na začiatku behu zvyšuje.

V režime Prefill Heavy sa teplota sieťovej karty zvýšila v rozmedzí od 48 °C do 64 °C, pretože táto fáza vyvíja oveľa väčší trvalý tlak na sieťový subsystém. Počas Decode Heavy sa teplota sieťovej karty pohybovala v najteplejšom rozsahu, od 52 °C do 68 °C, kde dosiahla vrchol. Napriek tomu zostalo tepelné správanie počas celého testu stabilné.

Spotreba energie grafického procesora

Počas fázy Equal sa spotreba energie grafického procesora pohybovala od 2.86 W do niečo vyše 40 W, čím sa HP ZGX Nano G1n umiestnil niekde uprostred rebríčka.

V režime Prefill Heavy začal výkon grafického procesora na približne 37 W, klesol na 35 W a prudko stúpol až na 69 W, čo z neho robí energeticky najnáročnejšiu fázu behu.

Počas režimu Decode Heavy sa spotreba energie grafického procesora ustálila v nižšom, stabilnejšom rozsahu 35 W až 46 W, čo naznačuje, že dopyt po energii sa znížil, keďže sa pracovné zaťaženie posunulo od agresívnejšieho burstového správania.

Tepelný súhrn

Pri zaťažení pracuje ZGX Nano G1n v prísne kontrolovanom tepelnom rozsahu. Maximálna spotreba energie systému je približne 228 W a odvod tepla je približne 780 BTU/hod. Naproti tomu spotreba energie v nečinnom stave zostáva nízka, približne 36 – 38 W, čo naznačuje efektívne škálovanie výkonu, keď systém nie je aktívny. Riešenie núteného chladenia vzduchom udržiava stabilnú prevádzku v rámci rozsahu špecifikovaného spoločnosťou HP od 5 °C do 30 °C.

Testovanie výkonu HP ZGX Nano s umelou inteligenciou

Na vyhodnotenie HP ZGX Nano s GB10 sme testovali jednotky Spark pomocou benchmarku vLLM Online Serving, najrozšírenejšieho vysokokapacitného inferenčného a obslužného enginu pre rozsiahle jazykové modely. Benchmark online servingu vLLM simuluje reálne produkčné pracovné zaťaženie odosielaním súbežných požiadaviek na bežiaci server vLLM a meraním kľúčových metrík vrátane celkovej priepustnosti tokenov (tokeny za sekundu), času do prvého tokenu a času na výstupný token pri rôznych podmienkach zaťaženia.

Naše testovanie zahŕňalo celý rad modelov vrátane hustých architektúr a mikroškálovacích dátových typov a hodnotilo výkon v troch scenároch pracovnej záťaže: Rovnaké ISL/OSL, Vysoké predbežné dopĺňanie a Vysoké dekódovanie. Tieto scenáre predstavujú odlišné vzorce poskytovania služieb v reálnom svete, od vyváženého vstupného a výstupného zaťaženia až po výpočtovo náročné spracovanie výziev a generovanie tokenov viazaných na šírku pásma pamäte.

Okrem HP ZGX Nano s GB10 sme porovnali aj ďalšie OEM systémy od spoločností Dell, ASUS , Acer a Gigabyte . To nám umožnilo zaradiť výsledky HP do širšej konkurencie a pochopiť, kde vedie, drží krok s konkurenciou alebo zaostáva v rámci rôznych modelov a pracovných zaťažení.

GPT-OSS-120B

S GPT-OSS-120B dosahuje HP ZGX Nano G1n najlepšie výsledky v režime Prefill Heavy, kde priepustnosť stúpa z 304.5 tokov/s v dávke 1 na 2773.3 tokov/s v dávke 64. Režim Equal ISL/OSL sa tiež stabilne škáluje a zvyšuje sa zo 69.6 tokov/s na 722.9 tokov/s v celom rozsahu. Režim Decode Heavy je v porovnaní s ním oveľa ľahší, začína na 183.7 tokov/s v dávke 1, mierne klesá v dávke 2 a potom sa v dávke 64 zotavuje na 262.9 tokov/s.

 

GPT-OSS-20B

Pri modeli GPT-OSS-20B dosahuje HP najvyššie čísla model Prefill Heavy, ale škálovanie je menej lineárne ako pri ostatných modeloch. Prefill začína na 1626.6 toko/s v dávke 1, stúpa na 1980.3 toko/s v dávke 2, prudko klesá na 1120.3 toko/s v dávke 4 a potom sa do dávky 64 vracia na 4345.1 toko/s. Rovné hodnoty ISL/OSL sa škálujú plynulejšie z 92.6 toko/s na 1550.6 toko/s a Decode Heavy stúpa z 94.4 toko/s na 670.4 toko/s.

Kódovač Qwen3 30B A3B FP8

V prípade Qwen3 Coder 30B A3B (FP8) HP opäť vyniká v kategórii Prefill Heavy, pričom priepustnosť sa zvýšila zo 432.2 tokov/s pri veľkosti dávky 1 na 2 069,4 tokov/s pri veľkosti dávky 64. Pomer ISL/OSL v kategórii Equal sa zvýšil zo 104.2 tokov/s na 1 274,4 tokov/s, zatiaľ čo v kategórii Decode Heavy sa zlepšil z 55.9 tokov/s na 480.4 tokov/s. Toto patrí medzi lepšie celkové výsledky HP.

Základňa Qwen3 Coder 30B A3B

Na Qwen3 Coder 30B A3B (základná fáza) dosahuje HP stabilný rast vo všetkých troch fázach, hoci top line zostáva vo fáze Prefill Heavy. Táto fáza sa zvyšuje z 258.6 tok/s v dávke 1 na 1629.4 tok/s v dávke 64. Equal ISL/OSL sa škáluje zo 60.3 tok/s na 690.3 tok/s, zatiaľ čo Decode Heavy stúpa z 33.0 tok/s na 331.8 tok/s.

Lama 3.1 8B Inštruktáž FP4

S Llama-3.1-8B-Instruct (FP4) vykazuje HP jasný nárast priepustnosti. Fáza Equal ISL/OSL stúpa zo 76.4 tok/s v dávke 1 na 2774.1 tok/s v dávke 64, čo z nej robí najsilnejšiu z troch fáz HP v tomto modeli. Fáza Prefill Heavy sa tiež agresívne škáluje, pričom stúpa z 316.8 tok/s na 2397.1 tok/s v dávke 32, predtým ako klesne na 2270.4 tok/s v dávke 64. Fáza Decode Heavy sa zvyšuje zo 40.7 tok/s na 547.6 tok/s v celom rozsahu.

Inštrukcia Llama 3.1 8B (základná)

Na Llama-3.1-8B-Instruct (Base) sa HP ZGX Nano G1n čisto škáluje vo všetkých troch fázach. V režimoch Equal ISL/OSL sa priepustnosť zvyšuje z 28.2 tokov/s v dávke 1 na 1298.6 tokov/s v dávke 64. V režime Prefill Heavy sa HP zvyšuje zo 123.2 tokov/s na 1759.5 tokov/s, pričom nárasty zostávajú silné počas celého rozsahu, než sa mierne znížia na hornej hranici. Decode Heavy je v porovnaní s tým oveľa ľahší, pričom sa zvyšuje z 15.5 tokov/s v dávke 1 na 366.4 tokov/s v dávke 64.

Priame úložisko GPU

Ako funguje priame úložisko GPU

Tradične, keď grafická karta (GPU) spracováva dáta z disku NVMe, dáta musia najprv prejsť cez procesor (CPU) a systémovú pamäť, než sa dostanú k grafickej karte (GPU). Tento proces vytvára úzke miesta, pretože procesor funguje ako sprostredkovateľ, čím zvyšuje latenciu a spotrebúva systémové zdroje. Priame úložisko (GPU Direct Storage) eliminuje túto neefektívnosť tým, že umožňuje grafickej karte pristupovať k dátam priamo z úložného zariadenia cez zbernicu PCIe. Táto priama cesta znižuje réžiu pohybu dát, čo umožňuje rýchlejšie a efektívnejšie prenosy.

Pracovné zaťaženie umelej inteligencie, najmä tie, ktoré zahŕňajú hlboké učenie, sú vysoko dátovo náročné. Trénovanie veľkých neurónových sietí vyžaduje spracovanie terabajtov dát a akékoľvek oneskorenie v prenose dát vedie k nedostatočnému využitiu grafických procesorov (GPU) a dlhším časom trénovania. Preto GPU Direct Storage rieši túto výzvu tým, že dodáva dáta do GPU čo najrýchlejšie, minimalizuje čas nečinnosti a maximalizuje výpočtovú efektivitu.

Okrem toho GDS prospieva pracovným záťažiam, ktoré streamujú veľké súbory údajov, ako je spracovanie videa, spracovanie prirodzeného jazyka a inferencia v reálnom čase. Znížením závislosti CPU GDS zrýchľuje pohyb údajov a uvoľňuje zdroje CPU pre iné úlohy, čím ďalej zvyšuje celkový výkon systému.

Priepustnosť čítania GDSIO 16K

Pri pohľade na priepustnosť čítania GDSIO 16K začína HP ZGX Nano G1n na 0.70 GiB/s s 1 vláknom, čo ho radí medzi silnejšie systémy s nízkym počtom vlákien v skupine. Pri 2 vláknach klesá na 0.41 GiB/s a potom stúpa späť na 0.86 GiB/s pri 4 vláknach, čo vykazuje rovnakú malú nekonzistentnosť na začiatku vlákien, aká sa pozorovala v niekoľkých z týchto systémov. Odtiaľ sa škálovanie stáva oveľa konzistentnejším. Priepustnosť stúpa na 1.6 GiB/s pri 8 vláknach a 2.2 GiB/s pri 16 vláknach, potom pokračuje nahor na 3.0 GiB/s pri 32 vláknach. Pri vyšších hĺbkach frontu HP neustále získava na sile, dosahuje 3.9 GiB/s pri 64 vláknach a vrcholí na 4.6 GiB/s pri 128 vláknach.

Priemerná latencia čítania GDSIO 16K

Pri pohľade na priemernú latenciu čítania GDSIO (16K) začína HP ZGX Nano G1n na približne 0.02 ms s 1 vláknom a zostáva nízka počas 2 vlákn (0.08 ms) a 4 vlákn (0.07 ms). Latencia mierne stúpa pri 8 vláknach (0.08 ms) a 16 vláknach (0.11 ms), potom sa výraznejšie zvyšuje pri 32 vláknach (0.16 ms) a 64 vláknach (0.25 ms). Pri 128 vláknach dosahuje latencia 0.42 ms, čo je stále o niečo menej ako najvyššie výsledky v skupine, pričom sleduje stabilné škálovanie priepustnosti systému počas celého testu.

Priepustnosť zápisu GDSIO 16K

Pri pohľade na priepustnosť zápisu GDSIO 16K začína HP ZGX Nano G1n na 0.84 GiB/s v 1 vlákne, stúpa na 1.4 GiB/s v 2 vláknach a dosahuje 2.2 GiB/s v 4 vláknach. Výkon sa naďalej výrazne zvyšuje pri 8 vláknach (3.0 GiB/s) a dosahuje 3.3 GiB/s pri 16 vláknach, kde sa efektívne ustáli. Odtiaľ zostáva priepustnosť takmer nemenná na 3.3 GiB/s pri 32 a 64 vláknach, potom mierne klesá na 3.2 GiB/s pri 128 vláknach, čo naznačuje, že platforma dosiahne svoj strop zápisu relatívne skoro a túto úroveň si konzistentne udrží počas zvyšku testovania.

Priemerná latencia zápisu GDSIO 16K

Pri pohľade na priemernú latenciu zápisu GDSIO (16K) začína HP ZGX Nano G1n na približne 0.02 ms s 1 vláknom a zostáva veľmi nízka počas 2 vlákna (0.02 ms) a 4 vlákna (0.03 ms). Latencia mierne stúpa pri 8 vláknach (0.04 ms) a 16 vláknach (0.07 ms), potom prudko stúpa pri 32 vláknach (0.15 ms) a 64 vláknach (0.30 ms). Pri 128 vláknach dosahuje latencia 0.61 ms, čo je celkovo stále pomerne dobre kontrolované, hoci rastúci trend zodpovedá bodu, kde sa priepustnosť zápisu už pri vyššom počte vlákien vyrovnala.

Priepustnosť čítania GDSIO 1M

Pri pohľade na priepustnosť čítania GDSIO 1M, HP ZGX Nano G1n začína na 3.2 GiB/s v 1 vlákne a stúpa na 4.1 GiB/s v 2 vláknach. Výkon naďalej stúpa pri 4 vláknach (5.2 GiB/s) a 8 vláknach (5.5 GiB/s), po ktorých platforma efektívne dosiahne svoj strop. Priepustnosť sa potom v podstate drží na úrovni 5.5 GiB/s pre 16, 32 a 64 vlákna, než mierne klesne na 5.3 GiB/s pri 128 vláknach, čo naznačuje silný skorý nárast, po ktorom nasleduje veľmi stabilná plató s vysokým počtom vlákien.

Priemerná latencia čítania GDSIO 1M

Pri pohľade na priemernú latenciu čítania GDSIO (1M) začína HP ZGX Nano G1n na približne 0.31 ms s 1 vláknom a zostáva relatívne nízka pri 2 vláknach (0.47 ms) a 4 vláknach (0.76 ms). Latencia sa zvyšuje so súbežnosťou, pričom stúpa na 1.4 ms pri 8 vláknach, 2.9 ms pri 16 vláknach a 5.9 ms pri 32 vláknach. Trend pokračuje pri 64 vláknach (12.8 ms) a dosahuje 27.2 ms pri 128 vláknach, čím kopíruje vyššiu hĺbku frontu, aj keď priepustnosť sa už v priebehu testovania sploštila oveľa skôr.

Priepustnosť zápisu GDSIO 1M

Pri pohľade na priepustnosť zápisu GDSIO 1M začína HP ZGX Nano G1n na 3.1 GiB/s s 1 vláknom a stúpa na 3.5 GiB/s s 2 vláknami, pričom túto úroveň si potom udržiava pri 4, 8 a 16 vláknach. Výkon mierne klesá na 3.3 GiB/s pri 32 vláknach, než sa vráti na 3.5 GiB/s pri 64 vláknach. Pri 128 vláknach sa priepustnosť zvyšuje na 3.7 GiB/s, čo naznačuje prevažne plochý profil zápisu v celom rozsahu s iba malými odchýlkami a malým nárastom pri najvyššom počte vlákien.

Priemerná latencia zápisu GDSIO 1M

Pri pohľade na priemernú latenciu zápisu GDSIO (1M) začína HP ZGX Nano G1n na približne 0.31 ms s 1 vláknom, stúpa na 0.57 ms s 2 vláknami a 1.1 ms so 4 vláknami. Latencia sa naďalej zvyšuje so zvyšujúcou sa súbežnosťou a dosahuje 2.2 ms s 8 vláknami, 4.4 ms so 16 vláknami a 9.4 ms s 32 vláknami. Rastúci trend pokračuje pri 64 vláknach (17.7 ms) a dosahuje 37.3 ms pri 128 vláknach, čo odráža neustále rastúci tlak v rade, aj keď samotná priepustnosť zápisu zostáva počas väčšiny cyklu pomerne stabilná.

Záver

HP ZGX Nano G1n nesie očakávaný výkonnostný profil platformy DGX Spark a pridáva inžinierske možnosti, ktoré ho odlišujú od ostatných systémov Spark na trhu. V našich testoch dosiahli teploty CPU vrchol 77.3 °C a teploty GPU 69 °C, pričom obe teploty boli na chladnejšej strane jednotiek Spark, ktoré sme testovali. Výkon vLLM bol najsilnejší v úlohách Prefill Heavy vo všetkých šiestich testovaných modeloch, pričom škálovanie sa udržalo aj pri vyšších veľkostiach dávok. Priepustnosť čítania GPU Direct Storage dosiahla 4.6 GiB/s pri veľkosti blokov 16K a 5.5 GiB/s pri veľkosti blokov 1M a priepustnosť zápisu sa spočiatku ustálila, ale túto úroveň si konzistentne udržala v celom zostávajúcom počte vlákien.

Stohovaný HP ZGX Nano G1n

ZGX Nano G1n sa od ostatných modelov Spark odlišuje prácou spoločnosti HP na referenčnom dizajne. Podiel recyklovaných materiálov, rozdelenie hornej a spodnej časti šasi, ktoré zlepšuje vnútornú prevádzkyschopnosť, a akustický obal, ktorý sa pri zaťažení drží na úrovni 27.6 dBA, to všetko odráža zámerné inžinierske rozhodnutia nad rámec požiadaviek samotnej platformy GB10. Bezpečnostný balík sa riadi rovnakým vzorom. TPM 2.0 v režime FIPS 140-2, Common Criteria EAL4+ a úložisko SED OPAL posúvajú toto zariadenie za hranice vývojárskeho zariadenia smerom k systému, ktorý dokáže schváliť obstarávanie v regulovaných prostrediach.

Rovnako ako ostatné Sparky, ani toto nie je univerzálna pracovná stanica a HP ju ako takú neprezentuje. Pre vývojárov, malé tímy a organizácie, ktoré potrebujú lokálne výpočty s využitím umelej inteligencie s dôveryhodnými dôkazmi o udržateľnosti a bezpečnosti, je ZGX Nano G1n jasnou odlišnou možnosťou v rámci radu Spark. Pre firmy, kde sa tieto kritériá neuplatňujú, je základná platforma konštantná vo všetkých piatich OEM systémoch, ktoré sme recenzovali, a rozhodnutie závisí od ekosystému, podpory a ceny.

Stránka produktu – HP ZGX Nano G1n AI

Rebríček: Stanica HP ZGX Nano G1n s umelou inteligenciou je súčasťou testovacieho poľa v našom rebríčku Najlepšie stolové počítače pre lokálnu umelú inteligenciu.

Zapojte sa do StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Conor Houser