Keď sme v októbri prvýkrát vyskúšali NVIDIA DGX Spark, bolo jasné, že NVIDIA to s redukciou umelej inteligencie na úrovni dátových centier na niečo, čo by sa dalo zmestiť na stôl, myslí vážne. Naša prvá vzorka Founders Edition nám poskytla prvý pohľad na to, čo dokáže platforma GB10 založená na Grace Blackwell v kompaktnom a samostatnom zariadení.
Odvtedy sa ekosystém rozvinul vďaka OEM dizajnom. Nedávno sme do laboratória dostali na testovanie dva počítače Dell Pro Max s procesorom GB10. Umiestnili sme ich vedľa našich ďalších systémov Spark, aby sme vyhodnotili konzistentnosť výkonu, teplotné rozdiely a celkové rozdiely v dizajne medzi implementáciami od rôznych dodávateľov.
Zatiaľ čo pôvodný Spark sa zameriaval na referenčný hardvér, Dell prináša do platformy svoj vlastný šmrnc. Pro Max s GB10 sa vyznačuje dizajnom šasi Dell L6 s prepracovanejším priemyselným vzhľadom a estetikou vhodnou pre stolné počítače, čo mu dodáva výraznú identitu a zároveň si zachováva rovnaký základ GB10. Pôsobí menej ako vývojárska sada a skôr ako hotový produkt určený pre profesionálne pracovisko.
V čase písania tohto článku je konfigurácia s kapacitou 1 TB uvedená v obchode spoločnosti Dell za cenu 4 061,34 USD , čo ju prezentuje ako prémiové stolové zariadenie s umelou inteligenciou. V tejto recenzii sa budeme zaoberať porovnaním platformy GB10 od spoločnosti Dell s ostatnými testovanými systémami Spark, pričom sa zameriame na reálny výkon a tepelné správanie pri trvalom zaťažení.
Špecifikácie Dell Pro Max s GB10
V tabuľke nižšie sú uvedené dostupné konfigurácie úložiska a možnosti zostavenia pre Dell Pro Max s 10 GB.
| špecifikácia | Dell Pro Max s GB10 |
|---|---|
| Rozmery a hmotnosť | |
| výška | 2 v |
| Šírka | 5.9 v |
| Hĺbka | 5.9 v |
| Váha | 2.69 lb |
| procesor | |
| Typ procesora | NVIDIA GB10 (superčip Grace Blackwell) (20 jadier) |
| Integrovaná grafická | Grafický procesor NVIDIA Blackwell (integrovaný) |
| Memory Masážne stoly | |
| Typ pamäte | LPDDR5x (Unified System Memory) |
| Konfigurácia pamäte | 128 GB LPDDR5x, unifikovaná systémová pamäť |
| Šírka pamäte | 273 GB/s (8533 MT/s) |
| operačný systém | |
| Podporovaný operačný systém | Operačný systém NVIDIA DGX |
| Externé porty a sloty | |
| Sieťové porty | Jeden RJ45 (10GbE) Sieťová karta NVIDIA ConnectX-7 (200G × 2 QSFP) |
| USB porty | Tri porty USB 3.2 Gen 2×2 typu C (20 Gb/s) Jeden port USB 3.2 Gen 2×2 typu C s PD vstupom |
| Video port(y) | Jeden HDMI 2.1a |
| Port napájacieho adaptéra | USB typu C (PD IN) |
| Bezpečnostný slot | nikto |
| Bezdrôtový | |
| WiFi | Wi-Fi 7 (AW-EM637, 2×2) |
| bluetooth | bluetooth 5.4 |
| Uskladnenie | |
| možnosti skladovania | M.2 Gen4 NVMe: 1 TB / 2 TB / 4 TB (Opal 2.0 sa líši) |
| Nabíjačka | |
| Typ | 280 W externý adaptér (USB typu C) |
Konštrukcia a dizajn Dell Pro Max s GB10
Celkovo spoločnosť Dell zvolila odlišný dizajnový prístup od svojich stolových počítačov série Pro a pridala predný rámik s včeliu plástvu, ktorý jej dodáva estetiku podnikového servera napriek miniatúrnemu 1-litrovému šasi. Celková konštrukcia je pôsobivá. Kovové puzdro v broncovo šedej farbe mu dodáva v ruke pevný a dobre spracovaný pocit, vďaka čomu je prenosný a odolný na cestách, či už na preplnenom stole alebo v laboratóriu. Dell tiež do svojho dizajnu GB10 pridáva LED indikátor napájania, ktorý sme doteraz videli iba na ňom a v jednej ďalšej verzii na trhu.
GB10 meria vpredu aj vzadu 1.80 palca na výšku a maximálna výška je 2.0 palce. Kompaktný štvorcový pôdorys 5.90 palca zaberá minimálny priestor a váži od 2.69 do 2.96 libier v závislosti od konfigurácie.
Na zadnej strane zariadenia nájdete jeden ethernetový port RJ45 10GbE, dva porty QSFP 200 Gbps (Realtek RTL8127-CG; NVIDIA ConnectX-7), tri porty USB 3.2 Gen 2×2 (20 Gbps) typu C s alternatívnym režimom DisplayPort 1.4a a napájaním, jeden port HDMI 2.1a a spoločnosť Dell sa odlišuje od Founders Edition a iných OEM dizajnov tým, že obsahuje väčší 280W napájací adaptér USB typu C bežne používaný v jej portfóliu prenosných pracovných staníc, ktorý poskytuje dostatočný výkon pre trvalé pracovné zaťaženie.
Vnútri GB10 sa nachádza bezdrôtový modul AzureWave AW-EM637, ktorý poskytuje WiFi pripojenie pre flexibilné scenáre nasadenia. Úložisko je zabezpečené jedným slotom M.2 2230/2242 s podporou PCIe Gen 4 SSD diskov pre rýchle spúšťanie a rýchly prístup k dátam. Hlavnou výhodou je pamäť so 128 GB RAM LPDDR5X s rýchlosťou 8533 MT/s, čo poskytuje vysokú šírku pásma potrebnú pre náročné úlohy umelej inteligencie.
Jadrom je čip NVIDIA GB10, špeciálne navrhnutý pre inferenciu umelej inteligencie a edge computing. Systém sa dodáva s predinštalovaným operačným systémom NVIDIA DGX, čo je optimalizovaná distribúcia Linuxu od spoločnosti NVIDIA, ktorá obsahuje predkonfigurované ovládače, knižnice CUDA a populárne frameworky umelej inteligencie, ako sú TensorFlow a PyTorch. To umožňuje používateľom okamžite nasadiť aplikácie umelej inteligencie bez rozsiahleho nastavovania systému.
Testovanie teploty Dell Pro Max s GB10
Aby sme otestovali teplotu komponentov v počítači Dell Pro Max s procesorom GB10, porovnali sme ich s komponentmi Founders Edition a OEM, ako sú ASUS, Acer a Gigabyte. Podrobnejšie sme sa tejto téme venovali v našom článku o teplotnom testovaní Spark.
V rámci celého zásobníka sme monitorovali komponenty počas daného časového rámca s tromi fázami pracovného zaťaženia, pričom sme zvyšovali využitie približne v priebehu hodiny. To nám umožnilo vidieť zariadenie pri dlhodobom používaní a rôznych fázach pracovného zaťaženia. Monitorovali sme teploty CPU, GPU, siete, NVMe a celkovú spotrebu energie.
Teplota CPU
Počas tepelných testov CPU sa Dell Pro Max s GB10 počas fáz s vysokým zaťažením umiestnil v hornej časti skupiny. V režime Prefill Heavy zaznamenal Dell maximálnu teplotu približne 87.7 °C okolo 1500. sekundy, čo ho zaradilo medzi najteplejšie systémy počas tohto prechodu pracovného zaťaženia.
Vo fáze Equal ISL/OSL spoločnosť Dell tesne sledovala systémy vyššej strednej triedy a postupne sa teploty pohybovali v rozmedzí 62 – 75 °C spolu s ASUS a Founders Edition. Gigabyte počas tejto fázy pracoval citeľne chladnejšie, zatiaľ čo Acer si udržal najnižšie celkové teploty procesora.
V režime Prefill Heavy teplotná krivka systému Dell stúpala agresívnejšie ako u väčšiny ostatných, pričom pred prechodom do režimu Decode Heavy dosiahla vrchol okolo 88 °C. Po dosiahnutí trvalého zaťaženia Decode sa systém stabilizoval na 80 – 83 °C. Hoci sa tým systém Dell zaradil do teplejšej časti skupiny, pri dlhodobom zaťažení preukázal konzistentnú tepelnú reguláciu, a nie neustále zvyšovanie teploty.
Acer zostal počas celého testovania celkovo najchladnejšou implementáciou, pričom sa počas dlhodobých fáz držal v rozmedzí okolo 60 °C. Gigabyte si tiež udržal miernejší tepelný rozsah v porovnaní s Dellom.
Celkovo Dell Pro Max s GB10 vykázal jednu z najvyšších maximálnych teplôt procesora v skupine počas burstového zaťaženia, ale po normalizácii zaťaženia sa ustálil na konkurencieschopných teplotách pri trvalom zaťažení.
Teplota grafického procesora
Teploty grafického procesora sa vyvíjali podobne. Počas režimu Prefill Heavy dosiahla spoločnosť Dell maximálnu teplotu približne 80 °C, čo ju zaradilo do horného rozsahu teploty zásobníka počas podmienok burst.
V režime Equal ISL/OSL sa Dell rýchlo dostal do rozsahu stredných 60 °C, čím tesne nasledoval ASUS a Founders Edition. Spoločnosti Gigabyte a Acer pracovali počas tejto fázy pri nižších teplotách.
Po prechode do režimu Decode Heavy sa Dell stabilizoval medzi 68 – 71 °C. Hoci je stále teplejší ako Acer a Gigabyte, rozdiel sa v porovnaní s fázou burst zúžil. Founders Edition a ASUS sa počas trvalého dekódovania pohybovali v podobnom tepelnom pásme ako Dell.
Celkovo systém Dell vykazoval vyššie teploty grafického procesora pri vysokých teplotách, ale pri trvalom zaťažení preukázal stabilné a predvídateľné správanie.
Teplota NVMe
Teploty úložiska boli oblasťou, v ktorej sa konfigurácia Dell najviac líšila od bežných testov. Počas testu Prefill Heavy dosiahol disk NVMe maximum približne 63 – 64 °C, čo ho zaradilo na hornú hranicu porovnávacej skupiny.
V teste Equal ISL/OSL začala spoločnosť Dell v rozmedzí nízkych až stredných 40 °C a stabilne stúpala, pričom počas celej fázy sa mierne oteplovala ako väčšina konkurentov. Počas trvalého zaťaženia Decode sa disk stabilizoval medzi 59 – 61 °C.
Hoci tieto teploty zostávajú v rámci štandardných prevádzkových špecifikácií NVMe, naznačujú relatívne tesnejšie prúdenie vzduchu alebo umiestnenie úložiska v porovnaní s Acerom a Gigabyte, ktoré si počas rovnakých fáz udržiavali nižšie trvalé teploty NVMe.
Teplota sieťovej karty
Teploty sieťovej karty vykazovali podobný, ale menej výrazný priebeh. Teploty Dell dosiahli vrchol v spodnom pásme 70 °C počas režimu Prefill Heavy a ustálili sa v hornom pásme 60 °C počas režimu Decode Heavy.
Počas testovania sa Dell nachádzal v teplejšej polovici skupiny, ale nepreukázal extrémne odchýlky od ASUSu alebo Founders Edition. Acer si opäť udržal celkovo najnižšie teploty.
Spotreba energie grafického procesora
Výkon grafického procesora sa viac zhodoval so stredom skupiny. Spoločnosť Dell dosiahla vrchol približne 70 W počas fázy Prefill Heavy, okolo 1 400 – 1 600 sekúnd. Toto číslo sa krátko priblížilo k 74 W stropu Founders Edition, ale celkovo zostalo o niečo nižšie.
Počas testovania Equal ISL/OSL spoločnosť Dell zvýšila spotrebu z približne 27 W na strednú hranicu 40 W, čo bolo v súlade s ostatnými systémami. V teste Prefill Heavy sa spotreba krátko dotkla 70 W, potom sa opäť ustálila. V teste Decode Heavy sa Dell stabilizoval medzi 40 – 45 W, čím sa dostal mierne nad Acer a ASUS, ale pod Founders Edition, ktorá si udržala najvyššiu trvalú spotrebu energie grafickej karty počas zvyšku benchmarku.
Z hľadiska spotreby energie sa nezdá, že by Dell agresívne preťažoval grafický procesor. Jeho vyššie teploty v porovnaní s niektorými konkurentmi pravdepodobne pramenia skôr z prúdenia vzduchu v šasi a vnútorných rozložení než z nadmerného rozdelenia energie.
Tepelný súhrn
V rámci monitorovania CPU, GPU, NVMe a sieťovej karty sa Dell Pro Max s GB10 vo všeobecnosti pohyboval na teplejšom konci skupiny počas náročných predfillových záťaží. Avšak za trvalých podmienok dekódovania sa teploty stabilizovali v konkurencieschopnom rozsahu bez nekontrolovateľného nárastu.
Acer si konzistentne udržiaval celkovo najnižší tepelný profil, pričom Gigabyte tiež pracoval s nižšími teplotami v porovnaní s Dellom. Founders Edition a ASUS sa zvyčajne viac podobali tepelnému správaniu Dellu.
Údaje v konečnom dôsledku naznačujú, že implementácia spoločnosti Dell uprednostňuje kompaktný dizajn a balenie v štýle pracovnej stanice, pričom tepelné správanie zostáva stabilné pri zaťažení, ale vykazuje menší priestor pre hlavu počas agresívnych zmien pracovnej záťaže v porovnaní s najchladnejším šasi v zostave.
Testovanie výkonu Dell Pro Max GB10
Na vyhodnotenie Dell Pro Max s GB10 sme testovali jednotky Spark pomocou benchmarku vLLM Online Serving, najrozšírenejšieho vysokokapacitného inferenčného a obslužného enginu pre rozsiahle jazykové modely. Benchmark vLLM online Serving simuluje reálne produkčné pracovné zaťaženie odosielaním súbežných požiadaviek na bežiaci server vLLM a meraním kľúčových metrík vrátane celkovej priepustnosti tokenov (tokeny za sekundu), času do prvého tokenu a času na výstupný token pri rôznych podmienkach zaťaženia.
Naše testovanie zahŕňalo celý rad modelov vrátane hustých architektúr a mikroškálovacích dátových typov a hodnotilo výkon v troch scenároch pracovnej záťaže: Rovnaké ISL/OSL, Vysoké predbežné dopĺňanie a Vysoké dekódovanie. Tieto scenáre predstavujú odlišné vzorce poskytovania služieb v reálnom svete, od vyváženého vstupného a výstupného zaťaženia až po výpočtovo náročné spracovanie výziev a generovanie tokenov viazaných na šírku pásma pamäte.
Okrem Dell Pro Max s GB10 sme ako referenčný bod porovnali aj NVIDIA Founders Edition Spark spolu s OEM systémami od spoločností ASUS, Acer a Gigabyte. To nám umožnilo porovnať výsledky spoločnosti Dell s širšou konkurenciou a pochopiť, kde vedie, kde sa drží v popredí alebo kde zaostáva v rámci rôznych modelov a typov pracovných záťaží.
GPT-OSS-120B
V režime Equal ISL/OSL sa Dell škáluje od 68.57 do 670.83 tokov/s, pričom sa v celom rozsahu dávok nachádza v strede poľa. Režim Prefill Heavy začína na hodnote 298.60 tokov/s a škáluje sa na 2 707,15 tokov/s pri veľkosti dávky 64, čo radí Dell na najvyššiu úroveň pri väčších veľkostiach dávok napriek skromnejšiemu východiskovému bodu. Režim Decode Heavy sa pohybuje od 37.74 do 273.54 tokov/s, pričom škálovanie zostáva v porovnaní s ostatnými typmi pracovných záťaží obmedzené.
GPT-OSS-20B
Priepustnosť Equal ISL/OSL sa pohybuje od 90.76 do 1 585,28 tokov/s s konzistentným rastom v rámci všetkých veľkostí dávok. Priepustnosť Prefill Heavy dosahuje 4 453,55 tokov/s pri veľkosti dávky 64, čo predstavuje najvyššiu absolútnu priepustnosť spoločnosti Dell v rámci testovaných modelov. Priepustnosť Decode Heavy sa pohybuje od 49.88 do 687.17 tokov/s s konzistentným rastom v celom spektre dávok.
Kódovač Qwen3 30B A3B FB8
Hodnoty Equal ISL/OSL sa pohybujú od 103.76 do 1 258,08 tok/s, pričom dodávatelia sú úzko zoskupení podľa veľkosti dávok. Hodnoty Prefill Heavy sa pri veľkosti dávky 64 zvýšia na 2 018,58 tok/s, s minimálnym oddelením medzi systémami pri vyšších veľkostiach dávok. Hodnoty Decode Heavy sa pohybujú od 54.69 do 493.82 tok/s, pričom si medzi dodávateľmi zachovávajú podobné zoskupenie.
Kódovač Qwen3 30B A3B Base
Hodnota Equal ISL/OSL sa pohybuje od 62.74 do 748.04 tok/s v rôznych veľkostiach dávok. Hodnota Prefill Heavy sa pohybuje od 266.80 do 1 693,68 tok/s a zostáva blízko horného pásma v rámci stredných a vyšších veľkostí dávok. Hodnota Decode Heavy sa pohybuje od 34.11 do 365.68 tok/s v celom spektre pracovného zaťaženia.
Lama 3.1 8B Inštruktáž FP4
Priepustnosť pri rovnakých ISL/OSL sa pohybuje od 76.03 do 2 776,30 tok/s v rámci rôznych veľkostí dávok. Priepustnosť pri väčších veľkostiach dávok sa umiestňuje do stredného pásma, pričom sa zvyšuje spolu so zvyškom zásobníka. Priepustnosť priepustnosti priepustnosti priepustnosti sa pohybuje od 40.87 do 575.50 tok/s a progresívne sa škáluje s veľkosťou dávky.
Lama 3.1 8B Inštruktáž FP8
Hodnoty Equal ISL/OSL sa pohybujú od 24.50 do 1 079,44 tok/s, pričom dodávatelia sú v celom rozsahu šarží úzko zosúladení. Hodnoty Prefill Heavy dosahujú 245.35 tok/s pri veľkosti šarže 64, pričom oddelenie sa medzi dodávateľmi zvyšuje pri vyšších veľkostiach šarží. Hodnoty Decode Heavy sa pohybujú od 23.60 do 464.12 tok/s, pričom škálovanie je v celej skupine konzistentné.
Priame úložisko GPU
Jedným z testov, ktoré sme vykonali na Spark, bol test MagnumIO GPU Direct Storage (GDS). GDS je funkcia vyvinutá spoločnosťou NVIDIA, ktorá umožňuje grafickým procesorom obísť CPU pri prístupe k údajom uloženým na diskoch NVMe alebo iných vysokorýchlostných úložných zariadeniach. Namiesto smerovania údajov cez CPU a systémovú pamäť umožňuje GDS priamu komunikáciu medzi grafickým procesorom a úložným zariadením, čím sa výrazne znižuje latencia a zlepšuje priepustnosť dát.
Spoločnosť Dell používa v Pro Max GB10 SSD disk Phison ESL04TBTLCZ 4TB Gen4. Hoci sa jeho kapacita zhoduje s kapacitou iných 4TB modelov, ide o model Gen4 s nižšími rýchlosťami čítania a zápisu.
Ako funguje priame úložisko GPU
Tradične, keď grafická karta (GPU) spracováva dáta uložené na disku NVMe, musia dáta najprv prejsť cez procesor (CPU) a systémovú pamäť, než sa dostanú k grafickej karte (GPU). Tento proces spôsobuje úzke miesta, pretože procesor funguje ako sprostredkovateľ, čím zvyšuje latenciu a spotrebúva cenné systémové zdroje. Priame úložisko (GPU Direct Storage) eliminuje túto neefektívnosť tým, že umožňuje grafickej karte pristupovať k dátam priamo z úložného zariadenia cez zbernicu PCIe. Táto priama cesta znižuje réžiu prenosu dát, čo umožňuje rýchlejší a efektívnejší prenos dát.
Pracovné zaťaženie umelej inteligencie, najmä tie, ktoré zahŕňajú hlboké učenie, je vysoko dátovo náročné. Trénovanie veľkých neurónových sietí vyžaduje spracovanie terabajtov dát a akékoľvek oneskorenie v prenose dát môže viesť k nedostatočnému využitiu grafických procesorov (GPU) a dlhším časom trénovania. Priame úložisko GPU rieši túto výzvu tým, že zabezpečuje čo najrýchlejšie doručenie dát do GPU, minimalizuje čas nečinnosti a maximalizuje výpočtovú efektivitu.
Okrem toho je GDS obzvlášť výhodný pre pracovné zaťaženia, ktoré zahŕňajú streamovanie veľkých súborov údajov, ako je spracovanie videa, spracovanie prirodzeného jazyka alebo inferencia v reálnom čase. Znížením závislosti od CPU GDS zrýchľuje pohyb údajov a uvoľňuje zdroje CPU pre iné úlohy, čím ďalej zvyšuje celkový výkon systému.
Priepustnosť čítania GDSIO 16k
Pri pohľade na priepustnosť čítania GDSIO 16K začína Dell na približne 0.50 GiB/s pri 1 vlákne a škáluje sa na 1.34 GiB/s pri 8 vláknach, kde jasne prekonáva ASUS s približne 0.95 GiB/s. Táto výhoda pokračuje pri 16 vláknach, pričom Dell dosahuje 2.26 GiB/s v porovnaní s ASUS s približne 1.58 GiB/s a opäť pri 32 vláknach, kde Dell dosahuje 3.32 GiB/s v porovnaní s ASUS s 2.55 GiB/s.
Aj pri 64 vláknach si Dell udržiava náskok na úrovni 4.35 GiB/s, čím je pred ASUSom s približne 3.68 GiB/s. Až pri 128 vláknach sa Dell vyrovnáva na úrovni okolo 4.30 GiB/s, zatiaľ čo ostatné platformy škálujú vyššie. V celom rozsahu škálovania jadra Dell konzistentne vedie a s jasným náskokom prekonáva systém ASUS.
Priemerná latencia čítania GDSIO 16K
Pri pohľade na priemernú latenciu čítania GDSIO (16K) dosahuje Dell najnižšiu latenciu vo väčšine škálovacej krivky. Začína na približne 0.03 ms pri 1 vlákne, čo sa takmer vyrovná ASUSu, ale rýchlo sa oddeľuje pri 2 vláknach (0.09 ms oproti 0.13 ms) a 4 vláknach (0.112 ms oproti 0.118 ms). Dell si udržiava výhodu pri 8 vláknach (0.092 ms oproti 0.13 ms), 16 vláknach (0.108 ms oproti 0.155 ms) a 32 vláknach (0.148 ms oproti 0.193 ms).
Pri 64 vláknach si Dell udržiava konkurencieschopnosť s približne 0.222 ms, čo je o niečo menej ako ASUS s 0.267 ms. Až pri 128 vláknach latencia prudko stúpa na približne 0.45 ms, čo je takmer rovnaké číslo ako pri ASUSe. Celkovo Dell vykazuje konzistentne nižšiu latenciu na nízkych až stredných úrovniach súbežnosti, kým sa nedosiahne najvyšší počet vlákien.
Priepustnosť zápisu GSDIO 16K
Pri pohľade na priepustnosť zápisu GDSIO (16K) začína Dell silno s približne 0.35 GiB/s pri 1 vlákne a rýchlo sa oddeľuje pri nižšej súbežnosti, dosahujúc približne 0.75 GiB/s pri 2 vláknach a 1.55 GiB/s pri 4 vláknach, čím je v rovnakých bodoch (0.58 a 0.65 GiB/s) jasne pred ASUSom. Dell pokračuje v škálovaní na 2.33 GiB/s pri 8 vláknach a dosahuje vrchol okolo 2.88 – 2.90 GiB/s pri 16 a 32 vláknach, kde vedie skupinu.
Avšak nad 32 vláknami sa Dell ustáli a mierne klesá, pričom sa drží okolo 2.90 GiB/s pri 64 vláknach a klesá na približne 2.75 GiB/s pri 128 vláknach, zatiaľ čo Acer, Gigabyte a Founders Edition prudko zrýchlia nad 5 GiB/s pri 64 vláknach a dosiahnu približne 6.5 GiB/s pri 128 vláknach. Celkovo Dell dominuje v rozsahu nízkych až stredných vlákien, ale nedokáže sa škálovať na vyššie úrovne súbežnosti ako systémy s najvyšším výkonom.
Priemerná latencia zápisu GDSIO 16K
Pri pohľade na priemernú latenciu zápisu GDSIO (16K) dosahuje Dell najnižšiu latenciu takmer v celej škálovacej krivke. Začína približne na 0.045 ms v 1 vlákne a zostáva veľmi nízka na 0.05 ms v 2 vláknach a 0.04 ms v 4 vláknach, čo je výrazne menej ako u ASUSu, ktorý meria približne 0.06 ms, respektíve 0.10 ms. Pri 8 vláknach dosahuje Dell latenciu približne 0.055 ms, v porovnaní s ASUSom s približne 0.20 ms. Rozdiel sa ďalej zväčšuje pri 16 vláknach, kde Dell dosahuje približne 0.085 ms oproti ASUSu s približne 0.35 ms, a pri 32 vláknach zostáva Dell pod kontrolou na približne 0.17 ms, zatiaľ čo ASUS stúpa na takmer 0.68 ms.
Aj pri 64 vláknach si Dell drží približne 0.34 ms, zatiaľ čo ASUS prudko stúpa na približne 1.51 ms. Až pri 128 vláknach Dell prudšie stúpa na približne 0.71 ms, ale zostáva dramaticky nižšie ako pri ASUSe, ktorý prudko prekročí 3.10 ms. Celkovo Dell vykazuje výrazne lepšiu kontrolu latencie zápisu so zvyšujúcou sa súbežnosťou ako ASUS.
Priepustnosť čítania GDSIO 1M
Pri pohľade na priepustnosť čítania GDSIO (1M) začína Dell na približne 2.6 GiB/s v 1 vlákne, škáluje sa na 4.3 GiB/s v 2 vláknach a dosahuje približne 5.6 GiB/s v 4 vláknach. Odtiaľ výkon do značnej miery stagnuje, pričom sa drží okolo 5.6 GiB/s pri 8 vláknach, 5.4 GiB/s pri 16 vláknach, 5.4 GiB/s pri 32 vláknach a 5.5 GiB/s pri 64 vláknach, kým sa nedostane k 5.5 GiB/s pri 128 vláknach.
Zatiaľ čo Dell poskytuje silné skoré škálovanie a stabilný výkon, Acer a Gigabyte naďalej prekračujú 11 GiB/s pri vyššom počte vlákien a Founders Edition sa blíži k 10 GiB/s, čo Dell pevne umiestňuje do strednej triedy pre priepustnosť čítania veľkých blokov.
Priemerná latencia čítania GDSIO 1M
Pri pohľade na priemernú latenciu čítania GDSIO (1M) začína Dell na približne 0.35 ms s 1 vláknom, zvyšuje sa na približne 0.45 ms s 2 vláknami a dosahuje približne 0.70 ms so 4 vláknami. Latencia naďalej kontrolovaným spôsobom rastie cez 8 vlákna (1.50 ms) a 16 vlákna (3.00 ms), potom sa pohybuje na približne 5.90 ms pri 32 vláknach a 12.40 ms pri 64 vláknach, než skončí pri 25.40 ms pri 128 vláknach.
Zatiaľ čo Dell sa škáluje efektívnejšie ako ASUS, ktorý dosahuje takmer 29.60 ms pri 128 vláknach, zostáva pri maximálnej súbežnosti vyšší ako Acer a Gigabyte, ktoré sa pri 128 vláknach blížia k rozsahu 11 ms. Celkovo si Dell udržiava latenciu stredného rozsahu pri čítaní veľkých blokov, čím prekonáva ASUS, ale pri najvyššom počte vlákien zaostáva za platformami s najnižšou latenciou.
Priepustnosť zápisu GDSIO 1M
Pri pohľade na priepustnosť zápisu GDSIO (1M) začína Dell na približne 2.6 GiB/s v 1 vlákne, zvyšuje sa na približne 3.2 GiB/s v 2 vláknach a dosahuje zhruba 3.3 GiB/s v 4 vláknach. Odtiaľ sa výkon splošťuje, drží sa okolo 3.2 – 3.3 GiB/s od 8 do 64 vlákna, predtým ako mierne klesne na približne 3.1 GiB/s pri 128 vláknach.
Hoci Dell poskytuje stabilný a konzistentný výkon zápisu veľkých blokov, nedosahuje taký vysoký výkon pri vyššej súbežnosti ako Acer a Gigabyte, ktoré dosahujú rýchlosť nad 12 GiB/s medzi 8 a 64 vláknami, alebo dokonca Founders Edition, ktorá si v strednom rozsahu udržiava približne 8.7 GiB/s. Celkovo si Dell udržiava stabilný výkon, ale v priepustnosti zápisu 1 milióna vlákna s vysokou súbežnosťou jednoznačne zaostáva za najlepšími systémami.
Priemerná latencia zápisu GDSIO 1M
Pri pohľade na priemernú latenciu zápisu GDSIO (1M) začína Dell na približne 0.6 ms s 1 vláknom, postupne sa zvyšuje na približne 0.8 ms s 2 vláknami a 1.2 ms so 4 vláknami. Latencia naďalej stúpa na približne 2.5 ms pri 8 vláknach, 5.0 ms pri 16 vláknach a 9.5 ms pri 32 vláknach, potom dosiahne približne 19.0 ms pri 64 vláknach a končí blízko 40.0 ms pri 128 vláknach.
Zatiaľ čo Dell dosahuje plynulejšie škálovanie ako ASUS, ktorý dramaticky prekročí 100 ms pri 64 vláknach, stále zaostáva za Acerom a Gigabyte pri vyššej súbežnosti, pričom oba zostávajú bližšie k rozsahu 14 ms pri 128 vláknach. Celkovo si Dell udržiava kontrolovanú, ale strednú úroveň latencie zápisu veľkých blokov s rastúcim počtom vlákien.
Záver
Dell Pro Max s GB10 obsahuje štandardizovanú platformu NVIDIA GB10 Spark do šasi Dell Pro Max, pričom si zachováva rovnaký základný výpočtový základ, aký sa vyskytuje v celom ekosystéme. V testovaní vLLM zostal trvalý výkon inferencie umelej inteligencie úzko zoskupený s ostatnými systémami Spark, so silným škálovaním predbežného dopĺňania a predvídateľným správaním v rámci pracovných zaťažení Equal a Decode.
Z tepelného hľadiska sa Dell počas prechodov s vysokými výkyvmi výkonu, vrátane zvýšených teplôt NVMe v porovnaní s niektorými konkurentmi, pohyboval na teplejšom konci skupiny. Pri trvalom zaťažení Decode sa však teploty stabilizovali v konkurenčnom rozsahu bez známok nestability alebo spomaľovania. Výkon GPU zostal v očakávanom rozsahu pre danú platformu.
V testovaní GPU Direct Storage si Dell viedol dobre pri škálovaní priepustnosti čítania 16K a preukázal silnú kontrolu latencie zápisu na nižších až stredných úrovniach súbežnosti. Pri väčších prenosoch 1M sa priepustnosť ustálila skôr ako u Aceru a Gigabyte pri vyššom počte vlákien, čo je správanie, ktoré sa javí ako skôr spojené s konkrétnou konfiguráciou SSD Gen4 než s nejakým obmedzením samotnej architektúry GB10. Dell bohužiaľ urobil sériu sklamaní v oblasti úložísk pri implementácii GB10 bez možností SSD Gen5. Okrem toho ich 2TB ponuka používa SSD Gen4 QLC, ktorý pravdepodobne dosiahne horšie výsledky ako výsledky v tejto recenzii.
V rámci celej rady Spark zostáva priepustnosť jadra umelej inteligencie úzko zoskupená. Rozdiely sa nachádzajú vo výbere implementácie, nie v surovom výpočtovom výkone.
Stránka produktu – Dell Pro Max s GB10
Rebríček: Dell Pro Max s GB10 je súčasťou testovacieho poľa v našom rebríčku Najlepšie stolové počítače pre lokálnu umelú inteligenciu.
Amazonka