Když jsme se v říjnu poprvé setkali s NVIDIA DGX Spark, bylo jasné, že NVIDIA to s zmenšením umělé inteligence datové třídy na něco, co by se dalo vejít na stůl, myslí vážně. Náš první vzorek Founders Edition nám poskytl první pohled na to, co platforma GB10 založená na Grace Blackwell dokáže v kompaktním a samostatném zařízení.
Od té doby se ekosystém rozrostl díky OEM designům. Nedávno jsme do laboratoře obdrželi dva počítače Dell Pro Max s GB10 k testování. Umístili jsme je vedle našich dalších systémů Spark, abychom vyhodnotili konzistenci výkonu, teploty a celkové rozdíly v designu mezi implementacemi od různých dodavatelů.
Zatímco původní Spark se zaměřoval na referenční hardware, Dell přináší do platformy svůj vlastní styl. Pro Max s GB10 se vyznačuje šasi Dell L6 s propracovanějším industriálním vzhledem a estetikou vhodnou pro stolní počítače, což mu dodává výraznou identitu a zároveň si zachovává stejný základ GB10. Působí méně jako vývojářská sada a spíše jako hotový produkt určený pro profesionální pracovní prostor.
V době psaní tohoto článku je konfigurace s kapacitou 1 TB uvedena v obchodě Dell za 4 061,34 dolarů , což ji prezentuje jako prémiové stolní zařízení s umělou inteligencí. V této recenzi se podíváme na to, jak si Dell vede k platformě GB10 v porovnání s ostatními testovanými systémy Spark, se zaměřením na reálný výkon a tepelné chování při trvalém zatížení.
Specifikace Dell Pro Max s GB10
Níže uvedená tabulka uvádí dostupné konfigurace úložiště a možnosti sestavení pro Dell Pro Max s 10 GB.
| Specifikace | Dell Pro Max s GB10 |
|---|---|
| Rozměry a hmotnost | |
| Výška | 2 v |
| Šířka | 5.9 v |
| Hloubka | 5.9 v |
| Hmotnost | 2.69 lb |
| Procesor | |
| Typ procesoru | NVIDIA GB10 (superčip Grace Blackwell) (20 jader) |
| Integrovaná grafika | Grafická karta NVIDIA Blackwell (integrovaná) |
| Memory | |
| Typ paměti | LPDDR5x (Unified System Memory) |
| Konfigurace paměti | 128 GB LPDDR5x, sjednocená systémová paměť |
| Paměťová šířka pásma | 273 GB/s (8533 MT/s) |
| Operační systém | |
| Podporované OS: | Operační systém NVIDIA DGX |
| Externí porty a sloty | |
| Síťové porty | Jeden RJ45 (10GbE) Síťová karta NVIDIA ConnectX-7 (200G × 2 QSFP) |
| USB porty | Tři porty USB 3.2 Gen 2×2 typu C (20 Gb/s) Jeden port USB 3.2 Gen 2×2 typu C s PD vstupem |
| Video port(y) | Jeden HDMI 2.1a |
| Port napájecího adaptéru | USB typu C (PD IN) |
| Bezpečnostní slot | Nevyplněno |
| bezdrátový | |
| WiFi | Wi-Fi 7 (AW-EM637, 2×2) |
| Bluetooth | Bluetooth 5.4 |
| Skladování | |
| Možnosti skladování | M.2 Gen4 NVMe: 1 TB / 2 TB / 4 TB (Opal 2.0 se liší) |
| Napájecí adaptér | |
| Typ | Externí adaptér 280 W (USB typu C) |
Konstrukce a design Dell Pro Max s GB10
Celkově se Dell od svých stolních počítačů řady Pro pustil do designového přístupu odlišného od ostatních. Navzdory miniaturnímu šasi o objemu 1 l přidal přední rámeček s voštinovým vzorem, který mu dodává estetiku podnikového serveru. Celková konstrukce je působivá. Kovové pouzdro v barvě bronco šedé dává počítači v ruce pevný a dobře zpracovaný pocit, díky čemuž je přenosný a odolný na cestách, ať už na rušném stole nebo v laboratoři. Dell také do svého designu GB10 zahrnul LED indikátor napájení, který jsme zatím viděli pouze u něj a jedné další verze na trhu.
GB10 měří vpředu i vzadu 1.80 cm na výšku a v maximální výšce 2.0 cm. Kompaktní rozměry 5.90 cm čtverečních zabírají minimum místa a váží v závislosti na konfiguraci mezi 2.69 a 2.96 kg.
Na zadní straně zařízení najdete jeden ethernetový port RJ45 10GbE, dva porty QSFP 200 Gbps (Realtek RTL8127-CG; NVIDIA ConnectX-7), tři porty USB 3.2 Gen 2×2 (20 Gbps) typu C s alternativním režimem DisplayPort 1.4a a funkcí Power Delivery, jeden port HDMI 2.1a a společnost Dell se odlišuje od Founders Edition a dalších OEM designů tím, že obsahuje větší 280W napájecí adaptér USB Type-C běžně používaný v jejím portfoliu přenosných pracovních stanic, který poskytuje dostatečný výkon pro dlouhodobé pracovní zatížení.
Uvnitř GB10 je bezdrátový modul AzureWave AW-EM637, který poskytuje WiFi připojení pro flexibilní scénáře nasazení. Úložiště je řešeno jedním slotem M.2 2230/2242 s podporou PCIe Gen 4 SSD pro rychlé spouštění a rychlý přístup k datům. Hlavní výhodou je paměť se 128 GB LPDDR5X RAM s rychlostí 8533 MT/s, což poskytuje vysokou propustnost potřebnou pro náročné úlohy s umělou inteligencí.
Jádrem je čip NVIDIA GB10, určený pro inferenci umělé inteligence a edge computing. Systém je dodáván s předinstalovaným operačním systémem NVIDIA DGX, což je optimalizovaná linuxová distribuce od společnosti NVIDIA, která obsahuje předkonfigurované ovladače, knihovny CUDA a oblíbené frameworky umělé inteligence, jako jsou TensorFlow a PyTorch. To umožňuje uživatelům okamžitě nasadit aplikace umělé inteligence bez rozsáhlého nastavování systému.
Testování teploty Dell Pro Max s GB10
Abychom otestovali teplotu komponent v Dell Pro Max s GB10, porovnali jsme je s Founders Edition a OEM, jako jsou ASUS, Acer a Gigabyte. Hlouběji jsme se do této problematiky zapojili v našem článku o teplotním testování Spark.
V celém stacku jsme monitorovali komponenty v daném časovém rámci se třemi fázemi zátěže, přičemž jsme zvyšovali využití zhruba během hodiny. To nám umožnilo sledovat zařízení při delším používání a různých fázích zátěže. Monitorovali jsme teploty CPU, GPU, sítě, NVMe a celkovou spotřebu energie.
Teplota CPU
Během testování teploty procesoru se Dell Pro Max s GB10 během fází s vysokým zatížením umístil v horní části skupiny. V režimu Prefill Heavy zaznamenal Dell maximální teplotu přibližně 87.7 °C kolem 1500. sekundy, což jej řadí mezi nejteplejší systémy během tohoto přechodu na vyšší zátěž.
Ve fázi Equal ISL/OSL se Dell blížil systémům vyšší střední třídy a postupně se teploty pohybovaly v rozmezí 62–75 °C, stejně jako u ASUSu a Founders Edition. Gigabyte v této fázi pracoval znatelně chladněji, zatímco Acer si udržel nejnižší celkové teploty procesoru.
V režimu Prefill Heavy teplotní křivka Dellu stoupala agresivněji než u většiny ostatních systémů a před přechodem do režimu Decode Heavy dosáhla vrcholu poblíž 88 °C. Jakmile se systém dostal do trvalého režimu Decode Heavy, stabilizoval se na 80–83 °C. I když se tím Dell dostal na teplejší stranu skupiny, při delší zátěži prokázal konzistentní teplotní regulaci, nikoliv neustálé zvyšování zátěže.
Acer zůstal po celou dobu testování celkově nejchladnější implementací a v trvalých fázích se držel v rozmezí kolem 60 °C. Gigabyte si také ve srovnání s Dellem udržel mírnější teplotní rozsah.
Celkově Dell Pro Max s GB10 vykázal jednu z nejvyšších maximálních teplot procesoru ve skupině během burstového zatížení, ale po normalizaci zatížení se ustálil na konkurenceschopných teplotách při trvalém zatížení.
Teplota grafického procesoru
Teploty GPU se vyvíjely podobným způsobem. Během režimu Prefill Heavy dosáhla společnost Dell maximální teploty přibližně 80 °C, což ji řadí do horního rozsahu zatížení zásobníku během burstových podmínek.
V testu Equal ISL/OSL se Dell rychle dostal do středního rozsahu 60 °C a těsně tak následoval ASUS a Founders Edition. Gigabyte i Acer v této fázi pracovaly při nižších teplotách.
Po přechodu do režimu Decode Heavy se Dell stabilizoval mezi 68–71 °C. I když byl stále teplejší než Acer a Gigabyte, rozdíl se ve srovnání s fází burst zúžil. Founders Edition a ASUS se během trvalého dekódování pohybovaly v podobném teplotním pásmu jako Dell.
Celkově vzato, systém Dell vykazoval vyšší nárůsty teploty grafického procesoru, ale při trvalém zatížení prokázal stabilní a předvídatelné chování.
Teplota NVMe
Teploty úložišť se u konfigurace Dell nejvíce lišily od reálných dat. Během testu Prefill Heavy dosáhl disk NVMe maxima přibližně 63–64 °C, což jej řadí na horní hranici srovnávací skupiny.
V testu Equal ISL/OSL začala teplota Dellu v rozmezí nízkých až středních 40 °C a stabilně stoupala, přičemž v průběhu fáze se mírně zahřívala než většina konkurence. Během trvalého zatížení Decode se teplota disku stabilizovala mezi 59–61 °C.
I když tyto teploty zůstávají v rámci standardních provozních specifikací NVMe, naznačují poměrně těsnější proudění vzduchu nebo umístění úložiště v porovnání s Acerem a Gigabyte, které si oba udržely nižší trvalé teploty NVMe během stejných fází.
Teplota síťové karty
Teploty síťové karty vykazovaly podobný, ale méně výrazný vzorec. Dell dosáhl vrcholu v pásmu 70 °C během režimu Prefill Heavy a ustálil se v horním pásmu 60 °C během režimu Decode Heavy.
Během testování se Dell držel v teplejší polovině skupiny, ale neprokázal extrémní odchylku od ASUSu nebo Founders Edition. Acer si opět udržel celkově nejnižší teploty.
Spotřeba energie grafického procesoru
Chování spotřeby grafického procesoru se více shodovalo se středním průměrem skupiny. Dell dosáhl vrcholu přibližně 70 W během fáze Prefill Heavy, kolem hranice 1 400–1 600 sekund. To se krátce přiblížilo stropu 74 W pro Founders Edition, ale celkově zůstalo o něco nižší.
Během testu Equal ISL/OSL se Dell zvýšil z přibližně 27 W na střední hodnotu 40 W, což je v souladu se zbytkem systémů. V testu Prefill Heavy se spotřeba krátce dotkla 70 W, než se znovu ustálila. V testu Decode Heavy se Dell stabilizoval mezi 40–45 W, což je mírně nad Acerem a ASUSem, ale pod Founders Edition, která si po zbytek benchmarku udržela nejvyšší trvalou spotřebu GPU.
Z hlediska spotřeby energie se nezdá, že by Dell agresivně přetěžoval grafickou kartu. Jeho vyšší teploty v porovnání s některými konkurenty pravděpodobně pramení spíše z proudění vzduchu v šasi a rozhodnutí o vnitřním uspořádání než z nadměrné alokace energie.
Tepelné shrnutí
V rámci monitorování CPU, GPU, NVMe a síťové karty se Dell Pro Max s GB10 obecně pohyboval spíše v teplejším konci skupiny během náročných úloh Prefill. Za trvalých podmínek dekódování se však teploty stabilizovaly v konkurenceschopném rozmezí bez nekontrolovatelného nárůstu.
Acer si konzistentně udržoval nejnižší celkový tepelný profil a Gigabyte se také o něco chladil v porovnání s Dellem. Founders Edition a ASUS se obvykle více blížily tepelnému chování Dellu.
Data nakonec naznačují, že implementace od Dellu upřednostňuje kompaktní design a uspořádání ve stylu pracovních stanic, přičemž tepelné chování zůstává stabilní při zátěži, ale během agresivních přechodů mezi pracovními zátěžemi vykazuje menší prostor pro výdrž baterie ve srovnání s nejchladnějším šasi v sadě.
Testování výkonu Dell Pro Max GB10
Pro vyhodnocení Dell Pro Max s GB10 jsme testovali jednotky Spark pomocí benchmarku vLLM Online Serving, nejrozšířenějšího vysoce výkonného inferenčního a obslužného enginu pro rozsáhlé jazykové modely. Benchmark vLLM Online Serving simuluje reálné produkční úlohy odesíláním souběžných požadavků na běžící server vLLM a měřením klíčových metrik, včetně celkové propustnosti tokenů (tokeny za sekundu), času do prvního tokenu a času na výstupní token, v různých podmínkách zátěže.
Naše testování zahrnovalo řadu modelů, včetně hustých architektur a mikroškálovacích datových typů, a vyhodnotilo výkon ve třech scénářích pracovní zátěže: Stejná ISL/OSL, Vysoké předběžné vyplňování a Vysoké dekódování. Tyto scénáře představují odlišné vzorce obsluhy v reálném světě, od vyváženého vstupního a výstupního zatížení až po výpočetně náročné zpracování výzev a generování tokenů vázaných na šířku pásma paměti.
Kromě Dell Pro Max s GB10 jsme jako referenční bod porovnali i NVIDIA Founders Edition Spark spolu s OEM systémy od společností ASUS, Acer a Gigabyte. To nám umožnilo zasadit výsledky společnosti Dell do širšího konkurenčního prostředí a pochopit, kam vede, kam se drží, nebo kam zaostává v rámci různých modelů a typů pracovních zátěží.
GPT-OSS-120B
V režimu Equal ISL/OSL se Dell škáluje od 68.57 do 670.83 tok/s, čímž se v celém rozsahu dávek pohybuje uprostřed pole. Režim Prefill Heavy začíná na 298.60 tok/s a škáluje se na 2 707,15 tok/s do velikosti dávky 64, což řadí Dell na nejvyšší úroveň u větších dávek, a to i přes skromnější výchozí bod. Režim Decode Heavy se pohybuje od 37.74 do 273.54 tok/s, přičemž škálování zůstává v porovnání s ostatními typy úloh omezené.
GPT-OSS-20B
Rychlost Equal ISL/OSL se pohybuje od 90.76 do 1 585,28 tok/s s konstantním růstem napříč velikostmi dávek. Prefill Heavy dosahuje 4 453,55 tok/s při velikosti dávky 64, což představuje nejvyšší absolutní propustnost společnosti Dell u všech testovaných modelů. Decode Heavy se pohybuje od 49.88 do 687.17 tok/s s konzistentním škálováním napříč spektrem dávek.
Kodér Qwen3 30B A3B FB8
Hodnoty Equal ISL/OSL se pohybují od 103.76 do 1 258,08 tok/s, přičemž dodavatelé jsou úzce seskupeni podle velikosti dávek. Hodnoty Prefill Heavy se při velikosti dávky 64 zvýší na 2 018,58 tok/s, s minimálním oddělením systémů při vyšších velikostech dávek. Hodnoty Decode Heavy se pohybují od 54.69 do 493.82 tok/s a zachovávají si podobné seskupení napříč dodavateli.
Kodér Qwen3 30B A3B Base
Hodnoty Equal ISL/OSL se pohybují od 62.74 do 748.04 tok/s napříč velikostmi dávek. Prefill Heavy se pohybují od 266.80 do 1 693,68 tok/s a u středních a vyšších dávek zůstávají poblíž horního pásma. Decode Heavy se pohybují od 34.11 do 365.68 tok/s napříč spektrem pracovní zátěže.
Lama 3.1 8B Instrukce FP4
Možnost Equal ISL/OSL se škáluje od 76.03 do 2 776,30 tok/s napříč velikostmi dávek. Možnost Prefill Heavy umisťuje Dell do středního pásma při větších velikostech dávek, přičemž propustnost se zvyšuje spolu se zbytkem zásobníku. Možnost Decode Heavy se pohybuje od 40.87 do 575.50 tok/s a škáluje se progresivně s velikostí dávky.
Lama 3.1 8B Instrukce FP8
Hodnoty Equal ISL/OSL se pohybují od 24.50 do 1 079,44 tok/s, přičemž dodavatelé jsou v celém rozsahu šarží úzce sladěni. Hodnoty Prefill Heavy dosahují 245.35 tok/s při velikosti šarže 64, přičemž separace se u dodavatelů zvyšuje při vyšších velikostech šarží. Hodnoty Decode Heavy se pohybují od 23.60 do 464.12 tok/s, přičemž škálování je v celé skupině konzistentní.
Přímé úložiště GPU
Jedním z testů, které jsme na Spark provedli, byl test MagnumIO GPU Direct Storage (GDS). GDS je funkce vyvinutá společností NVIDIA, která umožňuje grafickým procesorům obejít CPU při přístupu k datům uloženým na discích NVMe nebo jiných vysokorychlostních úložných zařízeních. Namísto směrování dat přes CPU a systémovou paměť umožňuje GDS přímou komunikaci mezi grafickým procesorem a úložným zařízením, což výrazně snižuje latenci a zlepšuje propustnost dat.
Dell používá v Pro Max GB10 SSD disk Phison ESL04TBTLCZ 4TB Gen4. I když se jeho kapacita shoduje s kapacitou ostatních 4TB modelů, jedná se o model Gen4 s nižšími rychlostmi čtení a zápisu.
Jak funguje přímé úložiště GPU
Tradičně, když GPU zpracovává data uložená na disku NVMe, musí data nejprve projít procesorem a systémovou pamětí, než se dostanou k GPU. Tento proces představuje úzká hrdla, protože CPU funguje jako prostředník, což zvyšuje latenci a spotřebovává cenné systémové prostředky. Funkce GPU Direct Storage tuto neefektivitu eliminuje tím, že umožňuje GPU přístup k datům přímo z úložného zařízení přes sběrnici PCIe. Tato přímá cesta snižuje režii přesunu dat a umožňuje rychlejší a efektivnější přenosy dat.
Pracovní zátěž umělé inteligence, zejména ta zahrnující hluboké učení, je vysoce datově náročná. Trénování velkých neuronových sítí vyžaduje zpracování terabajtů dat a jakékoli zpoždění v přenosu dat může vést k nedostatečnému využití grafických procesorů (GPU) a delší době trénování. Přímé úložiště na GPU (GPU Direct Storage) řeší tento problém tím, že zajišťuje co nejrychlejší doručení dat na GPU, minimalizuje dobu nečinnosti a maximalizuje výpočetní efektivitu.
Kromě toho je GDS obzvláště výhodný pro úlohy, které zahrnují streamování velkých datových sad, jako je zpracování videa, zpracování přirozeného jazyka nebo inference v reálném čase. Snížením závislosti na CPU GDS zrychluje pohyb dat a uvolňuje zdroje CPU pro jiné úkoly, čímž dále zvyšuje celkový výkon systému.
Propustnost čtení GDSIO 16k
Při pohledu na propustnost čtení GDSIO 16K začíná Dell na přibližně 0.50 GiB/s při 1 vlákně a škáluje se na 1.34 GiB/s při 8 vláknech, kde jasně překonává ASUS s přibližně 0.95 GiB/s. Tato výhoda pokračuje i při 16 vláknech, kde Dell dosahuje 2.26 GiB/s ve srovnání s ASUS s přibližně 1.58 GiB/s, a opět při 32 vláknech, kde Dell dosahuje 3.32 GiB/s oproti ASUS s 2.55 GiB/s.
I při 64 vláknech si Dell udržuje náskok na 4.35 GiB/s, čímž předčí ASUS s přibližně 3.68 GiB/s. Teprve při 128 vláknech se Dell vyrovnává na přibližně 4.30 GiB/s, zatímco ostatní platformy škálují výše. V celém rozsahu škálování jádra Dell konzistentně vede a s jasným náskokem překonává systém ASUS.
Průměrná latence čtení GDSIO 16K
Při pohledu na průměrnou latenci čtení GDSIO (16K) dosahuje Dell nejnižší latence napříč většinou škálovací křivky. Začíná na přibližně 0.03 ms u 1 vlákna, což se blíží hodnotě ASUS, ale rychle se odděluje na 2 vláknech (0.09 ms vs. 0.13 ms) a 4 vláknech (0.112 ms vs. 0.118 ms). Dell si udržuje výhodu na 8 vláknech (0.092 ms vs. 0.13 ms), 16 vláknech (0.108 ms vs. 0.155 ms) a 32 vláknech (0.148 ms vs. 0.193 ms).
Při 64 vláknech si Dell udržuje konkurenceschopnou dobu zhruba 0.222 ms, což je o něco méně než u ASUSu s 0.267 ms. Teprve při 128 vláknech latence prudce stoupá na přibližně 0.45 ms, což je téměř stejné číslo jako u ASUSu. Celkově Dell vykazuje konzistentně nižší latenci napříč nízkými až středními úrovněmi souběžnosti, než se sblíží s nejvyšším počtem vláken.
Propustnost zápisu GSDIO 16K
Při pohledu na propustnost zápisu GDSIO (16K) začíná Dell silně s přibližně 0.35 GiB/s u 1 vlákna a rychle se odděluje při nižší souběžnosti, dosahuje přibližně 0.75 GiB/s u 2 vlákn a 1.55 GiB/s u 4 vlákn, což je jasně před ASUSem ve stejných bodech (0.58 a 0.65 GiB/s). Dell dále škáluje na 2.33 GiB/s u 8 vlákn a vrcholí kolem 2.88–2.90 GiB/s u 16 a 32 vlákn, kde je v čele skupiny.
Nicméně, nad 32 vlákny se Dell ustálí a mírně klesá, přičemž se drží kolem 2.90 GiB/s při 64 vláknech a klesá na zhruba 2.75 GiB/s při 128 vláknech, zatímco Acer, Gigabyte a Founders Edition prudce zrychlují nad 5 GiB/s při 64 vláknech a dosahují zhruba 6.5 GiB/s při 128 vláknech. Celkově Dell dominuje v rozsahu nízkých až středních vláken, ale nedosahuje vyšších úrovní souběžnosti jako systémy s nejvyšším výkonem.
Průměrná latence zápisu GDSIO 16K
Při pohledu na průměrnou latenci zápisu GDSIO (16K) dosahuje Dell nejnižší latence v téměř celé škálovací křivce. Začíná zhruba na 0.045 ms u 1 vlákna a zůstává velmi nízká, s 0.05 ms u 2 vlákn a 0.04 ms u 4 vlákn, což je výrazně méně než u ASUSu, který měří přibližně 0.06 ms, respektive 0.10 ms. U 8 vláknů dosahuje Dell latence přibližně 0.055 ms, ve srovnání s ASUSem s přibližně 0.20 ms. Rozdíl se dále zvětšuje u 16 vlákn, kde Dell dosahuje přibližně 0.085 ms oproti ASUSu s přibližně 0.35 ms, a u 32 vláknů zůstává Dell na úrovni přibližně 0.17 ms, zatímco ASUS se vyšplhá na téměř 0.68 ms.
I při 64 vláknech si Dell drží latenci zápisu okolo 0.34 ms, zatímco u ASUSu prudce stoupá na přibližně 1.51 ms. Pouze při 128 vláknech se Dell prudce zvýší na přibližně 0.71 ms, ale zůstává dramaticky nižší než u ASUSu, který prudce překročí 3.10 ms. Celkově Dell vykazuje výrazně lepší kontrolu latence zápisu s rostoucí souběžností než ASUS.
Propustnost čtení GDSIO 1M
Při pohledu na propustnost čtení GDSIO (1M) začíná Dell na přibližně 2.6 GiB/s na 1 vlákně, škáluje se na 4.3 GiB/s na 2 vláknech a dosahuje přibližně 5.6 GiB/s na 4 vláknech. Od této chvíle se výkon do značné míry stagnuje, drží se kolem 5.6 GiB/s na 8 vláknech, 5.4 GiB/s na 16 vláknech, 5.4 GiB/s na 32 vláknech a 5.5 GiB/s na 64 vláknech, než končí blízko 5.5 GiB/s na 128 vláknech.
Zatímco Dell poskytuje silné počáteční škálování a stabilní výkon, Acer a Gigabyte nadále překračují 11 GiB/s při vyšším počtu vláken a Founders Edition se blíží 10 GiB/s, což Dell řadí do střední třídy propustnosti čtení velkých bloků.
Průměrná latence čtení GDSIO 1M
Při pohledu na průměrnou latenci čtení GDSIO (1M) začíná Dell zhruba na 0.35 ms s 1 vláknem, zvyšuje se na přibližně 0.45 ms se 2 vlákny a dosahuje přibližně 0.70 ms se 4 vlákny. Latence dále kontrolovaně roste přes 8 vlákna (1.50 ms) a 16 vlákna (3.00 ms), poté se pohybuje kolem 5.90 ms s 32 vlákny a 12.40 ms s 64 vlákny, než končí u 128 vlákna na přibližně 25.40 ms.
I když Dell škáluje efektivněji než ASUS, který dosahuje téměř 29.60 ms při 128 vláknech, zůstává při maximální souběžnosti vyšší než Acer a Gigabyte, které se při 128 vláknech drží blíže k 11ms. Celkově si Dell udržuje střední latenci pro čtení velkých bloků, čímž překonává ASUS, ale při nejvyšším počtu vláken zaostává za platformami s nejnižší latencí.
Propustnost zápisu GDSIO 1M
Při pohledu na propustnost zápisu GDSIO (1M) začíná Dell na přibližně 2.6 GiB/s v 1 vlákně, zvyšuje se na přibližně 3.2 GiB/s ve 2 vláknech a dosahuje zhruba 3.3 GiB/s ve 4 vláknech. Od této chvíle se výkon zplošťuje a drží se kolem 3.2–3.3 GiB/s od 8 do 64 vlákna, než mírně klesne na přibližně 3.1 GiB/s při 128 vláknech.
Ačkoliv Dell poskytuje stabilní a konzistentní výkon zápisu velkých bloků, nedosahuje vyšší souběžnosti jako Acer a Gigabyte, které dosahují rychlosti přes 12 GiB/s mezi 8 a 64 vlákny, nebo dokonce Founders Edition, která si udržuje zhruba 8.7 GiB/s ve středním rozsahu. Celkově si Dell udržuje stabilní výkon, ale v propustnosti zápisu 1 milionu kusů s vysokou souběžností jednoznačně zaostává za nejvýkonnějšími systémy.
Průměrná latence zápisu GDSIO 1M
Při pohledu na průměrnou latenci zápisu GDSIO (1M) začíná Dell zhruba na 0.6 ms s 1 vláknem, postupně se zvyšuje na přibližně 0.8 ms se 2 vlákny a 1.2 ms se 4 vlákny. Latence dále stoupá na přibližně 2.5 ms s 8 vlákny, 5.0 ms s 16 vlákny a 9.5 ms s 32 vlákny, než dosáhne přibližně 19.0 ms s 64 vlákny a končí téměř 40.0 ms s 128 vlákny.
Ačkoliv Dell škáluje plynuleji než ASUS, jehož doba zápisu dramaticky překročí 100 ms při 64 vláknech, stále zaostává za Acerem a Gigabyte ve vyšší souběžnosti, které se oba při 128 vláknech blíží rozsahu 14 ms. Celkově si Dell s rostoucím počtem vláken udržuje kontrolovanou, ale střední úroveň latence zápisu velkých bloků.
Závěr
Dell Pro Max s GB10 integruje standardizovanou platformu NVIDIA GB10 Spark do šasi Dell Pro Max a zachovává si stejný výpočetní základ, jaký je vidět v celém ekosystému. V testování vLLM zůstal trvalý výkon inference umělé inteligence úzce srovnatelný s ostatními systémy Spark, se silným škálováním Prefill a předvídatelným chováním v rámci úloh Equal a Decode.
Z tepelného hlediska se Dell během přechodů s vysokým výkonem v režimu Prefill, včetně zvýšených teplot NVMe v porovnání s některými konkurenty, pohyboval spíše v teplejším konci skupiny. Při trvalém zatížení Decode se však teploty stabilizovaly v konkurenčním rozmezí bez známek nestability nebo omezení výkonu. Výkon GPU zůstal v očekávaných mezích pro danou platformu.
V testování GPU Direct Storage si Dell vedl dobře při škálování propustnosti čtení 16K a prokázal silnou kontrolu latence zápisu na nižších až středních úrovních souběžnosti. Při větších přenosech 1M se propustnost při vyšším počtu vláken ustálila dříve než u Aceru a Gigabyte, což je chování, které se zdá být spojeno spíše se specifickou konfigurací SSD Gen4 než s nějakým omezením samotné architektury GB10. Dell bohužel učinil řadu neuspokojivých rozhodnutí ohledně úložišť s implementací GB10, bez možností SSD Gen5. Jejich 2TB nabídka navíc používá SSD Gen4 QLC, který pravděpodobně povede hůře než výsledky v této recenzi.
V celé řadě Spark zůstává propustnost základní umělé inteligence úzce seskupena. Rozdíly se projevují ve volbách implementace, nikoli v hrubém výpočetním výkonu.
Stránka produktu – Dell Pro Max s GB10
Žebříček: Dell Pro Max s GB10 je součástí testovaného pole v našem žebříčku Nejlepší stolní počítače pro lokální umělou inteligenci .
Amazon