S prvým vydaním platformy DGX Spark od spoločnosti NVIDIA teraz vidíme, ako rôzni dodávatelia balia základňu GB10 Grace Blackwell do svojich vlastných kompaktných stolových systémov. Zatiaľ čo základná doska a kremík zostávajú štandardizované, rozdiely sa objavujú v dizajne šasi, chladení, konfigurácii úložiska a celkovom prevedení. V tejto recenzii sa zameriavame na implementáciu GIGABYTE s AI TOP ATOM.
Vo vnútri sa nachádza rovnaký superčip GB10, ktorý spája 20-jadrový procesor Arm s akceleráciou umelej inteligencie Blackwell a 128 GB unifikovanej pamäte LPDDR5X. Tento základ podporuje až 1 petaflop výpočtového výkonu FP4 a modeluje až 200 miliárd parametrov, čo ho pevne umiestňuje na územie umelej inteligencie triedy pracovných staníc.
AI TOP ATOM je umiestnený v kompaktnom 1-litrovom šasi s rozmermi 150 x 150 x 50.5 mm a je napájaný 240W externým adaptérom. Hoci výpočtové jadro je identické s jadrom iných systémov Spark, skúmame, ako dizajnové rozhodnutia spoločnosti GIGABYTE ovplyvňujú teplotu, správanie pri trvalom zaťažení, výkon úložiska a každodennú použiteľnosť.
Možnosti úložiska sa dajú škálovať až na 4 TB Gen5 NVMe a systém sa dodáva s operačným systémom NVIDIA DGX založeným na Ubuntu, vďaka čomu je ihneď pripravený na úlohy s umelou inteligenciou. Stručne povedané, zatiaľ čo základný výpočtový hardvér zostáva identický s inými systémami triedy Spark, používateľská skúsenosť, teploty, akustika a celková prezentácia sa odvíjajú od toho, čo GIGABYTE ponúka vo svojom kompaktnom balení.
V tejto recenzii preskúmame, ako si GIGABYTE-ov prístup k platforme Spark stojí v porovnaní s ňou z hľadiska trvalého zaťaženia, chladenia a každodennej použiteľnosti a či jej kompaktný tvar prináša nejaké viditeľné kompromisy.
| špecifikácia | GIGABYTE AI TOP ATOM (GB10) |
|---|---|
| Rozmery a hmotnosť | |
| výška | 2 v |
| Šírka | 5.9 v |
| Hĺbka | 5.9 v |
| Váha | 2.64 lb |
| procesor | |
| Typ procesora | NVIDIA GB10 (superčip Grace Blackwell) (20 jadier) |
| Integrovaná grafická | Grafický procesor NVIDIA Blackwell (integrovaný) |
| Memory Masážne stoly | |
| Typ pamäte | LPDDR5x (Unified System Memory) |
| Konfigurácia pamäte | 128 GB LPDDR5x, unifikovaná systémová pamäť |
| Šírka pamäte | 273 GB/s (8533 MT/s) |
| operačný systém | |
| Podporovaný operačný systém | Operačný systém NVIDIA DGX |
| Externé porty a sloty | |
| Sieťové porty | Jeden RJ45 (10GbE) Sieťová karta NVIDIA ConnectX-7 (200G × 2 QSFP) |
| USB porty | Tri porty USB 3.2 Gen 2×2 typu C (20 Gb/s) Jeden port USB 3.2 Gen 2×2 typu C s PD vstupom |
| Video port(y) | Jeden HDMI 2.1a |
| Port napájacieho adaptéra | USB typu C (PD IN) |
| Bezpečnostný slot | nikto |
| Bezdrôtový | |
| WiFi | Wi-Fi 7 (AW-EM637, 2×2) |
| bluetooth | bluetooth 5.4 |
| Uskladnenie | |
| možnosti skladovania | Až 4 TB Gen5 NVMe (s podporou samošifrovania) |
| Nabíjačka | |
| Typ | 240 W externý adaptér (USB typu C) |
Návrh a zostavenie špičkových procesorov GIGABYTE AI ATOM
GIGABYTE AI TOP ATOM si zachováva známe rozmery 150 x 150 mm, ktoré sme videli pri systémoch založených na procesore Spark, s výškou 50.5 mm a hmotnosťou 1.2 kg. Je dostatočne kompaktný na to, aby sa zmestil na stôl, ale keď ho zdvihnete, pôsobí hutne a pevne. Povrchová úprava má tmavý, matný vzhľad, ktorý mu dodáva skôr atmosféru pracovnej stanice.
Namiesto jednoduchej plochej mriežky na prednom paneli je celá predná strana pokrytá horizontálnymi lamelami a jemným vlnovým vzorom za nimi, ktorý jej dodáva hĺbku a textúru pri pohľade z rôznych uhlov. Ide o dizajn zameraný na chladenie. Logo GIGABYTE sa nachádza v dolnom rohu a na prednej strane nie sú žiadne dátové porty ani tlačidlo napájania, takže predná strana zostáva čistá a dobre prúdi vzduch.
Všetky pripojenia sa nachádzajú na zadnom paneli. K dispozícii sú tri porty USB 3.2 Gen 2×2 Type-C s prenosovou rýchlosťou až 20 Gb/s a štvrtý port USB Type-C určený na napájanie. Pre výstup displeja slúži jeden port HDMI 2.1a. Sieťové pripojenie ponúka port 10 GbE RJ-45 spolu s kartou NVIDIA ConnectX-7 SmartNIC, ktorá podporuje vysokorýchlostné prenosy dát a prepojenie viacerých systémov, ak chcete vytvoriť väčšiu zostavu. Pozdĺž bočného panela sa nachádza slot pre zámok Kensington Nano.
Vo vnútri AI TOP ATOM beží na superčipe NVIDIA GB10 Grace Blackwell, ktorý kombinuje 20-jadrovú konfiguráciu procesora Arm s integrovanou grafikou Blackwell. Je podporený 128 GB unifikovanej pamäte LPDDR5x na 256-bitovom rozhraní, čo poskytuje šírku pásma až 273 GB/s. Rovnako ako ostatné systémy GB10, aj CPU a GPU zdieľajú rovnaký pamäťový fond, čo je kľúčové pre to, ako sú tieto stroje navrhnuté na zvládanie úloh umelej inteligencie.
Podpora úložiska siaha až do 4TB Gen5 NVMe SSD, v závislosti od konfigurácie, a napájanie je zabezpečené prostredníctvom externého adaptéra s výkonom 240 W. Bezdrôtové pripojenie zahŕňa WiFi 7 a Bluetooth 5.4, spolu s integrovanou sieťou 10 GbE pre káblový výkon.
Testovanie teploty GIGABYTE AI TOP ATOM
Aby sme otestovali teplotu komponentov v rámci dosky GIGABYTE AI TOP ATOM, porovnali sme ich s Founders Edition a OEM, ako sú Asus, Acer a Dell. Podrobnejšie sme sa tejto téme venovali v našom článku o teplotnom testovaní Spark.
V rámci celého zásobníka sme monitorovali komponenty počas daného časového rámca s 3 fázami záťaže, pričom sme zvyšovali využitie približne v priebehu hodiny. To nám umožnilo vidieť zariadenie pri dlhodobom používaní a rôznych fázach záťaže. Monitorovali sme teploty CPU, GPU, siete, NVMe a celkovú spotrebu energie.
Teplota CPU
Počas tepelného testovania CPU dosiahol systém GIGABYTE maximálnu teplotu 90 °C počas prechodov s vysokými burstmi v režime Prefill. To ho zaraďuje k hornej hranici pozorovaných maximálnych hodnôt CPU v porovnávacej skupine počas agresívneho zvyšovania pracovnej záťaže.
Po prechode na pracovné zaťaženie Equal ISL/OSL a nakoniec Decode Heavy sa teplotná krivka stabilizovala a nepokračovala v stúpaní. Pri trvalom zaťažení zostal CPU v kontrolovanom teplotnom pásme, čo dokazuje, že vyšší vrchol bol spojený s krátkodobou aktivitou nábehu a nie s nedostatočnou dlhodobou chladiacou kapacitou.
Na spodnej hranici zaznamenal CPU minimálnu teplotu 38.7 °C počas nečinnosti alebo nízkeho zaťaženia. Táto nízka základná hodnota odráža efektívny odvod tepla v pokoji a naznačuje, že chladiace riešenie si udržiava dostatočný priestor pre teplotu aj mimo fáz zvýšeného zaťaženia.
Celkovo GIGABYTE vykazoval vyššie teplotné rozdiely procesora, ale po normalizácii pracovných zaťažení si udržal stabilné a trvalé správanie.
Teplota grafického procesora
Teploty GPU sa vyvíjali podobným spôsobom. Počas aktivity Prefill Heavy dosiahla GPU maximálnu teplotu 81 °C. To ju zaraďuje na teplejšiu stranu skupiny počas intenzívnej akcelerácie, ale stále v rámci očakávaných prevádzkových špecifikácií pre platformu GB10.
Keď pracovná záťaž prešla do fáz Equal ISL/OSL a Decode Heavy, teploty GPU sa ustálili, namiesto toho, aby naďalej stúpali.
V režime nečinnosti alebo pri nízkom využití zaznamenala grafická karta minimálnu teplotu 37 °C, čo naznačuje solídnu základnú teplotnú reguláciu, keď systém nie je vystavený výpočtovej záťaži.
Celkovo vzaté, správanie grafických kariet GIGABYTE odráža agresívne využitie burstových parametrov v kombinácii so stabilným a trvalým teplom.
Teplota NVMe
Teplota úložiska zostala počas testovania dobre kontrolovaná. Disk NVMe zaznamenal maximálnu teplotu 59.8 °C počas náročnejších prevádzkových fáz. Táto maximálna teplota zostala pohodlne pod bežnými prahovými hodnotami škrtenia, čo naznačuje dostatočné prúdenie vzduchu alebo priaznivé vnútorné umiestnenie disku v šasi.
Počas fáz s nižším zaťažením klesla teplota disku NVMe na minimálne 37.8 °C, čo potvrdzuje, že teplota úložiska nie je v pokoji obmedzená.
V porovnaní s niektorými kompaktnými desktopovými implementáciami, udržiavanie teploty pod 60 °C pri zaťažení odráža solídny tepelný manažment úložiska.
Teplota sieťovej karty
Teplota sieťovej karty dosiahla vrchol 72 °C počas fáz vyššieho zaťaženia, čo zodpovedá zvýšenej priepustnosti počas prechodov pred napĺňaním a dekódovaním. Hoci sa sieťová karta počas špičkovej aktivity nachádza v teplejšej polovici zásobníka, teplota zostala v rámci prevádzkových tolerancií a nevykazovala žiadne výkyvy.
Minimálna zaznamenaná teplota NIC bola 41 °C, čo odráža normálne správanie na základnej línii počas ľahších fáz.
Celkovo sieťová karta predvídateľne kopírovala celkové zaťaženie systému a nevykazovala žiadne abnormálne škálovanie.
Spotreba energie grafického procesora
Správanie grafického procesora (GPU) pomáha kontextualizovať zvýšené teplotné výkyvy. Spoločnosť GIGABYTE dosiahla maximálny odber energie GPU 75.54 W počas prechodov s vysokou teplotou pred naplnením. To ju zaraďuje na hornú hranicu pozorovaných energetických limitov v rámci testovaných jednotiek GB10.
Namiesto umelého obmedzovania výkonu GPU sa zdá, že GIGABYTE umožňuje periódy blízke vrcholu, ktoré priamo korelujú s vyšším maximálnym teplotným správaním GPU. Ako sa pracovné zaťaženie presúvalo do fáz trvalého dekódovania, spotreba energie sa zodpovedajúcim spôsobom stabilizovala.
Z hľadiska spotreby energie sa systém GIGABYTE nezdá byť preťažený. Jeho vyššie maximálne teploty počas fáz burst sú skôr v súlade s rozhodnutiami o alokácii energie zameranými na výkon, než s nekontrolovaným tepelným dizajnom.
Tepelný súhrn
V rámci monitorovania CPU, GPU, NVMe a NIC pracovala doska GIGABYTE GB10 s konkurencieschopným zahrievaním v nečinnosti a vyššími burstovými špičkami počas prechodov s intenzívnym predfillom. CPU dosiahol 90 °C a GPU 81 °C pri maximálnej akcelerácii, zatiaľ čo NVMe zostal pod 60 °C a NIC dosiahol 72 °C. Spotreba GPU dosiahla maximum 75.54 W, čo naznačuje burstové špičky takmer v maximálnom rozsahu.
Pri trvalom zaťažení Decode sa teploty stabilizovali bez ďalšieho eskalovania, čo naznačuje, že hoci GIGABYTE umožňuje agresívny krátkodobý výkon, počas dlhodobej prevádzky si udržiava predvídateľné a kontrolované teploty.
Testovanie výkonu GIGABYTE AI TOP ATOM
Na vyhodnotenie procesora GIGABYTE AI TOP ATOM sme testovali jednotky Spark pomocou benchmarku vLLM Online Serving, najrozšírenejšieho vysokokapacitného inferenčného a obslužného enginu pre rozsiahle jazykové modely. Benchmark vLLM Online Serving simuluje reálne produkčné záťaže odosielaním súbežných požiadaviek na bežiaci server vLLM a meraním kľúčových metrík vrátane celkovej priepustnosti tokenov (tokeny za sekundu), času do prvého tokenu a času na výstupný token pri rôznych podmienkach zaťaženia.
Naše testovanie zahŕňalo širokú škálu modelov, od hustých architektúr až po mikroškálovacie dátové typy. Hodnotili sme výkon v troch scenároch pracovnej záťaže: Rovnaké ISL/OSL, Vysoké predbežné dopĺňanie a Vysoké dekódovanie. Tieto scenáre predstavujú odlišné vzorce poskytovania služieb v reálnom svete, od vyváženého vstupného a výstupného zaťaženia až po výpočtovo náročné spracovanie výziev a generovanie tokenov viazaných na šírku pásma pamäte.
Okrem GIGABYTE AI TOP ATOM sme ako referenčný bod porovnali aj NVIDIA Founders Edition Spark spolu s OEM systémami od spoločností Asus, Acer a Dell. To nám umožnilo porovnať výsledky spoločnosti GIGABYTE v širšom konkurenčnom prostredí a pochopiť, kde vedie, kde sa drží v popredí alebo kde zaostáva v rámci rôznych modelov a typov pracovných záťaží.
GPT-OSS-120B
V režime Equal ISL/OSL sa GIGABYTE rozširuje od 60.71 do 649.62 taktov/s, čím sa konzistentne drží v strede poľa a pri vyšších veľkostiach dávok sa tesne zhoduje s produktmi Dell a Asus. Škálovanie je stabilné a lineárne až do dávky 32, s pokračujúcim nárastom v dávke 64, hoci celkom neprekonáva najlepších hráčov v hornej časti.
Prefill Heavy začína na 304.63 toko/s a do veľkosti dávky 64 stúpa na 2 771,38 toko/s. Rast je silný až do dávky 16, kde sa GIGABYTE krátko umiestnil na treťom mieste od vrcholu, predtým ako sa pri väčších veľkostiach dávok zblížil so širšou skupinou. Celkové škálovanie je agresívne a konkurencieschopné, najmä v dávkach strednej veľkosti.
Rýchlosť dekódovania Heavy sa pohybuje od 47.01 do 299.41 takt/s s postupným a konzistentným škálovaním v celom dávkovom priebehu.
GPT-OSS-20B
V režime Equal ISL/OSL sa GIGABYTE škáluje od 641.73 do 1 587,62 tok/s, pričom silno začína pri dávke 1, potom klesá pri dávke 2 a potom stabilne postupuje cez väčšie veľkosti dávok. Od dávky 8 sa škálovanie normalizuje a úzko kopíruje zvyšok poľa, pričom končí blízko najvyššej úrovne pri dávke 64.
Prefill Heavy začína na 1 650,32 toko/s a vrcholí na 4 401,27 toko/s pri veľkosti dávky 64. Od dávky 16 je škálovanie konzistentné a konkurencieschopné, pričom drží krok so spoločnosťami Dell a Asus v rámci vyšších veľkostí dávok.
Rýchlosť Decode Heavy sa pohybuje od 63.18 do 688.44 taktov/s s čistým lineárnym škálovaním v celom rozsahu. Zisky sú postupné, ale konzistentné, úzko sú v súlade s ostatnými platformami a odrážajú obmedzenejšie správanie škálovania typické pre pracovné zaťaženia s vysokým dekódovaním.
Kódovač Qwen3 30B A3B FB8
V režime Equal ISL/OSL sa výkon procesorov GIGABYTE zvýšil zo 101.27 na 1 251,84 taktov/s, čo vykazuje stabilný lineárny progres v celom dávkovom priebehu. Výkon tesne korešponduje s výkonmi Dell a Asus až do 16. dávky a potom pokračuje v čistom stúpaní až do 64. dávky a končí blízko hornej úrovne bez akýchkoľvek badateľných anomálií pri škálovaní.
Prefill Heavy začína na 428.66 tokoch/s a s rastúcou veľkosťou dávky na 64 sa zvyšuje na 2 026,94 tokoch/s. Rast je plynulý a konzistentný naprieč všetkými veľkosťami dávok, pričom GIGABYTE zostáva v tesnej blízkosti širšieho poľa.
Rýchlosť Decode Heavy sa pohybuje od 61.18 do 482.73 tok/s s predvídateľnými, postupnými nárastmi so zvyšujúcou sa veľkosťou dávky.
Kódovač Qwen3 30B A3B Base
V režime Equal ISL/OSL sa výkon GIGABYTE zvýšil z 63.42 na 721.08 taktov/s, pričom v celom rozsahu dávok stabilne napreduje. Výkon tu úzko kopíruje širšie pole až do dávky 16 a pokračuje v čistom škálovaní až do dávky 64, pričom končí konkurencieschopne bez akejkoľvek výraznej odchýlky od lineárneho správania.
Prefill Heavy začína na 258.11 toko/s a pri veľkosti dávky 64 stúpa na 1 603,74 toko/s.
Rozsah rýchlosti dekódovania Heavy je od 33.57 do 349.82 tok/s s inkrementálnym, lineárnym škálovaním v celom rozsahu.
Lama 3.1 8B Inštruktáž FP4
V režime Equal ISL/OSL sa priepustnosť systému GIGABYTE v rámci dávkového cyklu zvýšila zo 69.84 na 2 756,91 taktov/s. Škálovanie je progresívne a vyvážené až do dávky 32, kde sa priepustnosť blíži k vyššej úrovni, a potom dochádza k výraznému nárastu v dávke 64, čo ho radí medzi popredné systémy s vyššími úrovňami súbežnosti.
Prefill Heavy začína na 321.67 tok/s a dosahuje 2 493,52 tok/s pri veľkosti šarže 64. Rast je stabilný až do šarže 16, potom sa pri vyšších veľkostiach šarží mierne znižuje v porovnaní s najlepším produktom, čo naznačuje solídnu, ale nie dominantnú účinnosť škálovania veľkých šarží.
Rýchlosť Decode Heavy sa pohybuje od 48.92 do 575.84 tok/s s konzistentným postupným nárastom so zvyšujúcou sa veľkosťou dávky.
Lama 3.1 8B Inštruktáž FP8
V režime Equal ISL/OSL sa GIGABYTE škáluje z 54.12 na 2 314,87 tok/s, čo ukazuje plynulý, lineárny rast v rámci 32. várky a silný nárast v 64. várke, ktorý ju udržiava konkurencieschopnou na vyšších úrovniach súbežnosti.
Prefill Heavy začína na 226.43 tokoch/s a dosahuje 2 332,19 tokoch/s pri veľkosti dávky 64. Škálovanie je konzistentné v celom rozsahu, úzko kopíruje širšie pole a udržiava solídnu účinnosť pri väčších veľkostiach dávok.
Rýchlosť Decode Heavy sa pohybuje od 32.88 do 522.41 tok/s, so stabilným postupným nárastom so zvyšujúcou sa veľkosťou dávky. Ako sa očakávalo, škálovanie zostáva v porovnaní s úlohami Equal a Prefill obmedzenejšie.
Priame úložisko GPU
Jedným z testov, ktoré sme vykonali na Spark, bol test MagnumIO GPU Direct Storage (GDS). GDS je funkcia vyvinutá spoločnosťou NVIDIA, ktorá umožňuje grafickým procesorom obísť CPU pri prístupe k údajom uloženým na diskoch NVMe alebo iných vysokorýchlostných úložných zariadeniach. Namiesto smerovania údajov cez CPU a systémovú pamäť umožňuje GDS priamu komunikáciu medzi grafickým procesorom a úložným zariadením, čím sa výrazne znižuje latencia a zlepšuje priepustnosť dát.
Spoločnosť Gigabyte používa v úložisku AI TOP ATOM 4TB SSD disk Samsung PM9E1 Gen5, ktorý je doteraz najrýchlejším 2242 M.2 diskom, aký sme na trhu videli. Je to ten istý SSD disk, aký sme videli v modeloch FE Spark a Acer Veriton GN100.
Ako funguje priame úložisko GPU
Tradične, keď grafická karta (GPU) spracováva dáta uložené na disku NVMe, musia dáta najprv prejsť cez procesor (CPU) a systémovú pamäť, než sa dostanú k grafickej karte (GPU). Tento proces spôsobuje úzke miesta, pretože procesor funguje ako sprostredkovateľ, čím zvyšuje latenciu a spotrebúva cenné systémové zdroje. Priame úložisko (GPU Direct Storage) eliminuje túto neefektívnosť tým, že umožňuje grafickej karte pristupovať k dátam priamo z úložného zariadenia cez zbernicu PCIe. Táto priama cesta znižuje réžiu pohybu dát, čo umožňuje rýchlejší a efektívnejší prenos dát.
Pracovné zaťaženie umelej inteligencie, najmä tie, ktoré zahŕňajú hlboké učenie, je vysoko dátovo náročné. Trénovanie veľkých neurónových sietí vyžaduje spracovanie terabajtov dát a akékoľvek oneskorenie v prenose dát môže viesť k nedostatočnému využitiu grafických procesorov (GPU) a dlhším časom trénovania. Priame úložisko GPU rieši túto výzvu tým, že zabezpečuje čo najrýchlejšie doručenie dát do GPU, minimalizuje čas nečinnosti a maximalizuje výpočtovú efektivitu.
Okrem toho je GDS obzvlášť výhodný pre pracovné zaťaženia, ktoré zahŕňajú streamovanie veľkých súborov údajov, ako je spracovanie videa, spracovanie prirodzeného jazyka alebo inferencia v reálnom čase. Znížením závislosti od CPU GDS zrýchľuje pohyb údajov a uvoľňuje zdroje CPU pre iné úlohy, čím ďalej zvyšuje celkový výkon systému.
Priepustnosť čítania GDSIO 16k
Pri pohľade na priepustnosť čítania GDSIO 16K začína GIGABYTE na približne 0.08 GiB/s pri 1 vlákne a stúpa na 0.58 GiB/s pri 8 vláknach. Odtiaľ pokračuje v čistom škálovaní na 16 vláknach (1.12 GiB/s) a 32 vláknach (2.14 GiB/s), než prudko stúpne pri 64 vláknach na 4.37 GiB/s. Pri 128 vláknach GIGABYTE pokračuje v škálovaní na 6.84 GiB/s bez toho, aby vykazoval žiadne známky ustálenia na hornej hranici rozsahu vlákien.
Priemerná latencia čítania GDSIO 16K
Pri pohľade na priemernú latenciu čítania GDSIO (16K) si GIGABYTE udržiava veľmi stabilnú latenciu vo väčšine krivky. Začína približne na 0.201 ms na 1 vlákne a zostáva úzko zoskupená v rozsahu ~0.21–0.23 ms od 2 vlákien až po 64 vlákien (napr. 0.211 ms pri 8 vláknach, 0.218 ms pri 16 vláknach, 0.228 ms pri 32 vláknach a 0.223 ms pri 64 vláknach). Až pri 128 vláknach sa latencia výraznejšie zvyšuje na približne 0.286 ms, zatiaľ čo priepustnosť sa naďalej zvyšuje.
Priepustnosť zápisu GSDIO 16K
Pri pohľade na priepustnosť zápisu GDSIO 16K, GIGABYTE začína na približne 0.08 GiB/s pri 1 vlákne, postupne sa škáluje na 0.14 GiB/s pri 2 vláknach a 0.28 GiB/s pri 4 vláknach. Výkon naďalej plynule stúpa pri 8 vláknach (0.59 GiB/s) a 16 vláknach (1.11 GiB/s), než sa agresívnejšie zvýši pri 32 vláknach (2.80 GiB/s). Škálovanie zostáva silné pri 64 vláknach (5.21 GiB/s) a vrcholí pri 6.54 GiB/s pri 128 vláknach, čo ukazuje pokračujúci rastúci pohyb bez skorého stagnovania.
Priemerná latencia zápisu GDSIO 16K
Pri pohľade na priemernú latenciu zápisu GDSIO (16K) si GIGABYTE udržiava relatívne stabilnú latenciu vo väčšine krivky. Začína približne na 0.20 ms pri 1 vlákne a zostáva v rozsahu ~0.21–0.22 ms až do 16 vlákien. Pri 32 vláknach sa latencia mierne zlepšuje na približne 0.17 ms a potom mierne stúpa pri 64 vláknach (0.19 ms). Až pri 128 vláknach sa latencia citeľne zvyšuje, približne na 0.30 ms, čo zodpovedá najvyššej úrovni priepustnosti.
Priepustnosť čítania GDSIO 1M
Pri pohľade na priepustnosť čítania GDSIO 1M začína GIGABYTE na 2.52 GiB/s pri 1 vlákne a škáluje sa na 5.07 GiB/s pri 2 vláknach a 9.33 GiB/s pri 4 vláknach. Pri 8 vláknach dosiahne priepustnosť 11.03 GiB/s, po ktorých sa platforma efektívne nasýti. Výkon zostáva konzistentný pri 16 vláknach (11.07 GiB/s), 32 vláknach (11.12 GiB/s) a 64 vláknach (11.08 GiB/s), čo ukazuje stabilnú stabilitu. Pri 128 vláknach sa priepustnosť mierne zvyšuje na 11.60 GiB/s, čo predstavuje najvyšší pozorovaný výsledok v priebehu testovania.
Priemerná latencia čítania GDSIO 1M
Pri pohľade na priemernú latenciu čítania GDSIO (1M) začína GIGABYTE na približne 0.39 ms pri 1 vlákne a zostáva podobná pri 2 vláknach (0.39 ms) a 4 vláknach (0.42 ms). Latencia sa zvyšuje so zvyšujúcou sa súbežnosťou, pričom stúpa na 0.71 ms pri 8 vláknach, 1.41 ms pri 16 vláknach a 2.81 ms pri 32 vláknach. Rastúci trend pokračuje pri 64 vláknach (5.64 ms) a dosahuje 10.78 ms pri 128 vláknach, čo zodpovedá maximálnym úrovniam súbežnosti, pričom priepustnosť zostáva do značnej miery stabilná.
Priepustnosť zápisu GDSIO 1M
Pri pohľade na priepustnosť zápisu GDSIO 1M, GIGABYTE začína na 2.48 GiB/s pri 1 vlákne a prudko sa zvyšuje na 5.57 GiB/s pri 2 vláknach a 10.32 GiB/s pri 4 vláknach. Pri 8 vláknach priepustnosť dosahuje 12.21 GiB/s, čím sa platforma efektívne saturuje. Výkon zostáva nemenný pri 16 vláknach (12.23 GiB/s), 32 vláknach (12.22 GiB/s) a 64 vláknach (12.22 GiB/s), čo naznačuje skoré stagnovanie. Pri 128 vláknach priepustnosť klesá na 8.82 GiB/s, čo naznačuje, že systém prekročil svoj optimálny rozsah súbežnosti.
Priemerná latencia zápisu GDSIO 1M
Pri pohľade na priemernú latenciu zápisu GDSIO (1M) začína GIGABYTE na približne 0.39 ms pri 1 vlákne a zostáva relatívne krátka počas 2 vlákna (0.35 ms) a 4 vlákna (0.38 ms). Latencia sa citeľnejšie zvyšuje pri vyššom počte vlákien, pričom stúpa na 0.64 ms pri 8 vláknach, na 1.28 ms pri 16 vláknach a na 2.56 ms pri 32 vláknach. Trend pokračuje vzostupne pri 64 vláknach (5.11 ms), než výrazne stúpne pri 128 vláknach na 14.16 ms, čo je v súlade s pozorovaným poklesom priepustnosti na najvyššej úrovni súbežnosti.
Záver
GIGABYTE AI TOP ATOM je ďalšou implementáciou platformy Spark založenej na GB10 od spoločnosti NVIDIA, postavenej na rovnakej doske a kremíku, aké sme testovali v celej rade. Ako sa očakávalo, výkon jadra vo vLLM sa výrazne zhoduje so zvyškom poľa. V modeloch GPT-OSS, Qwen3-Coder a Llama 3.1 zostalo správanie škálovania predvídateľné, so silnou priepustnosťou Prefill a stabilným výkonom Equal a Decode so zvyšujúcou sa súbežnosťou.
Z tepelného hľadiska spoločnosť GIGABYTE umožnila o niečo agresívnejšie správanie pri vysokých teplotách. CPU dosiahol vrchol 90 °C a GPU 81 °C počas prechodov s intenzívnym predfillom, pričom výkon GPU dosiahol 75.54 W. Po normalizácii pracovných zaťažení sa teploty stabilizovali bez známok trvalého obmedzovania. V praxi vyššie vrcholy odrážajú skôr krátkodobé rozhodnutia o alokácii výkonu než nestabilitu.
Táto jednotka sa jasne odlišuje v oblasti úložiska. S použitím 4TB Gen5 Samsung PM9E1 dosiahla spoločnosť GIGABYTE jedny z najsilnejších výsledkov GDSIO v skupine Spark. Priepustnosť čítania a zápisu sa plynulo škálovala v rámci pracovných zaťažení 16K aj 1M, pričom včasná saturácia sa zvýšila na očakávaných úrovniach súbežnosti a latencia sa zvýšila predovšetkým pri najvyššom počte vlákien.
Keďže všetky systémy Spark zdieľajú rovnaký základ GB10, rozdiely v benchmarkoch v inferencii umelej inteligencie zostávajú úzke. Výber v reálnom svete sa skôr obmedzuje na dizajn šasi, správanie sa pri vysokých teplotách, konfiguráciu úložiska a porovnanie dodávateľov než na základné rozdiely vo výpočtoch.
Produktová stránka – GIGABYTE AI TOP ATOM
Rebríček: GIGABYTE AI TOP ATOM je súčasťou testovaného poľa v našom rebríčku Najlepšie stolové počítače pre lokálnu umelú inteligenciu.
Amazonka