ASUS ExpertCenter Pro ET900N G3 je druhá stanica GB300 DGX, ktorú sme testovali, a prvá, ktorú sme mali na dosah ruky v laboratóriu; naše testovanie MSI XpertStation WS300 prebiehalo na diaľku. Používa rovnaký kremík NVIDIA, aký sme testovali v MSI XpertStation WS300: superčip Grace Blackwell Ultra Desktop so 72 jadrami Grace, grafický procesor B300, 252 GB pamäte HBM3e, 496 GB pamäte LPDDR5X a sieťovú kartu ConnectX-8 SuperNIC s dvoma 400GbE portami. Spoločnosť ASUS zabalila túto pevnú základnú platformu do úhľadného vežového prevedenia určeného pre umelú inteligenciu pri práci na stole a pridala niekoľko vylepšení, ktoré na modeli WS300 neboli: dve rukoväte na prenášanie na vrchu, samostatný ventilátor zameraný na optické klietky ConnectX-8 a 1 600 W napájací zdroj s krytím 80 PLUS Titanium.
Spoločnosť ASUS poslala ET900N G3 do laboratória na približne týždeň benchmarkingu, fotografovania a fyzických kontrol s nainštalovanou grafickou kartou RTX PRO 2000. Recenzia WS300 sa zaoberá samotnou platformou, čipmi B300, Grace, NVLink-C2C, MIG a tým, na čo slúži stanica DGX. Táto recenzia sa zaoberá tým, čo ASUS postavil okolo superčipu a či čísla obstoja v porovnaní s prvým testovaným vežovým procesorom GB300.
Špecifikácie ASUS ExpertCenter Pro ET900N G3
| špecifikácia | ASUS ExpertCenter Pro ET900N G3 |
|---|---|
| Prehľad platformy | |
| Superčip | Superčip NVIDIA GB300 Grace Blackwell Ultra pre stolné počítače |
| CPU | NVIDIA Grace, jadrá 72 Arm Neoverse V2 |
| GPU | NVIDIA Blackwell Ultra (B300), až 20 PFLOPS NVFP4 s riedkosťou |
| Prepojenie CPU-GPU | NVLink-C2C, 900 GB/s obojsmerne |
| Memory Masážne stoly | |
| Koherentná pamäť | 748GB |
| Pamäť GPU | 252 GB HBM3e, 7.1 TB/s |
| Pamäť CPU | 496 GB LPDDR5X, 396 GB/s, 4x SOCAMM |
| Uskladnenie | |
| Spúšťacie jednotky | 2x M.2 2280 PCIe 5.0 x4 (Key M), osadené 2x 2TB NVMe diskami v RAID 1 |
| Rozširujúce disky | 2x M.2 2280 (Key M), PCIe 6.0 x4 na ASUS, otvorené z výroby |
| networking | |
| SuperNIC | NVIDIA ConnectX-8, 2x QSFP112 400GbE |
| Ethernet | 1x Marvell 10GbE 1x Realtek 1GbE (BMC) |
| expanzia | |
| PCIe sloty | 1x PCIe 5.0 x16 2x PCIe 5.0 x16 (x8 signály) |
| Doplnkový grafický procesor | Až jedna grafická karta NVIDIA RTX PRO Blackwell; recenzovaná jednotka sa dodáva s grafickou kartou RTX PRO 2000 Blackwell |
| Vstup / výstup | |
| predné | 2x USB 10 Gb/s typu C 2x USB 10 Gb/s typu A 1x USB 2.0 Konektory pre slúchadlá a mikrofón |
| Zadné | 4x USB 10 Gb/s typu A 1x Micro-USB COM (sériová konzola BMC) 1x Mini DisplayPort (BMC) 3x audio konektory |
| Manažment a bezpečnosť | |
| BMC | ASPEED AST2600 s firmvérom AMI MegaRAC, IPMI a Redfish |
| zabezpečenia | Integrovaný TPM 2.0 |
| Napájanie a chladenie | |
| Zdroj | 1x 1 600 W ATX, 80 PLUS titán |
| Chladenie | Chladenie kvapalinou AIO s uzavretou slučkou (podľa ASUSu) s chladiacimi doskami na GB300, SOCAMM a ConnectX-8; predné a horné chladiče, zadný ventilátor šasi, samostatný ventilátor nad klietkami QSFP112 |
| Prevádzková teplota | 10C na 35C |
| Softvér a tvarový faktor | |
| operačný systém | Ubuntu s vývojárskymi nástrojmi NVIDIA AI; ASUS plánuje podporu vývoja AI pre Windows |
| Rozmery | 584 x 232 x 565 mm (23.0 x 9.1 x 22.3 palca), podľa údajov spoločnosti ASUS |
| Váha | 27 kg netto, 32 kg brutto |
Navrhujte a budujte
Spoločnosť ASUS oblieka ET900N G3 do firemnej pracovnej stanice s brúseným strieborným šasi, tmavou sieťovanou prednou časťou, chrómovaným lemovaním krytu a nožičky a nízko umiestneným logom ASUS na prednej strane. Proporcie sú presne také, aké diktuje platforma: podľa údajov spoločnosti ASUS je to 584 x 232 x 565 mm, čo je s výškou 529 mm, hĺbkou 570 mm a šírkou 246 mm o niečo vyšší a užší počítač ako WS300. S hmotnosťou 27 kg to nie je systém, s ktorým by sa niekto ľahko manipuloval, a práve tu prichádza do hry prvé rozhodnutie špecifické pre spoločnosť ASUS. Dve kovové rukoväte na hornom okraji, jedna vpredu a jedna vzadu, umožňujú dvom ľuďom zdvihnúť vežu na stôl alebo do vozíka bez toho, aby museli chytať panely. Na kancelárskom počítači vyzerajú trochu nemiestne, pokiaľ ste nemuseli nosiť vežu GB300 cez celé laboratórium.
Predný panel obsahuje tlačidlo napájania, dva 10 Gbps porty USB typu A, dva 10 Gbps porty USB typu C, port USB 2.0 a samostatné konektory pre slúchadlá a mikrofón, všetky usporiadané vo vertikálnom páse v pravom hornom rohu sieťoviny. Bočný panel tvorí veľká vetraná doska s dlhým perforovaným stĺpikom smerom dopredu pre nasávanie vzduchu do chladiča a menšou štvorcovou mriežkou smerom dozadu, ktorá je zarovnaná so systémovými ventilátormi. Nie je tu žiadne okno ani osvetlenie, čo vyhovuje cieľovej skupine kupujúceho.
Vzadu rozloženie oddeľuje I/O výstupy pracovnej stanice od hardvéru servera pod ním. Horný klaster obsahuje štyri 10 Gbps porty USB typu A, 10GbE a 1GbE RJ45 konektory, tri zvukové konektory, konzolový port Micro-USB od BMC a Mini DisplayPort, ktorý BMC napája na nastavenie. Dva kryty QSFP112 pre ConnectX-8 sa nachádzajú v hornej časti I/O štítu; vedľa nich sa nachádza odsávací ventilátor; tri kryty rozširujúcich slotov prebiehajú stredom; a napájací zdroj so vstupom C19 je v spodnej časti. Rovnako ako na WS300, Mini DisplayPort je výstup BMC pre počiatočné nastavenie a riešenie problémov; každý, kto chce na tomto počítači stolný počítač, potrebuje kartu RTX PRO.
Vnútri ET900N G3
Po odstránení bočného panela sa ET900N G3 javí ako blízky príbuzný WS300, čo sa aj očakávalo, keďže oba zdieľajú rovnakú základnú dosku NVIDIA. Superčip GB300 je umiestnený pod medenou chladiacou doskou na ľavej strane šasi, moduly SOCAMM sú pod vlastnými medenými doskami vedľa nej a ConnectX-8 pod tretím blokom v blízkosti zadných I/O portov. Z blokov vedie opletená trubica k rozdeľovaciemu potrubiu namontovanému na priečke šasi a odtiaľ k radiátorom. Tri sloty PCIe plnej dĺžky sú umiestnené pod superčipom, napájací zdroj zaberá spodný predný roh a kovový kryt zakrýva káblovú dráhu pozdĺž spodnej časti.
Usporiadanie vo vnútri zodpovedá rovnakému vzoru ako u modelu WS300: jeden chladič namontovaný vertikálne za prednou mriežkou a druhý pozdĺž vrchu, každý s radom ventilátorov, plus ventilátor šasi v zadnej časti. Chladiace potrubia sú objímkové a pripevnené k priečke pomocou suchých zipsov a rozdeľovacie potrubie spája vývody zo štyroch chladiacich dosiek tak, aby ku každému chladiču dosahovali iba dve potrubia.
Ventilátor optiky
Jediným chladiacim prvkom, ktorý v modeli WS300 nemá ekvivalent, je malý ventilátor namontovaný na konzole nad chladiacou doskou ConnectX-8, nasmerovaný na klietky QSFP112. Kvapalinová slučka spracováva samotný kremík SuperNIC, ale optické transceivery 400G generujú vlastné teplo a sú umiestnené v kovových klietkach, ku ktorým sa chladiaca doska dostane iba vedením. V iných testoch sme si všimli, že ConnectX-8 sa pri trvalom zaťažení zahrieva a že samotná optika sa môže prehriať, takže vyhradená cesta prúdenia vzduchu cez klietky je pekným dizajnovým prvkom pre každého, kto plánuje prevádzkovať ET900N G3 na optickom vlákne celé hodiny. S DAC, ktorými sme ho káblovali k druhej stanici GB300 pre hĺbkový ponor do klastrovej inferencie, ktorý stále prebieha, má ventilátor menej práce.
Úložisko, rozšírenie a napájanie
Spoločnosť ASUS dodala model ET900N G3 s jedným 2TB NVMe diskom pre operačný systém a softvérový balík NVIDIA v dvojici slotov M.2 2280 pripojených k rozhraniu Grace cez rozhranie PCIe 5.0 x4. Druhá dvojica slotov je pripevnená k integrovanému prepínaču PCIe zariadenia ConnectX-8 a dodáva sa prázdna.
Náš recenzovaný kus bol dodaný s grafickou kartou NVIDIA RTX PRO 2000 Blackwell v slote PCIe 5.0 x16, čo je jedna z konfigurácií, ktoré spoločnosť ASUS uvádza. Karta poskytuje obrazový výstup bez výrazného odčerpávania energie z energetického rozpočtu GB300 a spoločnosť ASUS tvrdí, že šasi dokáže osadiť až jednu kartu RTX PRO Blackwell. Pred benchmarkom sme vybrali RTX PRO 2000, takže Superchip mal plný akceleračný rozpočet, rovnaký stav ako pri WS300, a v tomto šasi sme netestovali vysokovýkonnú kartu RTX PRO; túto cestu a to, čo robí so zdieľaným energetickým rozpočtom, si rozoberieme v nasledujúcej recenzii GB300 Station.
Napájací zdroj je 1 600 W ATX jednotka, ktorú spoločnosť ASUS ohodnotila ako 80 PLUS Titanium, čo je o krok vyššie ako Platinum jednotka vo WS300. Titanium vyžaduje 94 % účinnosť pri 50 % zaťažení a vstupnom napätí 115 V v porovnaní s 92 % pre Platinum a je to jediná úroveň, ktorá stanovuje spodnú hranicu zaťaženia na 10 %, takže ET900N G3 by mal pri plnom zaťažení GB300 spotrebovať o niekoľko desiatok wattov menej. Rozpočet je stále zdieľaný: Grace, B300, čerpadlá, ventilátory, úložisko a akákoľvek karta RTX PRO odoberajú rovnakých 1 600 W a služba vsloshd od NVIDIA presúva priestor medzi Superchipom a doplnkovou GPU, keď sa ich odber mení, bez pevného limitu pre oba. Recenzia WS300 sa touto politikou zaoberá a tu sa nemení. Pre inštalácie v Severnej Amerike zostáva požiadavkou vyhradený 20 A obvod.
pripojenie
Dva porty QSFP112 zariadenia ConnectX-8 slúžia ako prepojenie medzi ET900N G3 a všetkým ostatným: úložiskom, druhou stanicou DGX alebo klastrovou štruktúrou. Tieto porty sa už v laboratóriu používajú, pričom ET900N G3 je káblovo pripojený k druhej stanici GB300 cez 400G DAC pre podrobný prehľad klastrovanej inferencie, ktorý zverejníme samostatne. 10GbE port Marvell spracováva bežnú hostiteľskú prevádzku a 1GbE port Realtek je vyhradený pre BMC.
Poznámky k testovaniu
Všetky výsledky v tejto recenzii pochádzajú z jednotky, ktorú spoločnosť ASUS dodala do nášho laboratória, v konfigurácii pamäte s 252 GB HBM3e a 496 GB LPDDR5X. Systém bežal bez nainštalovanej grafickej karty RTX PRO, takže superčip GB300 mal plný energetický rozpočet akcelerátora, čo zodpovedalo podmienkam nášho testovania WS300. Softvérový balík, konfigurácia vLLM, profily pracovnej záťaže a súbežné rozptyľovanie sú rovnaké ako tie, ktoré sme použili pre WS300, takže je možné tieto dva veže priamo porovnávať. Táto recenzia sa týka len výkonu; na tejto jednotke sme nemerali spotrebu energie ani teplotu.
Pracovné zaťaženia predstavujú dva rovnaké profily vLLM live-inference, ktoré spúšťame na každom lokálnom systéme AI: rovnaké pracovné zaťaženie s 512 vstupnými a 512 výstupnými tokenmi a pracovné zaťaženie s vysokým počtom preddopĺňaných údajov s 8 192 vstupnými a 1 024 výstupnými tokenmi, rozdelené od jedného do 128 súbežných streamov. Pre modely na hraniciach rozsahu porovnávame so serverom Dell PowerEdge XE7740 GPU vybaveným dvoma alebo štyrmi kartami RTX PRO 6000 , čo je najbližšia alternatíva v jednom zariadení pre tieto kontrolné body. Pre menšie modely porovnávame s jednou grafickou kartou RTX PRO 6000 v rovnakom XE7740, jednou NVL H200 v Dell PowerEdge R770 a GB10 DGX Spark, ktorú predstavuje Acer Veriton GN100 , rovnaký Spark, aký sme použili v recenzii WS300. Všetky nižšie uvedené čísla sú presné hodnoty z protokolov spustenia každého systému a výsledky DGX Spark sú prenesené z nášho testovania WS300.
Výkon inferencie
Hraničné modely na koherentnom pamäťovom fonde
Dôvodom existencie GB300 je obsluha modelov na oboch stranách hranice 252GB HBM3e u B300, takže začneme so štyrmi kontrolnými bodmi, ktoré ju prekračujú: DeepSeek V4 Flash a MiniMax M2.7 sa zmestia do HBM s dostatkom miesta, MiniMax M3 sa ledva zmestí a časť svojich expertov posúva do pamäte Grace a GLM-5.2 odľahčuje zhruba polovicu svojej hmotnosti. Na druhej strane každého grafu je najbližšia alternatíva v jednom boxe: karty RTX PRO 6000 spolu v PowerEdge XE7740 s expertným odľahčením pre hostiteľskú pamäť tam, kde je to potrebné.
DeepSeek V4 Flash je najjednoduchší prípad: natívny kontrolný bod FP8 s veľkosťou približne 20 GB, ktorý B300 obslúži bez námahy. Výstupná priepustnosť pri rovnakom zaťažení sa zvýšila zo 152 tokenov za sekundu s 1 streamom na 1 766 s 32 streammi, čím sa celková priepustnosť tokenov zvýšila na 3 532. V profile s vysokým počtom predfillov sa výkon ET900N G3 zvýšil zo 148 na 954 výstupných tokenov za sekundu, s celkovým počtom 8 587 tokenov. V rovnakom rozsahu 1 až 32 streamov dosiahla dvojica kariet RTX PRO 6000 výkon 803 výstupných tokenov za sekundu pri rovnakom zaťažení a 489 pri dlhých výzvach s nerovnomernou krivkou pri nízkej súbežnosti.
MiniMax M2.7 v kvantizácii NVIDIA NVFP4 zaberá približne 125 GB HBM a škáloval sa najviac zo štyroch. Rovnaká pracovná záťaž sa zvýšila z 214 výstupných tokenov za sekundu na jednom streame na 4 793 na 128 streamoch a celková priepustnosť dosiahla 9 586. Beh s intenzívnym predfillom sa škáloval na 1 744 výstupných tokenov za sekundu a celkovo 15 700 tokenov za sekundu pri 64 streamoch. Dve karty RTX PRO 6000 sledovali rovnaký tvar pri menej ako polovici výšky a dosiahli 1 932 výstupných tokenov za sekundu pri 128 streamoch pri rovnakej pracovnej záťaži a 511 pri dlhých výzvach.
MiniMax M3 ukazuje, aké je to ledva sa zmestiť do pamäte. Kontrolný bod NVFP4 je menší ako 252 GB, ale runtime a KV vyrovnávacia pamäť tiež potrebujú miesto, takže časť expertov sa nachádza v pamäti Grace a každý krok dekódovania, ktorý sa ich dotkne, prechádza cez NVLink-C2C. So špekulatívnym dekódovaním EAGLE3 dosiahol ET900N G3 1 041 výstupných tokenov za sekundu pri 32 streamoch pri rovnakom zaťažení a profil s vysokým počtom predfillov dosiahol vrchol 282 pri dvoch streamoch, udržal sa na 271 pri štyroch a klesol na 103 pri ôsmich, pretože dlhé výzvy spotrebovali zostávajúcu vyrovnávaciu pamäť. Štyri karty RTX PRO 6000 s rovnakým špekulatívnym dekodérom sa vyrovnali Station pri jednom a dvoch streamoch, posunuli sa zo štyroch streamov na 1 181 výstupných tokenov za sekundu pri 16 streamoch a potom klesli späť na 759 pri 32 streamoch. V profile s vysokým počtom predfillov štvorkartová krabica obsahovala približne 349 výstupných tokenov za sekundu pri štyroch streamoch, zatiaľ čo Station má 271. Model, ktorý sa nachádza priamo na hranici HBM, je jediným miestom v tejto sade, kde 384 GB VRAM na štyroch kartách konkuruje 252 GB HBM plus offload.
GLM-5.2 je prípad použitia, ktorý umožňuje iba koherentný fond. Kontrolný bod NVFP4 uchováva v pamäti Grace približne 215 GB expertných váh so špekulatívnym dekódovaním MTP a ET900N G3 ho obsluhoval rýchlosťou 35 výstupných tokenov za sekundu pre jeden stream a 139 pre 32 streamov pri rovnakom zaťažení, pričom celková priepustnosť dosiahla 277. V profile s vysokým zaťažením predfillom sa sweep rozbehol na 32 streamov, dosiahol 120 výstupných tokenov za sekundu a celkovo 1 079 tokenov. Štyri karty RTX PRO 6000, z ktorých každá uvoľňovala približne 30 GB do hostiteľskej pamäte, zvládli približne 40 výstupných tokenov za sekundu pri 32 streamoch, pričom sa pri dlhých výzvach od štyroch streamov sploštili na približne 9 až 10. Ani jeden zo systémov nedáva pocit, že by 433GB model pôsobil rýchlo, ale GB300 s rýchlosťou 396 GB/s LPDDR5X a 900 GB/s NVLink-C2C pre odľahčené experty sa neustále škáluje tam, kde sa končí hostiteľská pamäť pripojená k PCIe na štyroch kartách.
V porovnaní s MSI WS300 sa výsledky hraničného modelu ET900N G3 v každom bode, ktorý môžeme porovnať, pohybujú v rozmedzí približne 1 %: 1 766 výstupných tokenov za sekundu na DeepSeek V4 Flash pri 32 streamoch na oboch základných doskách, 4 793 oproti 4 801 na MiniMax M2.7 pri 128 streamoch, 1 041 na MiniMax M3 pri 32 streamoch na oboch a 139 na GLM-5.2 pri 32 streamoch na oboch.
Zdieľané modely proti RTX PRO 6000, H200 NVL a DGX Spark
Druhá polovica benchmarkingu využíva modely dostatočne malé na to, aby ich mohol obslúžiť každý systém: GPT-OSS-20B a 120B v natívnom MXFP4; Llama 3.1 8B v BF16 a FP8; Mistral Small 24B v BF16 a FP8; a Qwen3 Coder 30B v BF16 a FP8. Novinkou od recenzie WS300 je jedna NVL karta H200, karta od NVIDIA s kapacitou 141 GB, ktorá poskytuje porovnávaciu hodnotu akcelerátora dátových centier o jednu generáciu späť.
GPT-OSS-20B je najpriateľskejší test zo sady, kontrolný bod, ktorý každý systém pohodlne zvládne, a pri rovnakom zaťažení sa ET900N G3 škáloval na 22 041 výstupných tokenov za sekundu pri 128 streamoch, teda celkovo 44 082, oproti 7 937 pre RTX PRO 6000, 6 022 pre H200 NVL a 1 469 pre DGX Spark. V režime jedného streamu stanica vyprodukovala 536 výstupných tokenov za sekundu v porovnaní s 241 u karty, 270 u H200 a 50 u Sparku. Profil s vysokým počtom predfillov rozdiel ešte zväčšil: 9 555 výstupných tokenov za sekundu a celkovo 85 994 pri 128 streamoch pre stanicu, pričom RTX PRO 6000 dosiahla 2 482, H200 NVL 3 419 a Spark 468.
GPT-OSS-120B je miesto, kde pamäť začína triediť pole. ET900N G3 dosiahol 9 280 výstupných tokenov za sekundu pri rovnakom zaťažení a 128 streamoch, čo je zhruba trojnásobok RTX PRO 6000 s 3 064, 2.7-násobok H200 NVL s 3 376 a viac ako 18-násobok Spark s 500. Pri dlhých výzvach skončili menšie systémy hlboko za stanicou: RTX PRO 6000 dosiahol 1 169 výstupných tokenov za sekundu pri 128 streamoch a H200 NVL 1 825, zatiaľ čo stanica stále stúpala so 128 streammi a skončila na 5 023 s celkovou priepustnosťou 45 205 tokenov za sekundu.
Llama 3.1 8B v FP8 je najvyššie samostatné číslo v sade. ET900N G3 spracoval 25 602 výstupných tokenov za sekundu cez 128 streamov pri rovnakom zaťažení, celkovo 51 205, v porovnaní s 8 073 pre RTX PRO 6000 a 11 054 pre H200 NVL. Pokles z BF16 na FP8 zvýšil Station o približne 50 % (zo 17 074 na 25 602), zatiaľ čo RTX PRO 6000 získala približne 70 % a H200 NVL približne 37 % z rovnakej zmeny. Profil s vysokým počtom predfillov všetko skomprimoval, pričom Station dosiahla 6 164 výstupných tokenov za sekundu, karta 1 481 a H200 2 045.
Mistral Small 24B v 8. FP dosiahol najširšie pomery. ET900N G3 dosiahol vrchol 11 075 výstupných tokenov za sekundu pri rovnakom zaťažení, čo je 3.4-násobok RTX PRO 6000 s 3 242, 2.4-násobok H200 NVL s 4 624 a takmer 19-násobok Spark s 585. Pri dlhých výzvach RTX PRO 6000 dosiahol vrchol 484 výstupných tokenov za sekundu pri 64 streamoch a na tejto úrovni sa udržal; H200 NVL dosiahol vrchol 856 pri 64 streamoch a Station dosiahol 2 302 pri 128 streamoch.
Qwen3 Coder 30B, model zmiešaný s expertmi a malým počtom aktívnych parametrov, je miestom, kde sa rozdiel v jednom streame zmenšuje. Pri jednom streame a rovnakom zaťažení dodala RTX PRO 6000 169 výstupných tokenov za sekundu, zatiaľ čo Station dosiahla 319 a H200 NVL 211, čo je najbližšie, ako sa karta k Station dostáva spomedzi zdieľaných modelov. Dávkovanie rozdiel opäť zväčšuje: pri 128 streamoch dosiahol ET900N G3 12 439 výstupných tokenov za sekundu v FP8, čo je 3.1-násobok karty s 3 995 a 1.7-násobok H200 NVL s 7 459. V profile s vysokým počtom predfillov dosiahla Station 3 837 výstupných tokenov za sekundu, zatiaľ čo RTX PRO 6000 dosiahla vrchol 882 pri 64 streamoch a H200 NVL 1 820.
V rámci zdieľaných modelov dosiahol ET900N G3 2.8 až 3.9-násobok oproti jednej RTX PRO 6000 a 1.7 až 3.7-násobok oproti H200 NVL pri plnej súbežnosti, pričom rozdiel medzi oboma sa pri dlhých výzvach zväčšoval, keďže sa im vyčerpala kapacita vyrovnávacej pamäte KV. Oproti WS300 sa tieto štyri opäť nachádzajú v rozmedzí 1 %: 22 041 oproti 22 161 na GPT-OSS-20B, 9 280 oproti 9 294 na GPT-OSS-120B, 11 075 oproti 11 157 na Mistral Small FP8 a 12 439 oproti 12 425 na Qwen3 Coder FP8. Úplné porovnanie 14 modelov vrátane troch modelov s väčšími rozdielmi je uvedené v ďalšej časti.
Dve veže, jedna základná doska: ASUS ET900N G3 vs MSI WS300
ET900N G3 a MSI XpertStation WS300 sú rovnaké základné dosky NVIDIA GB300 DGX Station v dvoch OEM šasi a obe prešli rovnakými 14 modelmi, rovnakými dvoma pracovnými zaťaženiami a rovnakým súbežným testovaním v rovnakej zostave vLLM. Graf nižšie porovnáva maximálnu výstupnú priepustnosť ET900N G3 vo všetkých modeloch s modelmi WS300.
Z 28 párov model-zaťaženie sa 24 nachádza v rozmedzí 2 % od seba a väčšina z nich je len zlomok percenta v prospech WS300. Štyri sú mimo tohto pásma, tri z nich majú rovnaké zaťaženie: Llama 3.1 8B FP8 s výkonom o 3.5 % nižším ako WS300 (25 602 oproti 26 536 výstupným tokenom za sekundu), Qwen3 Coder 30B BF16 s výkonom o 4.6 % nižším ako WS300 (10 000 oproti 10 486) a Nemotron 3 Ultra 550B s výkonom o 5.2 % nižším ako WS300 (159 oproti 168), plus Qwen3 Coder 30B BF16 opäť s výkonom o 2.1 % nižším ako v dlhých výzvach. Každý údaj tu predstavuje jedno spustenie na každej veži, takže rozdiel 2 až 5 % medzi tromi modelmi zo 14 nie je niečo, čo by sme pripisovali šasi; Len si všímame dáta a rozdiel medzi nimi. Modely, ktoré sa spoliehajú na koherentný pamäťový fond, MiniMax M3 a GLM-5.2, dosahujú paritu alebo vyššiu pri oboch pracovných zaťaženiach; to je výsledok, ktorý je podľa nás pre platformu najdôležitejší: cesta Grace offload funguje v šasi ASUS rovnako ako v šasi MSI.
| Modelka | WS300 8 192/1 024 | ET900N G3 8 192/1 024 | delta | WS300 8 192/1 024 | ET900N G3 8 192/1 024 | delta |
|---|---|---|---|---|---|---|
| GPT-OSS-20B MXFP4 | 22,161 | 22,041 | -0.5% | 9,572 | 9,555 | -0.2% |
| GPT-OSS-120B MXFP4 | 9,294 | 9,280 | -0.2% | 5,038 | 5,023 | -0.3% |
| Lama 3.1 8B BF16 | 17,278 | 17,074 | -1.2% | 3,520 | 3,498 | -0.6% |
| Lama 3.1 8B FP8 | 26,536 | 25,602 | -3.5% | 6,189 | 6,164 | -0.4% |
| Lama 3.1 8B NVFP4 | 28,698 | 28,400 | -1.0% | 6,744 | 6,737 | -0.1% |
| Mistral Small 24B BF16 | 7,922 | 7,861 | -0.8% | 1,643 | 1,633 | -0.6% |
| Mistral Small 24B FP8 | 11,157 | 11,075 | -0.7% | 2,316 | 2,302 | -0.6% |
| Qwen3 kódovač 30B BF16 | 10,486 | 10,000 | -4.6% | 3,830 | 3,749 | -2.1% |
| Kódovač Qwen3 30B FP8 | 12,425 | 12,439 | + 0.1% | 3,851 | 3,837 | -0.4% |
| DeepSeek V4 Flash FP8 | 1,766 | 1,766 | 0.0% | 948 | 954 | + 0.6% |
| MiniMax M2.7 NVFP4 | 4,801 | 4,793 | -0.2% | 1,743 | 1,744 | + 0.1% |
| MiniMax M3 NVFP4 | 1,041 | 1,041 | 0.0% | 278 | 282 | + 1.3% |
| GLM-5.2 NVFP4 | 138 | 139 | + 0.4% | 118 | 120 | + 1.7% |
| Nemotron 3 Ultra 550B NVFP4 | 168 | 159 | -5.2% | 142 | 140 | -1.1% |
GPT-OSS-20B, prípad s najvyššou hustotou v sade, a GLM-5.2, prípad s odľahčením, vykazujú prekrytie bez pomeru: v oboch prípadoch WS300 sleduje ET900N G3 bod po bode.
Toto je porovnanie, na ktorom budeme stavať, keď laboratóriom prejde viac veží GB300. Nasleduje HP ZGX a ďalšie budú nasledovať a každá z nich vykonáva rovnaký test, takže všetky rozdiely medzi implementáciami OEM sa zobrazia tu v jednom grafe pre každú vežu, pričom modelové grafy budú obsahovať surové krivky.
Záver
ASUS ExpertCenter Pro ET900N G3 robí to, čo by mala druhá implementácia referenčnej platformy: potvrdzuje prvú. V rámci 14 modelov a dvoch pracovných zaťažení sa jeho maximálna priepustnosť vLLM dostala do 2 % od MSI XpertStation WS300 v 24 z 28 porovnaní, od 1 766 výstupných tokenov za sekundu na DeepSeek V4 Flash po 22 041 na GPT-OSS-20B, so štyrmi odchýlkami v jednom behu medzi 2 a 5 % pod touto hodnotou, a obsluhoval GLM-5.2 s 215 GB expertnej pamäte Grace rýchlosťami, ktoré štyri karty RTX PRO 6000 nedokázali dosiahnuť. Superčip GB300 nastavuje strop a ASUS odviedol dobrú prácu.
ASUS pridáva praktické vlastnosti: rukoväte premenia 27 kg vežu na niečo, čo môžu dvaja ľudia presúvať bez toho, aby sa museli držať panelov, ventilátor nad klietkami QSFP112 rieši potenciálny problém pre každého, kto hodiny používa 400G optiku, a zdroj Titanium znižuje spotrebu energie o niekoľko wattov. Hostiteľský modul Arm, 20A obvod, výstup pre displej iba BMC a zdieľaný rozpočet 1 600 W pri inštalácii veľkej grafickej karty sú realitou platformy, ktorá platí rovnako pre obe veže.
Stanica GB300 DGX zostáva najvýkonnejšou vecou, akú sme kedy na stole mali, a ASUS z jej verzie urobil dobrý spôsob, ako si ju kúpiť.
Na našom Najlepšie stolové počítače pre lokálnu umelú inteligenciu V rebríčku najlepších systémov GB300 sa teraz ET900N G3 umiestnil po boku WS300 ako testovaná alternatíva.
Amazonka