StorageReview.com

Recenze Dell Pro Max 16 Plus s Qualcomm AIC100: Vynikající pracovní stanice, experimentální akcelerátor

Spotřebitel  ◇  Workstation

Dell Pro Max 16 Plus má dva příběhy a ty jdou opačnými směry. Prvním je špičková mobilní pracovní stanice: 24jádrový procesor Intel Core Ultra 9 285HX, až 256 GB paměti CAMM2, tři sloty M.2, grafická karta NVIDIA RTX PRO Blackwell až do řady 5000 s 24 GB paměti GDDR7, sestava splňující standard MIL-STD-810H a šasi, do kterého Dell evidentně vložil veškeré inženýrské úsilí.

Druhou je recenzovaná SKU, která vyměňuje GPU za inferenční kartu Qualcomm AIC100 PC Inference Card, duální SoC modul postavený na křemíku Cloud AI 100 z roku 2019 a softwarový stack, který proměňuje většinu moderních inferenčních úloh v bolestivé zkoumání. Toto je varovný příběh o tom, co se stane, když je vlajková loď spárována se špatným akcelerátorem, a proč zákazníci potřebují porozumět softwarovému stacku, který stojí za řešením umělé inteligence, než podepíší objednávku. Než se dostaneme k tomu, proč, podívejme se na notebook jako celek.

Pro Max 16 Plus se umístil na vrcholu řady pracovních stanic Dell Pro Max a nabízí vyšší výkon než základní Pro Max 16 i štíhlejší Pro Max 16 Premium. Jeho jádrem je škálovatelný procesor Intel Core Ultra 9 285HX, 55wattový, 24jádrový čip s turbo boostem 5.5 GHz. Všechny konfigurace procesorů podporují technologii Intel vPro Enterprise, což posiluje firemní standardy notebooku. Cena začíná na 2 779 dolarech.

Grafické možnosti sahají od integrované grafiky Intel přes RTX PRO 1000 od NVIDIA s procesorem Blackwell až po RTX PRO 5000, kterou jsme recenzovali dříve a která disponuje působivými 24 GB paměti GDDR7. Konfigurace úložiště a paměti jsou stejně štědré: až 12 TB ve třech slotech M.2 Gen5 a až 128 GB paměti DDR5-6400 poskytované prostřednictvím modulu CAMM2 od Dellu.

Možnosti displejů sahají od základního IPS panelu s rozlišením 1920 x 1200 až po živý OLED dotykový displej s rozlišením 3840 x 2400. Mezi nimi se nachází varianta střední třídy s rozlišením 1920 x 1200, která přidává jas 500 nitů, variabilní obnovovací frekvenci 120 Hz a plné pokrytí DCI-P3. Díky více než 100 certifikacím ISV ​​mohou kreativní profesionálové očekávat plynulý chod svých aplikací.

Bezpečnostní funkce jsou připraveny pro podniky, včetně čtečky otisků prstů, podpory čipových karet, NFC, 8MP infračervené kamery pro rozpoznávání obličeje a systému Dell Control Vault 3. Balíček doplňuje standardní tříletá záruka, která podtrhuje roli notebooku jakožto seriózního nástroje pro seriózní práci.

Specifikace Dell Pro Max 16 Plus

Specifikace Dell Pro Max 16 Plus
Plošina
Procesor Intel Core Ultra 5 245HX
Intel Core Ultra 7 265HX
Intel Core Ultra 9 285HX
Operační systém Windows 11 Pro
Ubuntu Linux 24.04 LTS
Memory 16GB-128GB CSoDIMM nebo CAMM2, 1 slot
Grafika a akcelerace pomocí umělé inteligence
Grafické karty Intel integrovaná grafika
NVIDIA RTX PRO 1000 8GB
NVIDIA RTX PRO 2000 8GB
NVIDIA RTX PRO 3000 12GB
NVIDIA RTX PRO 4000 16GB
NVIDIA RTX PRO 5000 24GB
Qualcomm AI Cloud 100 64 GB (2x 32 GB)
Úložiště a zobrazení
Skladování Až 3x M.2 SSD, každý 4TB
Dostupné RAID 0/1/5
Display 16 palců 16:10
1920×1200, 300 nitů, 45 % NTSC, 60 Hz, nedotykový displej
1920×1200, 500 nitů, 100% DCI-P3, 120Hz VRR, nedotykový displej
3840×2400, 500 nitů, OLED, dotykový displej
Konektivita a napájení
Fotoaparát 8MP infračervený senzor
Bezdrátové připojení k síti Intel Wi-Fi 7 BE200, s Bluetooth 5.4 nebo bez něj
Dostupné mobilní širokopásmové připojení
Baterie 6článková 96Whr
Napájecí adaptér 165W nebo 280W
Bezpečnost a fyzické
Funkce zabezpečení Infračervená webkamera
čtečka otisků prstů
Čtečka čipových karet
NFC
Control Vault 3
Rozměry a hmotnost 1.22 x 10.18 x 14.17 palce
Počáteční hmotnost: 5.63 liber
Záruka Standardní tři roky, oprava na místě následující pracovní den

Stavět a navrhnout

Stejně jako předchozí recenzovaný model je i Pro Max 16 Plus neuvěřitelně robustní a držitelem certifikace MIL-STD-810H pro odolnost v náročných prostředích. Materiálová kombinace společnosti Dell se silně zaměřuje na udržitelnost a zahrnuje recyklovaný plast, recyklovaný hořčík a kobalt a bioplasty. V ruce se šasi zdá být mimořádně pevné, bez patrného ohybu. Zkrátka je postaveno jako tank.

Jedná se o robustní stroj. S tloušťkou 3,6 cm (včetně nožiček) a hmotností od 2,2 kg není určen pro časté cestování, ačkoli jeho rozměry 26,4 x 36,4 cm (10.18 x 14.17 palce) jsou na 16palcový displej s poměrem stran 16:10 poměrně kompaktní. Webkamera je umístěna v horní části víka a je doplněna posuvnou clonou pro ochranu soukromí; náš recenzovaný kus je dodáván s infračervenou verzí pro rozpoznávání obličeje.

Z estetického hlediska je designový jazyk společnosti Dell až příliš nenápadný. Šedočerný exteriér a decentní branding zdůrazňují, že se jedná o produkt spíše než o formu, než o produkt funkčnosti. Řada Pro Max Premium nabízí více vizuálního šmrncu na úkor výkonu a možností rozšíření.

Komplexní výběr portů začíná na levém okraji:

  • 2.5Gb/s RJ45 Ethernet
  • Výstup HDMI 2.1
  • Dva porty Thunderbolt 5 (USB-C)
  • čtečka karet SD
  • Volitelný slot pro čipové karty SmartCard

na pravé straně:

  • Zvukový konektor 3.5mm
  • Thunderbolt 4 (USB-C)
  • Dva porty USB 3.2 Gen1 typu A
  • Slot pro zámek

Na zadní hraně nejsou žádné porty. Bezdrátové připojení zajišťuje modul Intel BE200 s podporou Wi-Fi 7 a Bluetooth 5.4. V uživatelských konfiguracích lze Bluetooth vynechat a k dispozici je také mobilní širokopásmové připojení 5G.

Obrazovka a vstupní zařízení

Náš recenzovaný kus je vybaven 16palcovým displejem Dell s rozlišením 1920×1200 a obnovovací frekvencí 120 Hz VRR, který při každodenním používání vypadá skvěle. Barvy jsou zářivé a díky 100% pokrytí DCI-P3 je po kalibraci vhodný pro pracovní postupy citlivé na barvy. Jas 500 nitů také pomáhá udržet displej pohodlný při používání v jasnějším kancelářském nebo studiovém prostředí.

Klávesnice Dell se skvěle hodí pro dlouhé psaní, s klávesami plné velikosti, které poskytují lehký, citlivý pocit a jasnou hmatovou odezvu. Bílé podsvícení ji zajišťuje viditelnost i v tlumeném prostředí. Rozložení je do značné míry konvenční, ale nerovnoměrná velikost kláves se šipkami může občas způsobit chybné stisknutí a umístění kláves Home a End je zvláštní nevýhodou; sdílejí prostor s klávesami F11 a F12, takže povolení klávesové zkratky Fn-Lock (Fn + Esc) pro upřednostnění funkční řady vynutí stisknutí kláves Fn + F11 nebo F12 pro jejich přístup. Samostatné klávesy Page Up a Page Down by byly vítány; místo toho jsou to sekundární funkce kláves se šipkami nahoru a dolů, které jsou již tak nejnepraktičtějšími klávesami v clusteru. Tlačítko napájení, umístěné vpravo nahoře, slouží zároveň jako snímač otisků prstů.

Velkoryse dimenzovaný touchpad doplňuje 16palcový design. Jeho hladký antireflexní povrch přesně reaguje na dotyk a potlačení dotyku dlaní fungovalo během testování bezchybně.

Možnost upgradu

Pro Max 16 Plus je navržen s ohledem na rozšíření a nabízí značný potenciál pro upgrade. Disponuje třemi sloty M.2 Gen5 pro úložiště, slotem CAMM2 pro upgrade paměti a několika modulárními komponenty, včetně vyměnitelných portů USB-C.

Přístup k vnitřním částem je jednoduchý: odstraňte obvodové šrouby a zvedněte spodní panel zezadu dopředu. Uvnitř vás přivítá robustní chladicí systém se třemi ventilátory a rozměrná 96Whr baterie. Paměťový modul CAMM2 se nachází vpravo dole, pod samostatným chladičem a je lemován sloty M.2. Z fotografie je těžké to rozeznat, ale slot M.2 vlevo je ve skutečnosti naskládaný slot, který obsahuje dva disky ve stejném prostoru. Bezdrátová karta M.2, kterou lze také vyměnit uživatelem, se nachází těsně nad baterií.

Hvězda show: Qualcomm AIC100

Recenzovaná skladová jednotka Dell je dodávána s procesorem Qualcomm AI 100 NPU, což je jeden modul, který vedle sebe obsahuje dva SoC Qualcomm Cloud AI 100. Každý SoC přispívá 16 jádry AI, což je celkem 32 jader na modul, a každý nese vlastních 32 GB paměti LPDDR4x, které jsou hostiteli prezentovány jako dva samostatné NPU.

Společnosti Dell a Qualcomm inzerují zhruba 450 TOPS propustnosti INT8 a schopnost spouštět modely s parametry v rozsahu 100 miliard, přičemž Dell veřejně předvedl Llama 4 Scout (parametry 109B, MoE) běžící lokálně na notebooku. Oba SoC komunikují s hostitelem prostřednictvím akceleračního ovladače Linux QAIC s firmwarovými bloby upstreamovanými do linux-firmware.

Zatím je to rozumné. Čísla sama o sobě jsou velká. Problém je v křemíku pod těmito čísly.

Společnost Qualcomm oznámila čip Cloud AI 100 v dubnu 2019, otestovala jeho vzorky koncem roku 2020 a komerčně jej začala dodávat v první polovině roku 2021. Čip je postaven na 7nm uzlu a používá čtyři 64bitové řadiče LPDDR4X běžící na 2100 MHz (LPDDR4X-4200), které podle vlastní dokumentace architektury Cloud AI od společnosti Qualcomm poskytují paměťovou propustnost 136 GB/s na SoC.

Původně byl navržen s ohledem na formát PCIe. Nacpání dvou těchto čipů na vlastní modul a jeho osazení do notebooku roku 2025 nemění základní kompromisy. Jedná se o křemík z roku 2019 s technologií pamětí z roku 2019, aktualizovanou a přejmenovanou, ale architektonicky stejnou řadu. V době, kdy se objevil v Dell Pro Max 16 Plus, zbytek odvětví prošel HBM2e, HBM3, HBM3e a LPDDR5X a nyní směřuje ke GDDR7 a HBM4 na seriózních akcelerátorech s umělou inteligencí.

Ale hlubší problém je důležitější než jen šířka pásma paměti. V oboru existuje mnoho skvělých návrhářů čipů a inženýrských týmů, které chápou problém inference umělé inteligence na velmi hluboké úrovni, a samotná architektura Cloud AI 100 může být kompetentní. Problém je v tom, že softwaroví inženýři, kteří skutečně uvádějí produkt do provozu nebo do konce, již značně investovali do jiného ekosystému: CUDA. Pokud neexistuje silná motivace k přechodu, vývojáři se drží nástrojové řady, která již má skvělou podporu, dokumentaci a pomoc komunity. NVIDIA si brzy získala základnu vývojářů a vybudovala kolem ní obrovskou komunitu. AMD v tomto ohledu roky zaostávalo, ale nedávné verze ROCm jsou skutečně vynikající a rozdíl se zmenšuje. Řešení jako Mojo a MAX od Modular vám dokonce umožňují zacílit na NVIDIA nebo AMD se stejným kódem a někdy porazit nativní běhové prostředí. Každý jiný akcelerátor se však potýká s veřejným přijetím kvůli nedostatku softwarové podpory.

Veřejné přijetí je klíčové heslo. Velké organizace jako Google mohou investovat miliardy do XLA a JAX, aby rozjely TPU . Dobře financované soukromé startupy a laboratoře umělé inteligence si mohou psát vlastní jádra pro svou vlastní úzkou sadu modelů a nestarat se o to, že nikdo jiný nemůže replikovat stack, který nebudou vytvářet pro nekonečné množství případů veřejného použití; vytvářejí pro problémy, kterým čelí. Pro veřejného spotřebitele, nebo dokonce pro většinu podniků, je akcelerátor bez prosperujícího ekosystému veřejných vývojářů funkčně zbytečný. Strávíte týdny snahou dostat do něj svůj model a v okamžiku, kdy Hugging Face vydá novou architekturu, budete zírat na rekompilaci (nebo chybu nepodporovaného modelu), zatímco všichni na CUDA a ROCm mají nulovou podporu.

Takže to řeknu na rovinu: AIC100 v tomto notebooku je mrtvý. Žádný jednotlivec by si ho neměl kupovat. Žádná organizace by si ho neměla kupovat, pokud nemá technické zdroje a výslovný záměr vytvářet inferenci od nuly pro svou specifickou pracovní zátěž a pokud nesouhlasí s tím, že se zavazuje k údržbě tohoto stacku sama.

Realita softwaru a nástrojů

Abychom pochopili, proč je toto doporučení tak striktní, musíme se podívat na to, co vlastně zahrnuje odvození nákladů na tuto kartu.

Uživatelsky orientované části jsou rozděleny do dvou SDK a jedné wrapperové knihovny. Qualcomm Cloud AI Platform SDK dodává ovladač jádra (upstreamový ovladač accel/qaic v hlavní řadě Linuxu), firmware zařízení, běhové prostředí na kartě a nízkoúrovňová API. Apps SDK je nadřazená knihovna a poskytuje kompilátor qaic-exec, inferenční CLI qaic-runner, integraci běhového prostředí ONNX prostřednictvím poskytovatele spouštění QAIC, vazby Pythonu a fork vLLM. Knihovna Qualcomm efficient-transformers, nazývaná také QEfficient, je wrapper Hugging Face Transformers, který reimplementuje populární architektury LLM se statickými tvary, rozvržením mezipaměti KV a transformacemi grafů vyžadovanými AIC100. Qualcomm AI Hub je samostatný katalog modelů a produkt kompilace jako služba zaměřený spíše na zařízení třídy Snapdragon než AIC100, ačkoli sdílí branding.

Cesta kompilace je rigidní. Vezmete model PyTorch, exportujete ho pomocí torch.export nebo ONNX a předáte jej qaic-exec s příznaky jako -convert-to-fp16, -mxfp6-matmul, velikostí dávky, délkou kontextu a cílovým počtem SoC. Kompilátor provede plánování a umístění do paměti s předstihem a poté vygeneruje QPC, Qualcomm Program Container, zapečetěný binární soubor, který určuje rozložení paměti, tvar KV cache, velikost dávky, délku předfill sekvence a délku kontextu. Neexistuje žádný JIT. Podle vlastní dokumentace LLM od Qualcommu kompilátor AI 100 s předstihem předalokuje zdroje zařízení na základě délky promptu, délky generování, KV cache a velikosti dávky a Cloud AI 100 podporuje pouze statické vstupní tvary. Jakákoli změna těchto parametrů kompilace spustí další úplnou kompilaci, která může u malých modelů trvat mnoho minut a u velkých hodin.

Seznam podporovaných architektur je velmi krátký. Knihovna QEfficient a předpřipravený katalog QPC hostovaný na Zentree, na který Dell zákazníky upozorňuje, pokrývají z velké části starší modely a v roce 2026 se vyplatí používat jen hrstku z nich.

Novější kontrolní body nativní pro FP8 vyžadují rekvantizaci. Pokud je model dodáván nativně v MXFP4, jako je tomu u populárních modelů GPT-OSS, díváte se na proces konverze a rekompilace, místo abyste přidávali váhy. Nic z toho není nemožné obejít, pokud jste ochotni tuto práci odvést, ale je to neustálá daň.

Pak je tu problém se souběžností, což je místo, kde notebook selhává, a to i pro vývojáře zaměřené na výkon ihned po vybalení. Obrazy kontejnerů poskytované společností Dell, které Dell instruuje uživatele k načtení a spuštění pomocí vLLM, jsou založeny na QPC, které Zentree předkompiloval se specifickými tvary, a dodané kontejnery běží pouze s souběžností 1. Bez ohledu na tvar vstupní nebo výstupní sekvence získáte pro daný model jednu pevnou propustnost. Více paralelních požadavků neběží souběžně; jsou zařazovány do fronty a zpracovávány postupně pomocí vLLM. Nelze dynamicky dávkovat. Nelze použít kontinuální dávkování tak, jak vám vLLM nebo SGLang poskytuje zdarma na GPU Team Red nebo Green. Chcete-li dosáhnout jakékoli souběžnosti nad 1, musíte QPC znovu zkompilovat s větší velikostí dávky.

Příklady společnosti Dell představují tento notebook vývojářům a nejoblíbenějším případem použití umělé inteligence pro vývojáře je dnes kódování pomocí nástrojů jako Claude Code, OpenCode a podobně. Jeden požadavek na tyto nástroje se může rozdělit do několika paralelních volání LLM; tyto NPU tyto požadavky ihned po instalaci zařadí do fronty a zpracují je postupně, nikoli paralelně, takže něco, co by na NVIDIA Spark mohlo trvat několik sekund, bude na této konfiguraci trvat minuty.

Výkon

Systém, který společnost Dell poskytla k testování, má následující konfiguraci:

  • Procesor Intel Core Ultra 9 285HX
  • Inferenční karta pro PC Qualcomm AIC100
  • 128GB 6400MT CAMM2 DDR5
  • 4TB SSD

Před jakýmikoli čísly, metodologická poznámka. Jak je popsáno výše, AIC100 spouští předem kompilované QPC s fixní velikostí dávky, délkou sekvence a rozložením KV-cache. Dell dodává tento notebook s upravenou sadou předkompilovaných QPC hostovaných na Zentree a s obrazem kontejneru vLLM, který je stáhne při prvním spuštění. Tato sada předpřipravených QPC, poskytovaných prostřednictvím referenčního kontejneru Dell na úrovni souběžnosti 1, je to, co koncový uživatel skutečně obdrží po rozbalení počítače a následování dokumentace Dell, a to je konfigurace, kterou jsme testovali.

Máme nástroje, které nám pomohou udělat jinak. Mohli bychom stáhnout qaic-exec, vzít kontrolní bod, spustit ho pomocí torch.export, rekvantizovat, překompilovat QPC s větší velikostí dávky a vrátit ho zpět pomocí vLLM. Kdybychom chtěli, mohli bychom napsat vlastní jádra s ovladačem akcelerátoru QAIC. Rozhodli jsme se to neudělat, protože drtivá většina kupujících v cílové skupině tohoto notebooku, vývojáři, inženýři zvědaví na umělou inteligenci a pilotní týmy podniků, tuto práci dělat nebudou. Stáhnou kontejner, spustí ho a posoudí produkt podle toho, co z něj vyjde. Takže to jsme měřili.

Každý sloupec představuje QPC kompilovaný společností Qualcomm s vahami MXFP6 a mezipamětí MXINT8 KV, což je přesnost, kterou používají artefakty dodávané společností Dell napříč všemi oblastmi. Llama 3.2 1B je jediný model v grafu, který překračuje 100 TPS a dosahuje 128 TPS. Následuje Llama 3.2 3B s 56 TPS, Qwen3 4B s 45 TPS, Qwen3-Coder 30B-A3B s 35 TPS, Mistral 7B s 33 TPS a Llama 3.1 8B s 30 TPS. GPT-OSS 20B dosahuje hodnot 28.9, 28.5 a 28.4 TPS napříč profily 256/256, 1k/4k a 4k/1k, což potvrzuje sliby dokumentace společnosti Qualcomm ohledně kompilátoru AOT: jakmile je QPC sestaven pro daný tvar, rychlost dekódování je pevná a délka výzvy neovlivňuje cenu tokenu. Phi-4 uzavírá graf na 14 TPS.

Přestože se na tuto kartu vejdou větší modely než ty výše uvedené, neprovedli jsme jejich benchmark. Například u modelu Llama 4 Scout, který Dell veřejně předvádí, je nutné další snížení přesnosti na INT4 a v praxi méně kvantovaný a menší model překoná silně kvantovaný a větší model v mnoha pracovních zátěžích.

Dodávaný kontejner vLLM také spouští každý QPC s hodnotou batch_size=1 a v praxi jsme si ověřili, že vystavení dvou současných požadavků nezdvojnásobí propustnost. Druhý požadavek jednoduše čeká ve frontě softwaru, dokud nedokončí první. V dodávaném zásobníku není k dispozici žádné kontinuální dávkování, dávkování za provozu ani spekulativní dekódování. Pro kódovací agenty, jako je Claude Code nebo OpenCode, kteří rozdělují více paralelních volání LLM z jednoho tahu uživatele, toto omezení jednoho streamu promění to, co by mělo být několik sekund doby odezvy, v několikaminutové čekání na zeď. Zvýšení dimenze dávky vyžaduje překompilaci QPC na hostiteli, což nás vrací k padacím dveřím, kterými jsme již odmítli projít.

Porovnejme to s NVIDIA Spark. S délkou vstupní a výstupní sekvence 256/256 dokáže Spark spustit 120B model rychleji než Dell Qualcomm AIC 100 s 20B modelem. A to ani nejsou nejlepší čísla, která Spark může nabídnout, protože tyto výsledky byly získány pomocí jádra Marlin při spuštění softwarových revizí.

Shrnutí je stručné. Pro jednoho uživatele, jednu konverzaci a model dostatečně malý, aby 136 GB/s LPDDR4X na SoC nebylo závazným omezením (Llama 3.2 1B a pravděpodobně i Llama 3.2 3B), je AIC100 v tomto notebooku použitelný. Pro cokoli většího, v konfiguraci, kterou zákazník skutečně obdrží, kombinace dekódování jednoho streamu a kompilačního kanálu se statickým tvarem, který trestá jakýkoli tvar, který Qualcomm nepředepřál, nechává tento akcelerátor za integrovaným NPU a integrovanou GPU na stejném Intel Core Ultra HX, vedle kterého se nachází, natož samostatné SKU NVIDIA, se kterými lze objednat stejné šasi.

Pokud na vteřinu porovnáme hrubé specifikace, NVIDIA Spark nabízí 273 GB/s a my jsme testovali maximální dosažitelný počet flopů s plovoucí desetinnou čárkou (MAMF) na FP8 (E4M3) při 200 TFLOPs na jednom čipu. QAIC má inzerovat 272 GB/s napříč 2 čipy a 435 TFLOPS INT8. Takže teoreticky by měly fungovat podobně, ale model od Qualcommu zaostává kvůli softwaru.

Pro koho je to určeno a měli byste si to koupit?

Pro každého, kdo se dnes snaží seriózně pracovat s umělou inteligencí, je odpověď ne. Tuto konfiguraci si nekupujte.

Americký obchod společnosti Dell uvádí ceny SKU AIC100 pro Pro Max 16 Plus za 14 871,56 dolarů za nejvyšší konfiguraci (Core Ultra 9 285HX, 128 GB RAM, 4TB SSD), 9 661,56 dolarů za střední konfiguraci (Core Ultra 7 265HX, 64 GB, 1 TB) a 8 831,56 dolarů za základní SKU AIC100. Všechny modely se dodávají pouze s Ubuntu Linuxem, podpora Windows bude brzy k dispozici. Testované modely se cenově pohybují v rozmezí 14 000 až 15 000 dolarů.

Pro srovnání, NVIDIA DGX Spark se aktuálně prodává za 4 699 dolarů. Za tyto peníze získáte procesor GB10 Grace Blackwell Superchip , 128 GB unifikované paměti LPDDR5X, 4TB NVMe, grafický procesor Blackwell a zhruba 1 petaflop výpočetního výkonu FP4 pro umělou inteligenci, to vše podpořené kompletním softwarovým balíčkem CUDA, TensorRT-LLM, NIM a celým ekosystémem NVIDIA. Jeden DGX Spark překoná AIC100 v tomto notebooku pro téměř každou realistickou pracovní zátěž s umělou inteligencí a to se softwarem, který každý letos najatý inženýr umělé inteligence již umí používat. Za cenu našeho recenzovaného kusu byste si mohli koupit tři DGX Sparky, každý z nich vybavit monitorem, periferiemi a stolem a pořád vám zbydou peníze. Pokud vám malá umělá inteligence nestačí, pracovní stanice Dell Pro Max Tower T2 s procesorem Intel 285K, 128 GB RAM DDR5 a grafickou kartou NVIDIA RTX Pro 6000 se také pohybuje kolem 15 000 dolarů, v závislosti na velikosti SSD disku, který s ní spárujete.

Je těžké se zbavit pocitu, že Dell vložil do jinak vynikajícího šasi něco, co se rovná elektronickému odpadu. Pro Max 16 Plus s RTX PRO 5000 je fantastická mobilní pracovní stanice. Stejný stroj s AIC100 je v rámci záruky Dellu pořádný vědecký experiment.

Závěr

Pokud jste za pár let nadšený kutil a budete si tohle číst a narazili jste na jeden z těchto notebooků ve výprodeji za dvě stě nebo tři sta dolarů, určitě si ho pořiďte. Systém je opravitelný a upgradovatelný, klávesnice je dobrá a použití modulů AIC100 k něčemu zajímavému jako víkendový projekt je přesně ten druh zábavy s nízkými sázkami, kterou si tento hardware zaslouží.

Pokud se dnes snažíte seriózně pracovat s umělou inteligencí, nakonfigurujte si Pro Max 16 Plus doslova s ​​jakýmkoli jiným akcelerátorem. Mobilní grafická karta NVIDIA RTX PRO, a to i základní RTX PRO 1000, vám poslouží lépe než moduly AIC100. Integrovaná NPU Intel Core Ultra HX vám v mnoha praktických scénářích poslouží lépe, protože se alespoň zapojuje do Windows ML, OpenVINO a stávajícího stacku PC AI.

Jedna rada, kterou stojí za to pro Dell dát: Pro Max 16 Plus je vynikající šasi a řada Pro Max je jednou z nejsilnějších platforem pro mobilní pracovní stanice na trhu. SKU AIC100, v dodávané podobě, tento standard ani zdaleka nesplňuje. Experimentální nebo vývojářsky připravená produktová řada, která by byla jako taková jasně označena, by společnosti Dell poskytla způsob, jak dodávat nové akcelerátory zákazníkům, kteří si s nimi chtějí hrát, aniž by širší název Pro Max musel být zasazen za nánosy, které ještě nejsou připravené. Značka Pro Max stojí za to chránit a existuje čistý způsob, jak to udělat, a zároveň najít domov pro experimentální hardware.

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Kevin OBrien a Divyansh Jain