Křemík od AMD se pravděpodobně objevil jako první: mini počítače a notebooky Strix Halo se dodávaly se 128 GB unifikované paměti dlouho předtím, než se na scéně objevila NVIDIA. Ale desktopy s lokální umělou inteligencí jako kategorii NVIDIA fakticky vytvořila, když vložila superčip Grace Blackwell do litrové krabice a nazvala ho DGX Spark . Prezentace byla jednoduchá: stroj pro vývojáře s dostatkem unifikované paměti pro uložení schopných modelů, umístěný na stole, místo aby byl měřen v cloudu. AMD Ryzen AI Halo je odpovědí AMD na tento stroj. AMD jej oznámila spolu s řadou Ryzen AI Max PRO 400 v květnu 2026; předobjednávky byly zahájeny v červnu exkluzivně prostřednictvím Micro Center a v obchodech bude k dispozici od 10. července. Ryzen AI Halo přichází s podobnou velikostí, 128 GB unifikované paměti, cenou 3 999 dolarů a krátkým seznamem řešení, která z něj dělají výrazně odlišnou nabídku od Sparku.
AMD označuje Halo za svou první platformu pro vývojáře umělé inteligence, která vývojářům poskytuje rychlou a nenáročnou cestu k lokálnímu vývoji a spouštění umělé inteligence. Pod kapotou se nachází Ryzen AI Max+ 395, 16jádrový, 32vláknový procesor „Zen 5“ s integrovanou grafikou Radeon 8060S (40 výpočetních jednotek RDNA 3.5) a NPU XDNA 2 s výkonem 50 TOPS, to vše v rámci platformy, kterou AMD uvádí na trh s kombinovanou propustností umělé inteligence až 126 TOPS. 128GB paměť LPDDR5x pracuje s rychlostí 8000 MT/s, což poskytuje šířku pásma 256 GB/s, a celá platforma je napájena z jediného vstupu USB-C s výkonem 120 W. AMD uvádí, že paměťový fond je dostatečný pro uložení modelů s až 200 miliardami parametrů v paměti zařízení. Jedná se o kompletní mini pracovní stanici x86, což je kořen toho nejdůležitějšího rozdílu.
Tím rozdílem je Windows. Spark běží na operačním systému DGX od NVIDIA, který je založen na Linuxu, a nic jiného; Halo na stejném hardwaru spouští Windows 11 nebo vývojářský Linux od AMD. Nativní podpora Windows byla nejčastějším požadavkem, který jsme od lidí, kteří si Spark poohlíželi, slyšeli, a to mění tvar, pro koho je tento počítač určen. Vlastní pozici AMD ukazuje totéž: Windows a Linux versus Spark pouze s Linuxem ( alespoň k dnešnímu dni ).
Halo se od Sparku liší ještě tři rozhodnutí a každé z nich řeší stížnost, kterou jsme na stávajícího výrobce slyšeli. Halo používá standardní SSD disk M.2 2280 namísto méně běžného disku 2242, kterým je Spark vybaven, což otevírá mnohem širší škálu možností na trhu s náhradními díly, včetně kapacity 8 TB, pro každého, kdo chce disk vyměnit. Dodává se s variabilní grafickou pamětí (VGP) přednastavenou na maximální alokaci v obou operačních systémech, takže velké modely se načítají bez ručního ladění. Šasi je také obaleno podsvíceným stavovým kruhem, což je malá korekce oproti tmavým a nesvítícím jednotkám Spark, které někteří kupující obdrželi, v závislosti na výrobci OEM. Cena přístupu AMD se projeví na zadní straně krabice, kde není žádná vysokorychlostní fabric, pouze 10GbE, což omezuje možnosti víceuzlového clusteringu. To jsou kompromisy a definují pracovní zátěže, pro které je tento stroj postaven, ještě před spuštěním jakéhokoli benchmarku.
U ceny záleží na nuancích. Halo se s 2TB SSD diskem prodává za 3 999 dolarů, což je zhruba běžná cena pro základní systém třídy Spark. Srovnání závisí na tom, který Spark máte na mysli. DGX Spark od NVIDIA s větším diskem se nyní prodává blíže k 4 700 dolarům, což souvisí s nedostatkem dodávek LPDDR5X a NAND. Základní systémy Grace Blackwell od ASUSu a dalších se stále prodávají za kolem 4 000 dolarů a jsou dnes kótovány na Amazonu (partnerský odkaz). V porovnání s výchozím stavem kategorie je Halo na stejné úrovni a jeho argumentace spočívá spíše na výše uvedených rozhodnutích než na podbízení konkurence.
Halo jsme spustili pomocí lokálního balíčku umělé inteligence StorageReview v systémech Windows i Linux a výsledky jsou prezentovány spolu s analýzou designu a softwaru v celé této recenzi.
Key Takeaways
- Alternativa pro duální OS x86: Ryzen AI Halo je jediný počítač v kategorii Spark, který spouští Windows 11 nebo Linux na plnohodnotné platformě x86, a to za 3 999 dolarů s 2TB SSD diskem oproti 4 699 dolarům u DGX Spark Founders Edition.
- Paměť pro uložení velkých modelů: 128 GB unifikované paměti LPDDR5x-8000 s přenosovou rychlostí 256 GB/s podporuje modely s až 200 miliardami parametrů lokálně, s přednastavenou variabilní grafickou pamětí, takže se velké modely načítají bez ruční konfigurace.
- Nejsilnější Ryzen AI Max+ 395, který jsme testovali: Halo překonal HP Z2 Mini G1a a ZBook Ultra G1a téměř ve všech úlohách s Windows, včetně 37 316 v Cinebench R23 multi-core, 184.2 GIPS v 7-Zip a nejlepšího skóre Procyon AI v generování textu (Phi 1 192) a generování obrázků (SD 1.5 FP16 937).
- Výhry CPU, ztráty inference vs. Spark: Na Linuxu Halo v práci s CPU jednoznačně porazil DGX Spark, komprimoval o 11 % rychleji a dekomprimoval o 38 % rychleji v 7-Zip a dokončil kompilaci LLVM o 14 % dříve, ale ve většině scénářů obsluhy vLLM s vyšší souběžností zaostával 2x až 4x a v práci s GPT OSS 120B s vysokým počtem předfillů se jeho výkon protáhl až na 8.8x.
- Provozuschopné úložiště, skromné síťové připojení: Standardní pozice M.2 2280 otevírá možnost upgradu na 8 TB z dodatečných zařízení, ačkoli platforma sama o sobě převádí integrovaný Gen5 Micron 4600 na Gen4 a jediný 10GbE port bez vysokorychlostní fabric vylučuje víceuzlové clusterování, které umožňuje 200G ConnectX-7 u Sparku.
TECHNICKÉ ÚDAJE
| Specifikace | Systém AMD Ryzen s umělou inteligencí Halo |
|---|---|
| Procesor | |
| Procesor (CPU) | Procesor AMD Ryzen™ AI Max+ 395 16 jader / 32 vláken (architektura Zen 5) |
| GPU | Integrovaná grafická karta AMD Radeon™ 8060S 40 výpočetních jednotek (architektura RDNA™ 3.5) |
| NPU | Neuroprojektor AMD XDNA™ 2 |
| Memory | |
| Typ paměti | LPDDR5x |
| Kapacita paměti | 128GB |
| Rychlost paměti | 8000 MT / s |
| Paměťová šířka pásma | 256GB / s |
| Skladování | |
| Skladování | 2TB M.2 NVMe SSD (SED) |
| Sítě a konektivita | |
| Ethernet | 1 × 10GbE |
| Wi-Fi | Wi-Fi 7 |
| Bluetooth | Bluetooth 5.4 |
| Vstup / výstup | |
| USB | 3 × USB-C, 1 × USB-C (vstup napájení) |
| Výstup displeje | 1 × HDMI 2.1b |
| Systém | |
| TDP | 120W |
| Operační systém | Linux nebo Windows 11 |
| Rozměry | 150 × 150 × 45.4 mm (5.9 × 5.9 × 1.79 palce) |
| Hmotnost | Méně než 1.2 kg (2.65 liber) |
Konstrukce a design AMD Ryzen AI Halo
Systém AMD Ryzen AI Halo využívá kompaktní tvarový faktor podobný „NVIDIA Spark“ s rozměry pouhých 150 × 150 × 45.4 mm a hmotností méně než 1.2 kg. Hliníkové šasi se vyznačuje agresivním geometrickým ventilačním vzorem v horní a přední části, což systému dodává charakteristický vzhled a zároveň maximalizuje proudění vzduchu do chladicího systému. Navzdory svým malým rozměrům je platforma navržena jako plnohodnotná stolní pracovní stanice s umělou inteligencí, která je schopna zpracovávat aplikace pracovních stanic, lokální inferenci LLM a vývojové úlohy s umělou inteligencí.
Přední
Přední strana systému je záměrně čistá a téměř výhradně se skládá z velké větrací mřížky, která se rozprostírá po celé šířce šasi. Místo umístění portů na přední straně věnuje AMD tuto oblast proudění vzduchu, což umožňuje chladnému vzduchu vstupovat do systému přes velký vzorovaný vstupní otvor a zároveň zachovává přehlednost přední části. Stříbrný akcent podél spodní části šasi vytváří jemný vizuální kontrast k jinak matně černému krytu.
Zadní vstup / výstup
Veškeré externí připojení se nachází na zadní straně systému. Zleva doprava zadní panel obsahuje následující:
- Napájecí vstup USB-C
- Port USB-C s alternativním režimem DisplayPort
- Dva další porty USB-C
- Výstup HDMI 2.1b
- 10GbE RJ45 Ethernet
- Slot pro bezpečnostní zámek Kensington
Systém nabízí tři datové porty USB-C a jeden samostatný napájecí konektor USB-C, což umožňuje současné připojení více vysokorychlostních periferií a displejů. HDMI 2.1b poskytuje nativní výstup pro zobrazení, zatímco integrované ethernetové rozhraní 10GbE činí platformu vhodnou pro vysokorychlostní připojení k NAS, přenos datových sad s využitím umělé inteligence a lokální vývojová prostředí.
Interní design
Spodní strana desky Ryzen AI Halo je vybavena velkým perforovaným větracím otvorem, který nasává vzduch pro chlazení komponent namontovaných podél spodní strany desky, a čtyři gumové nožičky v rozích udržují jednotku stabilní na stole nebo poličce.
Po odšroubování čtyř šroubů zajišťujících spodní panel se odhalí slot pro M.2 SSD a několik komponent spodní části systému, včetně konektoru pro Wi-Fi kartu. V našem recenzovaném kusu tento slot obsahuje SSD disk Micron 4600 2TB Gen5 x4, zatímco zbytek desky od odkryté spodní strany chrání černá lepicí fólie.
Pro chlazení zvolila společnost AMD podobný přístup jako NVIDIA DGX Spark, a to pomocí dvou ventilátorů, které nasávají vzduch přes žebrovaný chladič a odsávají ho ven zadní částí šasi.
Po vyjmutí chladicí sestavy se na zorném poli objeví základní deska, která odhalí čip APU uprostřed, lemovaný paměťovými moduly po obou stranách a obvody VRM táhnoucí se po levém okraji. Stříbrný čtverec viditelný na čipu není tekutý kov ani pasta; je to zbytek pevné tepelné podložky nebo povlaku, který AMD nanesla jako rozhraní mezi čipem a chladičem, což vysvětluje jeho jednotný, suchý vzhled, spíše než mokrý, rozmazaný vzhled, který pasta nebo tekutý kov obvykle zanechávají.
Otočením chladiče se odhalí spodní strana jeho chladicí desky, kde se zrcadlově leštěná část přímo dotýká čipu. Zároveň jsou okolní zóny paměti a napájení pokryty předem nanesenými tepelnými podložkami různé tloušťky.
Testování výkonu AMD Ryzen AI Halo
Platformu AMD Ryzen AI Halo jsme vyhodnotili v systémech Windows a Linux, abychom posoudili její výkon v aplikacích pro pracovní stanice a úlohách zaměřených na umělou inteligenci. Pro testování ve Windows byl systém AMD Ryzen AI Halo porovnán se dvěma komerčně dostupnými systémy poháněnými procesorem Ryzen AI Max+ PRO 395: kompaktní stolní pracovní stanicí HP Z2 Mini G1a a 14palcovou mobilní pracovní stanicí HP ZBook Ultra G1a. Protože všechny tři systémy sdílejí stejnou základní procesorovou architekturu a integrovanou grafickou kartu Radeon 8060S, tato srovnání zdůrazňují, jak si platforma Halo vede v různých tepelných obálkách a systémových provedeních.
Pro testování Linuxu jsme se zaměřili na vývoj umělé inteligence a úložné úlohy a porovnali systém Ryzen AI Halo s procesorem NVIDIA DGX Spark. Tyto testy se zaměřily na benchmarking úložiště FIO a výkon inference vLLM, přičemž jsme porovnávali vývojářskou platformu založenou na procesoru Ryzen AI Halo od AMD s speciálně navrženým systémem NVIDIA pro vývoj umělé inteligence pro lokální inferenci modelů velkých jazyků.
Testované jednotky
UL Procyon: Počítačové vidění s umělou inteligencí
Benchmark Procyon AI Computer Vision poskytuje podrobný přehled o tom, jak inferenční enginy umělé inteligence fungují na profesionální úrovni. Díky integraci enginů od více dodavatelů poskytuje skóre výkonu, které přesně odráží možnosti zařízení. Benchmark hodnotí nejmodernější modely neuronových sítí porovnáním jejich výkonu akcelerace umělé inteligence napříč typy hardwaru – včetně CPU, GPU a NPU – což uživatelům umožňuje posoudit relativní efektivitu v celé řadě úloh a podmínek.
Pro zohlednění reálných úloh umělé inteligence používá benchmark šest různých modelů neuronových sítí, z nichž každý je vybrán pro svou relevanci pro moderní úlohy počítačového vidění. MobileNet V3 je kompaktní model zaměřený na mobilní zařízení určený pro identifikaci objektů v obrazech, zatímco Inception V4 provádí stejný úkol s hlubší a komplexnější architekturou.
YOLO V3 (You Only Look Once – Podívej se jen jednou) se specializuje na detekci objektů v reálném čase odhadováním pravděpodobností jejich výskytu. DeepLab V3, postavený na MobileNet V2, se zaměřuje na sémantickou segmentaci obrazu a shlukování pixelů. Real-ESRGAN, výpočetně nejnáročnější test, zvyšuje rozlišení obrazu z 250×250 na 1 000×1 000. ResNet 50 je robustní klasifikační model, který umožňuje efektivnější trénování hlubokých neuronových sítí.
Platforma Ryzen AI Halo poskytovala konzistentně silný výkon v oblasti inference umělé inteligence napříč procesorovými i grafickými úlohami. V testech procesorů dosáhla celkového skóre 216, což těsně zaostávalo za HP Z2 Mini s 227 body a pohodlně překonalo HP ZBook Ultra se 186 body. Inference GPU byla ještě působivější, systém Halo dosáhl nejvyššího celkového skóre 553 bodů, před ZBook Ultra (528) a Z2 Mini (528). Zaznamenala také nejrychlejší inferenci MobileNet V3 s časem 0.38 ms a náročnou úlohu REAL-ESRGAN dokončila za 185.08 ms, ve srovnání s 211.76 ms u Z2 Mini a 200.40 ms u ZBook Ultra.
| UL Procyon: Inference počítačového vidění s využitím umělé inteligence (čím nižší, tím lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) | HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Časy CPU | |||
| Celkové skóre počítačového vidění s umělou inteligencí (vyšší znamená lepší) | 216 | 227 | 186 |
| MobileNet V3 | 0.73 ms | 0.75 ms | 1.09 ms |
| ResNet 50 | 6.02 ms | 5.99 ms | 6.84 ms |
| Počátek V4 | 17.18 ms | 17.12 ms | 19.80 ms |
| DeepLab V3 | 29.21 ms | 21.20 ms | 28.27 ms |
| YOLO V3 | 35.60 ms | 36.58 ms | 41.64 ms |
| REAL-ESRGAN | 1,931.13 ms | 1,892.10 ms | 2,138.97 ms |
| Časy GPU | |||
| Celkové skóre počítačového vidění s umělou inteligencí (vyšší znamená lepší) | 553 | 528 | 583 |
| MobileNet V3 | 0.38 ms | 0.42 ms | 0.46 ms |
| ResNet 50 | 4.04 ms | 3.85 ms | 3.27 ms |
| Počátek V4 | 13.26 ms | 15.15 ms | 11.62 ms |
| DeepLab V3 | 12.72 ms | 10.98 ms | 10.72 ms |
| YOLO V3 | 11.17 ms | 12.64 ms | 10.57 ms |
| REAL-ESRGAN | 185.08 ms | 211.76 ms | 200.40 ms |
UL Procyon: Generování textu pomocí umělé inteligence
Benchmark Procyon AI Text Generation zefektivňuje testování výkonu AI LLM tím, že poskytuje stručnou a konzistentní metodu hodnocení. Umožňuje opakované testování napříč více modely LLM a zároveň minimalizuje složitost velkých velikostí modelů a proměnných faktorů. Byl vyvinut ve spolupráci s předními dodavateli hardwaru pro umělou inteligenci a optimalizuje použití lokálních akcelerátorů umělé inteligence pro spolehlivější a efektivnější hodnocení výkonu. Níže uvedené výsledky byly naměřeny pomocí TensorRT.
Referenční platforma Ryzen AI Halo vedla všechny testované jazykové modely v benchmarkovém generování Procyon AI. Dosáhla nejvyššího celkového skóre Phi s hodnotou 1 192, ve srovnání s 965 u HP Z2 Mini a 922 u HP ZBook Ultra. Mistral sledoval podobný trend se skóre 998, před 850 a 829, zatímco Llama3 skončila s 847 a překonala konkurenční systémy s 766 a 756. Platforma Halo také zkrátila dobu do prvního tokenu napříč všemi modely a vygenerovala první token Phi za pouhých 0.996 sekundy, což je téměř poloviční latence systémů HP. Ačkoli propustnost generování tokenů občas zvýhodňovala Z2 Mini, výrazně nižší latence spuštění platformy Halo vedla k nejlepším celkovým skóre v benchmarku.
| UL Procyon: Generování textu pomocí umělé inteligence | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Celkové skóre Phi | 1,192 | 965 | 922 |
| Čas do prvního tokenu výstupu Phi | 0.996 sekund | 1.898 sekund | 1.956 sekund |
| Výstupní tokeny Phi za sekundu | 55.271 tokenů/s | 68.967 tokenů/s | 64.986 tokenů/s |
| Celková doba trvání fí | 56.237 sekund | 52.666 sekund | 55.501 sekund |
| Celkové skóre Mistralu | 998 | 850 | 829 |
| Čas do prvního tokenu na výstupu Mistralu | 1.603 sekund | 2.734 sekund | 2.783 sekund |
| Výstupní žetony Mistralu za sekundu | 35.027 tokenů/s | 43.358 tokenů/s | 41.992 tokenů/s |
| Celková doba trvání Mistralu | 88.582 sekund | 81.716 sekund | 84.065 sekund |
| Celkové skóre Lamy3 | 847 | 766 | 756 |
| Čas do prvního tokenu výstupu Llama3 | 1.963 sekund | 2.545 sekund | 2.578 sekund |
| Výstupní tokeny Llama3 za sekundu | 34.630 tokenů/s | 36.752 tokenů/s | 36.243 tokenů/s |
| Celková doba trvání Llama3 | 92.026 sekund | 91.987 sekund | 93.200 sekund |
| Celkové skóre Lamy2 | N / A | 936 | 929 |
| Čas do prvního tokenu výstupu Llama2 | Není k dispozici sekundy | 3.813 sekund | 3.860 sekund |
| Výstupní tokeny Llama2 za sekundu | N/A tokeny | 24.685 tokenů/s | 24.619 tokenů/s |
| Celková doba trvání Llama2 | Není k dispozici sekundy | 136.077 sekund | 136.720 sekund |
UL Procyon: Generování obrazu AI
Benchmark Procyon AI Image Generation nabízí konzistentní a přesný způsob měření výkonu inferenčních procesů umělé inteligence napříč hardwarem, od nízkoenergetických NPU až po špičkové GPU. Zahrnuje tři testy: Stable Diffusion XL (FP16) pro špičkové GPU, Stable Diffusion 1.5 (FP16) pro středně výkonné GPU a Stable Diffusion 1.5 (INT8) pro zařízení s nízkou spotřebou energie. Benchmark používá optimální inferenční engine pro každý systém, což zajišťuje spravedlivé a srovnatelné výsledky.
Generování obrazu se ukázalo být jednou z nejsilnějších úloh pro Ryzen AI Halo. V testu Stable Diffusion 1.5 FP16 dosáhla platforma Halo celkového skóre 937, oproti 725 u Z2 Mini a 648 u ZBook Ultra, přičemž doba generování se zkrátila na 106.7 sekundy oproti 137.8 a 154.2 sekundám. Stable Diffusion XL vykázal stejně silný náskok, systém Halo dokončil test za 878.5 sekundy, což je přibližně o 174 sekund rychleji než Z2 Mini a o více než 450 sekund rychleji než ZBook Ultra. Platforma také dokončila benchmark Stable Diffusion 1.5 INT8 s celkovým skóre 9 158, což je úloha, kterou žádný z porovnávaných systémů HP nedosahuje.
| UL Procyon: Generování obrazu pomocí umělé inteligence | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Stabilní difúze 1.5 (FP16) – Celkové skóre | 937 | 725 | 648 |
| Stabilní difúze 1.5 (FP16) – Celkový čas | 106.7 sekund | 137.815 sekund | 154.203 sekund |
| Stabilní difúze 1.5 (FP16) – rychlost generování obrazu | 6.670 s/obrázek | 8.613 s/obrázek | 9.638 s/obrázek |
| Stabilní difúze 1.5 (INT8) – Celkové skóre | 9,158 | N / A | N / A |
| Stabilní difúze 1.5 (INT8) – Celkový čas | 27.298 sekund | N / A | N / A |
| Stabilní difúze 1.5 (INT8) – rychlost generování obrazu | 3.412 s/obrázek | N / A | N / A |
| Stabilní difúze XL (FP16) – Celkové skóre | 682 | 570 | 451 |
| Stabilní difúze XL (FP16) – celkový čas | 878.493 sekund | 1,052.468 sekund | 1,329.592 sekund |
| Stabilní difúze XL (FP16) – rychlost generování obrazu | 54.906 s/obrázek | 65.779 s/obrázek | 83.100 s/obrázek |
SPECworkstation 4
Benchmark SPECworkstation 4.0 je komplexní nástroj pro vyhodnocení všech klíčových aspektů výkonu pracovních stanic. Poskytuje reálné měření výkonu CPU, grafiky, akcelerátoru a disku a poskytuje profesionálům data potřebná k informovanému rozhodování o jejich investicích do hardwaru. Benchmark zahrnuje specializovanou sadu testů zaměřených na úlohy umělé inteligence a strojového učení, jako jsou úlohy datové vědy a inferenční testy založené na ONNX Runtime, což odráží rostoucí význam umělé inteligence/strojového učení v prostředí pracovních stanic. Zahrnuje sedm vertikál a čtyři hardwarové subsystémy a poskytuje podrobné a relevantní měření výkonu dnešních pracovních stanic.
Test SPECworkstation 4 zdůraznil vyvážené možnosti pracovních stanic platformy Ryzen AI Halo. Nejvyšší skóre dosáhla ve finančních službách (2.92), médiích a zábavě (2.97), designu produktů (2.22) a produktivitě a vývoji (1.27), čímž v těchto kategoriích překonala HP Z2 Mini i HP ZBook Ultra. Z2 Mini mírně vedl v energetických službách (2.50 vs. 2.35) a biologických vědách (2.60 vs. 2.33). Celkově referenční platforma Halo prokázala silný výkon napříč profesionálními úlohami v benchmarku a zůstala konkurenceschopná ve všech testovaných kategoriích.
| SPECworkstation 4.0.0 (Vyšší znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S)
|
HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Energie | 2.35 | 2.50 | 2.20 |
| Finanční služby | 2.92 | 2.35 | 1.60 |
| Life Sciences | 2.33 | 2.60 | 2.20 |
| Média a zábava | 2.97 | 2.22 | 1.90 |
| Produktový design | 2.22 | 2.00 | 1.74 |
| Produktivita a rozvoj | 1.27 | 1.00 | 1.03 |
Luxmark
Luxmark je benchmark GPU, který využívá LuxRender, open-source ray-tracing renderer, k vyhodnocení výkonu systému s vysoce detailními 3D scénami. Tento benchmark je užitečný pro posouzení grafických renderovacích schopností serverů a pracovních stanic, zejména pro vizuální efekty a architektonické vizualizační aplikace, kde je přesná simulace světla klíčová.
Výsledky testu Luxmark ukázaly minimální rozdíl mezi třemi platformami Ryzen AI Max+ 395. Referenční systém Halo dosáhl nejvyššího skóre v testu Food s hodnotou 4 158, čímž předběhl Z2 Mini (3 943) a ZBook Ultra (3 915). V testu Hallbench dosáhl skóre 8 014, což je mírně méně než Z2 Mini s 8 477, ale více než ZBook Ultra s 7 833. Celkově výsledky naznačují, že systémy postavené na grafické kartě Radeon 8060S poskytují velmi podobný výkon při sledování paprsků bez ohledu na provedení.
| Luxmark (vyšší znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Hallbench | 8,014 | 8,477 | 7,833 |
| Jídlo | 4,158 | 3,943 | 3,915 |
7-zipová komprese
Benchmark komprese 7-Zip vyhodnocuje výkon CPU během komprese a dekomprese a měří výkon v GIPS (Giga instrukce za sekundu) a využití CPU. Vyšší GIPS a efektivní využití CPU naznačují vynikající výkon.
Platforma Ryzen AI Halo vedla v benchmarku 7-Zip ve všech hlavních kategoriích. Dosáhla kompresního hodnocení 176.7 GIPS, ve srovnání se 139.3 GIPS u HP Z2 Mini a 139.6 GIPS u ZBook Ultra. Dekompresní výkon zůstal stejně silný, a to 191.6 GIPS, čímž překonal 164.0 GIPS u Z2 Mini a 174.0 GIPS u ZBook Ultra. Dohromady platforma Halo dosáhla nejvyššího celkového hodnocení 184.2 GIPS, čímž překonala konkurenční systémy zhruba o 20 % a prokázala vynikající celočíselnou propustnost pro úlohy vytváření a extrakce archivů.
| 7-Zip kompresní benchmark (vyšší znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) | |||
|---|---|---|---|---|---|---|
| Komprese | ||||||
| Aktuální využití CPU | 2,741% | 2,734% | 2,868% | |||
| Aktuální jmenovitý proud/spotřeba | 6.370 GIPS | 5.136 GIPS | 4.883 GIPS | |||
| Proud | 174.589 GIPS | 140.405 GIPS | 140.061 GIPS | |||
| Výsledné využití CPU | 2,751% | 2,718% | 2,855% | |||
| Výsledné hodnocení/použití | 6.424 GIPS | 5.126 GIPS | 4.890 GIPS | |||
| Výsledné hodnocení | 176.742 GIPS | 139.298 GIPS | 139.617 GIPS | |||
| Dekomprese | ||||||
| Aktuální využití CPU | 2,568% | 2,343% | 2,904% | |||
| Aktuální jmenovitý proud/spotřeba | 7.670 GIPS | 6.805 GIPS | 6.029 GIPS | |||
| Proud | 196.986 GIPS | 159.451 GIPS | 175.104 GIPS | |||
| Výsledné využití CPU | 2,469% | 2,414% | 2,887% | |||
| Výsledné hodnocení/použití | 7.766 GIPS | 6.793 GIPS | 6.028 GIPS | |||
| Výsledné hodnocení | 191.645 GIPS | 163.969 GIPS | 174.046 GIPS | |||
| Celkové hodnocení | ||||||
| Celkové využití CPU | 2,610% | 2,566% | 2,871% | |||
| Celkové hodnocení/využití | 7.095 GIPS | 5.959 GIPS | 5.459 GIPS | |||
| Celkové hodnocení | 184.194 GIPS | 151.634 GIPS | 156.832 GIPS | |||
Benchmark Blenderu
Blender je open-source 3D modelovací aplikace. Tento benchmark byl spuštěn pomocí utility Blender Benchmark. Skóre se měří ve vzorcích za minutu, přičemž vyšší hodnoty znamenají lepší výkon.
Další oblastí, kde Ryzen AI Halo exceloval, bylo vykreslování CPU. V režimu Monster dosáhl 244.7 vzorků za minutu, čímž předběhl HP Z2 Mini (224.3) a HP ZBook Ultra (189.3). Junkshop následoval se 159.4 vzorky za minutu, ve srovnání se 149.5 a 129.4, zatímco Classroom dosáhl 131.6 vzorků za minutu, čímž překonal Z2 Mini (116.3) zhruba o 13 % a ZBook Ultra (94.1) o téměř 40 %. Tyto výsledky ukazují, že Ryzen AI Max+ 395 poskytuje vynikající výkon při vícevláknovém vykreslování i přes kompaktní rozměry pracovní stanice.
| Blender Benchmark CPU (vzorky za minutu, vyšší je lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Netvor | 244.7 vzorků/m² | 224.3 vzorků/m² | 189.29 vzorků/m² |
| Veřejné haraburdí | 159.4 vzorků/m² | 149.5 vzorků/m² | 129.42 vzorků/m² |
| Třída | 131.6 vzorků/m² | 116.3 vzorků/m² | 94.14 vzorků/m² |
Výsledky vykreslování pomocí GPU byly napříč systémy mnohem podobnější. Referenční platforma Halo vykreslila scénu Monster rychlostí 704.2 vzorků za minutu, což je zaostávalo za Z2 Mini (745.6), ale před ZBook Ultra (661.5). Junkshop se prakticky dělil mezi platformu Halo (366.6) a Z2 Mini (366.5). Zároveň systém Halo dosáhl nejvyššího skóre v Classroomu s 361.5 vzorky za minutu, čímž těsně překonal Z2 Mini (359.0) a ZBook Ultra (333.3). Výsledky naznačují, že Radeon 8060S poskytuje pozoruhodně konzistentní výkon vykreslování pomocí GPU napříč implementacemi.
| Blender Benchmark GPU (Vzorky za minutu, vyšší je lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Netvor | 704.2 vzorků/m² | 745.55 vzorků/m² | 661.50 vzorků/m² |
| Veřejné haraburdí | 366.6 vzorků/m² | 366.54 vzorků/m² | 341.92 vzorků/m² |
| Třída | 361.51 vzorků/m² | 359.01 vzorků/m² | 333.26 vzorků/m² |
y-cruncher
y-cruncher je vícevláknový, škálovatelný program schopný vypočítávat pí a další matematické konstanty v bilionech číslic. Od svého uvedení na trh v roce 2009 se stal populárním nástrojem pro benchmarking a zátěžové testování pro přetaktovače a hardwarové nadšence.
Výsledky y-cruncheru se rozdělily podle velikosti výpočtu. Při výpočtu s 1 miliardou a 2.5 miliardami číslic všechny tři systémy dokončily výpočet s odstupem několika desetin sekundy, přičemž systémy HP byly nepatrně napřed. S rostoucí zátěží se Halo odtrhl a dokončil výpočet s 5 miliardami číslic za 71.948 sekundy, ve srovnání se 75.021 sekundami u Z2 Mini a 78.19 sekundami u ZBook Ultra. S 10 miliardami číslic dokončil Halo za 151.409 sekundy, což je zhruba o 6 % více než Z2 Mini a o 12 % více než ZBook Ultra, což naznačuje, že šasi stolního počítače lépe snáší velkou vícevláknovou zátěž s prodlužujícími se časy běhu.
| Y-Cruncher (celkový výpočetní čas) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| 1 miliard | 13.193 sekund | 12.965 sekund | 12.93 sekund |
| 2.5 miliard | 34.578 sekund | 34.533 sekund | 34.91 sekund |
| 5 miliard | 71.948 sekund | 75.021 sekund | 78.19 sekund |
| 10 miliard | 151.409 sekund | 160.252 sekund | 171.72 sekund |
Geekbench 6
Geekbench 6 je multiplatformní benchmark, který měří celkový výkon systému.
Geekbench 6 posílil vyvážený výkonnostní profil platformy Halo. Dosáhla nejvyššího skóre 2 986 v single-core testu, čímž předběhla HP Z2 Mini (2 862) a ZBook Ultra (2 825). Výkon více jader také vedl srovnání s 18 068. Radeon 8060S zaznamenala nejvyšší skóre OpenCL GPU s 92 883, čímž těsně překonala Z2 Mini (91 591) a pohodlně překonala ZBook Ultra (85 337). Konzistentní náskok v testování CPU a GPU ilustruje všestranný výkon platformy Ryzen AI Max+ 395.
| Geekbench 6 (Vyšší znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Jednojádrový procesor | 2,986 | 2,862 | 2,825 |
| Vícejádrový procesor | 18,068 | 17,210 | 17,562 |
| GPU OpenCL | 92,883 | 91,591 | 85,337 |
Cinebench R23
Cinebench R23 je široce uznávaný benchmark pro hodnocení výkonu CPU v úlohách 3D renderování. Je poháněn enginem Cinema 4D a měří, jak dobře procesor zvládá jednovláknové a vícevláknové úlohy, a nabízí tak přehled o celkové odezvě a možnostech paralelního zpracování.
Cinebench R23 ukázal velmi těsný souboj mezi oběma desktopovými implementacemi Ryzen AI Max+ 395. Referenční platforma Halo dosáhla vícejádrového skóre 37 316, čímž překonala HP Z2 Mini s 37 156 body, zatímco obě snadno překonaly HP ZBook Ultra s 29 112 body. Výkon v jednojádrovém režimu sledoval stejný vzorec, přičemž platforma Halo dosáhla skóre 2 047 bodů, ve srovnání s 2 020 body u Z2 Mini a 1 984 body u ZBook Ultra. Přestože rozdíly oproti Z2 Mini byly malé, systém Halo se konzistentně umístil na vrcholu benchmarku.
| Cinebench R23 (Vyšší znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Vícejádrové | 37,316 | 37,156 | 29,112 |
| Jednojádrový | 2,047 | 2,020 | 1,984 |
Cinebench 2024
Cinebench 2024 staví na základech R23 zavedením renderovacích testů založených na GPU a zároveň si zachovává zaměření na výkon CPU. V této části zkoumáme pouze skóre CPU, které nabízí aktualizovaný pohled na to, jak dobře si jednotlivé systémy poradí s moderními 3D renderovacími úlohami.
Novější benchmark Cinebench 2024 odrážel výsledky z R23. Ryzen AI Halo zaznamenal nejvyšší skóre v multi-core testu s hodnotou 1 916, těsně před HP Z2 Mini (1 906) a udržel si značný náskok před HP ZBook Ultra (1 579). Výkon v single-core testu také zvýhodnil platformu Halo se 116 body ve srovnání se 112 body u Z2 Mini a 111 body u ZBook Ultra. I když rozdíly mezi stolními systémy zůstaly malé, výsledky posilují schopnost Ryzen AI Max+ 395 poskytovat konzistentně špičkový renderovací výkon CPU.
| Cinebench 2024 (Vyšší hodnota znamená lepší) | AMD Ryzen AI Halo (Ryzen AI Max+ 395 | Radeon 8060S) |
HP Z2 Mini G1a (Ryzen AI Max+ PRO 395 | Radeon 8060S) | HP ZBook Ultra G1a 14″ (Ryzen AI Max+ PRO 395 | Radeon 8060S) |
|---|---|---|---|
| Vícejádrové | 1,916 | 1,906 | 1,579 |
| Jednojádrový | 116 | 112 | 111 |
Benchmarky Phoronixu
Phoronix Test Suite je open-source automatizovaná benchmarkingová platforma, která podporuje přes 450 testovacích profilů a více než 100 testovacích sad prostřednictvím OpenBenchmarking.org. Zajišťuje vše od instalace závislostí až po spouštění testů a sběr výsledků, takže je ideální pro porovnávání výkonu, validaci hardwaru a průběžnou integraci. Podíváme se na výkon v testech Stream, 7-Zip a LLVM.
Při pohledu na benchmarkovou sadu Phoronix jsme pozorovali poměrně rovnoměrné rozdělení mezi platformou AMD Ryzen AI Halo a NVIDIA DGX Spark. Systém Ryzen AI Halo konzistentně vedl v úlohách zaměřených na CPU, když překonal DGX Spark o 11 % v kompresi 7-Zip, o 38 % v dekompresi 7-Zip a dokončil test kompilace LLVM o 14 % rychleji. DGX Spark na druhou stranu vykazoval silnější trvalou propustnost paměti, když vedl testy STREAM Scale, Triad a Add o 17 %, 13 % a 15 %. Halo si udržel 18% náskok v benchmarku STREAM Copy, což ilustruje, že ačkoli oba systémy jsou vysoce výkonné, platforma Ryzen AI Halo upřednostňuje univerzální výpočetní výkon, zatímco DGX Spark vykazuje vyšší propustnost v úlohách zaměřených na propustnost paměti.
| test | AMD Ryzen AI Halo | NVIDIA DGX Spark | Vítěz |
|---|---|---|---|
| 7-Zip komprese (MIPS) | 186,921 | 169,052 | Svatozář (+11 %) |
| 7-Zip dekomprese (MIPS) | 146,109 | 106,084 | Svatozář (+38 %) |
| STREAM kopírování (MB/s) | 145,363 | 123,730 | Svatozář (+18 %) |
| Měřítko STREAM (MB/s) | 110,611 | 128,970 | Jiskra (+17 %) |
| STREAM triáda (MB/s) | 107,105 | 121,433 | Jiskra (+13 %) |
| Přidat STREAM (MB/s) | 107,022 | 122,815 | Jiskra (+15 %) |
| Kompilace LLVM (Make, sekundy) | 431.8 | 504.3 | Halo (o 14 % rychlejší) |
Benchmark výkonnosti FIO
Pro měření výkonu úložiště napříč běžnými metrikami v oboru používáme fio. Náš tradiční test SSD disků předem předpokládá, že každý disk bude se dvěma plnými zápisy jako sekundární disk; zde jsme každý disk testovali v systému, prostřednictvím souborového systému. Dříve jsme testovali systémy NVIDIA s GDSIO, ale AMD nenabízí srovnatelný test úložiště s přímým přístupem k GPU, takže spuštění fio na úrovni souborového systému na obou platformách je staví do rovných podmínek, což je důležitější než samostatné benchmarkování disků.
Jak NVIDIA DGX Spark (Founders Edition), tak AMD Ryzen AI Halo jsou dodávány s diskem PCIe Gen5, takže na papíře mají obě platformy shodné limity pro šířku pásma disku. V praxi však disk Halo v tomto systému běží na rychlostech linky PCIe Gen4, což omezuje dostupnou šířku pásma hluboko pod úroveň, kterou je disk samotný schopen zvládnout. Toto omezení rychlosti linky je dobré mít na paměti v celé této části, protože představuje významnou část rozdílu v šířce pásma mezi těmito dvěma platformami.
V této části se zaměříme na následující benchmarky FIO:
- 128K sekvenční
- 64K Náhodné
- 16K sekvenční
- 16K Náhodné
- 4K Náhodné
128K sekvenční čtení
Při jednovláknovém sekvenčním čtení 128K dat v hluboké frontě (64/1) dosáhl NVIDIA DGX Spark rychlosti 13 399,6 MB/s, což je téměř dvojnásobek oproti 6 897,5 MB/s u AMD Ryzen AI Halo. Latence se vyvíjela stejně: průměrná latence Sparku v této hloubce byla 0.597 ms, zatímco Halo zaostával s 1.159 ms, což je téměř dvojnásobná pomalost na požadavek, a to i přes přesun poloviny dat. Toto je nejvýraznější rozdíl v celém rozsahu, což naznačuje, že úložný stack Sparku je při této velikosti bloku postaven pro vyšší trvalou sekvenční propustnost.
128K sekvenční zápis
Strana zápisu vypráví podobný příběh. Při IODepth 16/1 dosáhl Spark rychlosti 2 984,4 MB/s, oproti 1 392,4 MB/s u Halo, což je pro NVIDIA výhoda 114 %. Latence opět zvýhodnila Spark, a to 0.67 ms oproti 1 436 ms u Halo. V kombinaci s výsledky čtení je sekvenční rychlost 128K pohodlně nejsilnějším výsledkem Sparku v porovnání s Halo.
64K náhodné čtení
Zde se skutečně projevuje výhoda Halo v oblasti latence s nízkou hloubkou fronty. Při poměru 1/1 odpověděl Halo za pouhých 0.051 ms oproti 0.275 ms u Sparka, což je více než 5krát rychleji na jeden nevyřízený požadavek. Tento rozdíl se udržuje napříč nízkou až střední hloubkou fronty, přičemž Halo dosahuje latence výrazně pod 0.2 ms, zatímco Spark se po většinu doby měření pohybuje v rozmezí 0.2–0.45 ms.
Příběh se ale obrací u měřítka. Jak hloubka fronty a počet vláken stoupají zhruba nad 16/4, šířka pásma Sparka se od 16. srpna dále ustálí na hodnotě kolem 9.8 GB/s, přičemž vrchol dosáhne 10 019,1 MB/s (160.3 tisíc IOPS) při 32/8. Halo tohoto stropu nikdy nedosáhne: saturuje se v rozsahu 6.0–6.9 GB/s a vrcholí na 6 926,5 MB/s (110.8 tisíc IOPS) při 4/8. Jeho křivka šířky pásma je znatelně nepravidelnější, v závislosti na kombinaci hloubky fronty a vláken kolísá mezi zhruba 2 a 6.8 GB/s, místo aby plynule stoupala.
Latence při plné saturaci se také vyvíjí ve prospěch Sparku: při 32/16 se průměrná latence Halo zvýšila na 5.185 ms ve srovnání se Sparkovými 3.204 ms, což znamená, že Halo platí za svou nízkou hloubku fronty horším chováním při ocasu, jakmile je fronta plně načtena.
64K náhodný zápis
Šířka pásma pro zápis 64K je mezi oběma platformami bližší než šířka pásma pro čtení, ačkoli tvary křivek se velmi liší. Šířka pásma Halo je prudší: opakovaně přesahuje 2.5 GB/s (vrchol dosahuje 2 929,1 MB/s / 46.9 K IOPS při 32/4), než se v sousedních kombinacích vrátí na rozsah 1.1–1.5 GB/s. Spark je poměrně stabilní, po většinu doby se ustálí v pásmu 1.7–2.0 GB/s a vrcholí na 2 106,6 MB/s (33.7 K IOPS) při 16/2.
Latence odráží vzorec čtení 64K: Halo je dramaticky rychlejší při nízké hloubce fronty (0.054 ms při 1/1 vs. 0.217 ms u Sparku) a oba disky prudce degradují, jak hloubka fronty a počet vláken stoupají na dvojciferné hodnoty. Při plné saturaci (32/16) dosahuje latence Halo 19.611 ms, ve srovnání se 17.857 ms u Sparku. Oba disky jsou v tomto bodě evidentně vystaveny silné zátěži z hlediska zesílení zápisu, přičemž Halo je opět o něco horší na samém vrcholu křivky.
16K sekvenční čtení
Šířka pásma zůstává po většinu testu vysoká, přičemž oba disky se pohybují mezi zhruba 1–8 GB/s v závislosti na kombinaci hloubky jádra/vlákna. Spark překonává vyšší vrchol a dosahuje 8 069,3 MB/s (516.4 tisíc IOPS) při 32/1, zatímco Halo dosahuje vrcholu 6 715,8 MB/s (429.8 tisíc IOPS) při 8/4.
Latence opět zvýhodňuje Halo všude kromě úplného vrcholu fronty. Při 1/1 Halo odpovídá za 0.027 ms oproti 0.214 ms u Sparka a Halo si udržuje nižší latenci po většinu doby rozmítání. Pouze u nejhlubších kombinací se rozdíl zmenšuje. Při 32/16 se průměrná latence Halo 1.441 ms dostane těsně pod 1.599 ms u Sparka, což z něj činí jeden z mála bodů, kde křivka latence Halo nepřesahuje Sparkovu při saturaci.
16K sekvenční zápis
Šířka pásma je zde také blízká: Spark dosahuje vrcholu 2 141,6 MB/s (137.1 tisíc IOPS) při 16/1 a Halo s 1 970,9 MB/s (126.1 tisíc IOPS) při 1/8 o moc méně zaostává.
Latence je oblast, kde se tyto dva parametry prudce liší. Halo začíná s nízkou hloubkou fronty daleko vpředu (0.022 ms při 1/1 oproti 0.231 ms u Sparka), ale jeho křivka latence prudce stoupá s tím, jak se fronta plní. Do 32/16 se průměrná latence Halo vyšplhala na 6.967 ms, což je výrazně více než 4.306 ms u Sparka ve stejném bodě. Křivka Halo je také mnohem méně předvídatelná, s ostrými nárůsty v několika kombinacích středního rozsahu, kde Spark zůstává poměrně plochý.
16K náhodné čtení
Toto je jeden z lepších výsledků Halo. Ve skutečnosti dosahuje vyšší maximální propustnosti 6 609,4 MB/s (423.0 tisíc IOPS) při 32/16, oproti 6 082,6 MB/s (389.3 tisíc IOPS) u Sparka při stejné kombinaci.
Latence opět výrazně jde ve prospěch Halo (0.047 ms při 1/1 vs. 0.222 ms u Sparku). Křivka latence Halo je však v celém rozsahu mnohem volatilnější, s ostrými výkyvy při 8/1, 16/1, 8/4 a 8/8, které výrazně překračují poměrně hladkou (i když vyšší základní) křivku Sparku. Na samém vrcholu fronty překračuje maximální latence Halo 1.971 ms (při 16/16) maximum Sparku 1.315 ms (při 32/16), takže Halo obchoduje s konzistencí za hrubou rychlost s nízkou hloubkou fronty.
16K náhodný zápis
Šířka pásma zde zvýhodňuje Spark, který dosahuje 2 074,1 MB/s (132.7 tisíc IOPS) při 32/1, ve srovnání s 1 503,5 MB/s (96.2 tisíc IOPS) u Halo při 8/4. Křivka šířky pásma Spark je také podstatně konzistentnější a po počátečním nárůstu se po většinu doby pohybuje v rozmezí 1.6–2.0 GB/s. Pro srovnání, Halo divoce kolísá mezi jednotlivými kombinacemi zhruba 0.1 a 1.5 GB/s.
V tomto testu vyniká latence: Halo začíná níže, na hodnotě 1/1 (0.154 ms vs. 0.224 ms), ale na hodnotě 8/16 jeho průměrná latence prudce stoupá na extrémních 20.698 ms, což je téměř 4.5násobek nejhorší hodnoty 4.664 ms u Sparku kdekoli v rozsahu. Kromě tohoto jediného skoku je latence Halo jinak rozumná, ale jedná se o významnou odchylku, kterou stojí za zmínku u jakékoli zátěže, která by se mohla dostat na danou kombinaci hloubky/vlákna.
4K náhodné čtení
Při nízké hloubce fronty reaguje Halo dramaticky rychleji (0.04 ms při 1/1 oproti 0.215 ms u Sparka) a má výhodu v latenci po většinu nízkého až středního rozsahu rozmítání. Spark však ve velkém měřítku rozhodně vede v propustnosti: jeho maximální IOPS dosahuje 1 750,7 K (6 838,8 MB/s) při 32/16, což je výrazně více než vrchol Halo 1 050,4 K IOPS (4 103,2 MB/s) při 32/8.
Je zajímavé, že obraz latence se invertuje při vysoké hloubce fronty. Křivka latence Sparku zůstává relativně utlumená i s rostoucí hloubkou a počtem vláken, vrcholu dosahuje pouhých 0.292 ms. Halo naopak prudce stoupá při 16/16 (0.513 ms) a znovu při 32/16 (1.009 ms), čímž více než 3krát překračuje svou ustálenou základní hodnotu, což znamená, že jeho vynikající odezva při nízké hloubce fronty se nepřenáší do plné saturace.
4K náhodný zápis
Toto je největší rozdíl v IOPS v celém testu. Výkon Sparku v náhodném zápisu 4K strmě stoupá s rostoucí hloubkou fronty a počtem vláken a dosahuje 490.4K IOPS (1 915,6 MB/s) při 8/16. Halo se mezitím stagnuje mnohem dříve a na mnohem nižší úrovni, vrcholu dosahuje 125.6K IOPS (490.7 MB/s) při 4/4 a po zbytek testu nikdy nepřekročí zhruba 110–115K IOPS. Spark zde běží na téměř 4násobku stropu Halo.
Latence opět začíná ve prospěch Halo při nízké hloubce fronty (0.079 ms vs. 0.235 ms při 1/1). Do 32/16 se průměrná latence Halo vyšplhala na 4.546 ms, zatímco latence Sparku zůstává na srovnatelné úrovni 1.792 ms. V kombinaci s rozdílem v IOPS se jedná o test, kde je výhoda Sparku nejvýraznější a nejkonzistentnější v celé hloubce/vláknovém rozptylu.
Online poskytování vLLM – Výkon inference LLM
vLLM je jeden z nejpopulárnějších vysoce výkonných inferenčních a obslužných enginů pro LLM. Online benchmark vLLM hodnotí reálný výkon tohoto inferenčního enginu při souběžných požadavcích. Simuluje produkční zátěž odesíláním požadavků na běžící server vLLM s konfigurovatelnými parametry, jako je frekvence požadavků, délka vstupních a výstupních dat a počet souběžných klientů. Benchmark měří klíčové metriky, včetně propustnosti (tokeny za sekundu), doby do prvního tokenu a doby na výstupní token (TPOT), což pomáhá uživatelům pochopit, jak si vLLM vede za různých podmínek zátěže.
Testovali jsme výkon inference napříč komplexní sadou modelů zahrnujících různé architektury, škály parametrů a kvantizační strategie, abychom vyhodnotili propustnost napříč různými profily souběžnosti.
GPT OSS 120B
Stejné ISL/OSL (256/256): Halo se při velikosti dávky 64 škálovalo na 222 tok/s, zatímco Spark dosáhl 701 (asi 3.2x zaostával).
Předfill Heavy (8k/1k): Propustnost Halo dosáhla vrcholu v dávce 32 (427 tok/s), poté klesla na 314 v dávce 64, zatímco Spark prudce vzrostl na 2 760 (přibližně 8.8x) – největší rozdíl v sadě.
Decode Heavy (1k/8k): Halo dosáhlo 127 tok/s, ve srovnání se Sparkovým 305 při velikosti dávky 64 (přibližně 2.4x).
GPT OSS 20B
Stejné ISL/OSL (256/256): Spark vedl v každé dávce, škálování na 1 917 oproti 617 tok/s v dávce 64 (Spark byl asi 3.1x napřed).
Prefill Heavy (8k/1k): Sparkův nejsilnější náskok, který se při velikosti dávky 64 vyšplhal na 3 672 oproti 881 tok/s (Spark má náskok asi 4.2x).
Decode Heavy (1k/8k): Spark je po celou dobu vepředu a dosahuje 728 oproti 330 tok/s v dávce 64 (Spark má asi 2.2x náskok).
Instrukce Qwen3 Coder 30B A3B
Equal ISL/OSL (256/256): Halo se při velikosti dávky 64 škálovalo na 376 tok/s, což je zhruba polovina oproti Sparkově 729 (asi 1.9x) – jeden z těsnějšího výsledku Equal ISL/OSL.
Předfill Heavy (8k/1k): Halo dosáhlo vrcholu v dávce 32 (408 tok/s), poté kleslo na 362 v dávce 64, čímž zaostávalo za Sparkovými 1 663 (asi 4.6x).
Decode Heavy (1k/8k): Halo dosáhlo 188 tok/s, ve srovnání se Sparkovým 357 při velikosti dávky 64 (přibližně 1.9x).
Mistral Small 3.1 24B Instruct
Stejné ISL/OSL (256/256): Halo ve skutečnosti vedlo v várce 1 (9 vs 8 tok/s), poté se v várce 64 ustálilo na 202 tok/s, zatímco Spark byl na 498 (asi 2.5krát zaostával).
Předplněné silné (8k/1k): Halo dosáhlo vrcholu v dávce 32 (188 tok/s) a mírně kleslo na 164 v dávce 64, čímž zaostávalo za 540 u Sparka (asi 3.3x).
Decode Heavy (1k/8k): Téměř vyrovnaný výkon, Halo dosáhl 119 tok/s oproti 132 u Sparka v 64. dávce (s rozdílem cca 11 %).
Llama 3.1 8B Pokyn
Stejné ISL/OSL (256/256): Halo se čistě škálovalo z 25 tok/s v dávce 1 na 407 tok/s v dávce 64, čímž těsně kopírovalo Spark během dávky 4, po které se Spark dostal na 1 330 (Halo zaostávalo ve vrcholu asi 3.3x).
Předplněné těžké (8k/1k): Halo dosáhlo při velikosti dávky 64 tok/s 546, což je zhruba polovina Sparkových 1 059.
Decode Heavy (1k/8k): Nejkonkurenceschopnější scénář Halo, dosahující 235 tok/s oproti 263 u Sparka při velikosti dávky 64 (rozdíl je asi o 12 %).
Lama 3.1 8B Instrukce FP4
Stejný ISL/OSL (256/256): Halo dosáhlo vrcholu 267 tok/s při velikosti dávky 64, což je daleko za Sparkem s jeho 3 573 – největší rozdíl vykazuje FP4 (asi 13.4x).
Předplněné silné (8k/1k): Halo dosáhlo při velikosti dávky 64 tok/s 457, ve srovnání s 2 713 u Sparka (přibližně 5.9x).
Decode Heavy (1k/8k): Halo se škálovalo na 146 tok/s, ve srovnání s 588 tok/s u Sparka při velikosti dávky 64 (asi 4x).
Závěr
AMD Ryzen AI Halo vstupuje do kategorie, kterou NVIDIA efektivně vytvořila s DGX Spark, a nesnaží se Spark porazit v jeho vlastní hře. V našich vLLM testech měl Spark 2x až 4x výhodu v propustnosti ve většině scénářů při vyšší souběžnosti, přičemž se protáhl na 8.8x v GPT OSS 120B práci s vysokým počtem předfillů a zúžil se na zhruba 10 % pouze v několika bězích s velkým dekódováním, a jeho úložný subsystém vyhrál téměř každý fio test při saturaci. Co Halo místo toho nabízí, je stejných 128 GB unifikované paměti a strop 200 miliard parametrů v podobném provedení, za 3 999 dolarů oproti 4 699 dolarům u Spark Founders Edition (ačkoli někteří OEM je mají pod 4 000 dolarů), v plně x86 počítači, který spouští Windows 11 nebo Linux namísto samotného OS DGX.
Když ponecháme stranou Spark, zjistíme, že Halo je nejsilnější implementací Ryzen AI Max+ 395, kterou jsme testovali. V téměř každé testované zátěži Windows dosáhl nejvyššího hodnocení proti HP Z2 Mini G1a a ZBook Ultra G1a: 37 316 v Cinebench R23 multi-core, 184.2 GIPS v 7-Zip oproti 151.6 a 156.8 pro HP, nejvyšší skóre generování textu a obrázků s AI v Procyonu a nejrychlejší časy y-cruncheru s 5 a 10 miliardami číslic. V Linuxu proti Sparku jednoznačně vyhrál testy Phoronix vázané na CPU, komprimoval o 11 % rychleji v 7-Zip a dokončil kompilaci LLVM o 14 % dříve. Jedná se o kompaktní pracovní stanici, kde je role vývojáře AI nahoře, nikoli nahrazena.
Vývojáři, kteří potřebují maximální počet lokálních tokenů za sekundu nebo plánují clusterovat uzly přes vysokorychlostní fabric, by si i tak měli koupit Spark; 10GbE a jeho limity vLLM u Halo se ani zdaleka neblíží. Pro vývojáře, kteří staví na ROCm, týmy, které potřebují Windows v smyčce, nebo pro kohokoli, kdo chce jeden počítač pro profesionální úlohy a práci s lokálními modely, je Halo vhodnější volbou a standardní pozice M.2 2280 a předladěná variabilní grafická paměť odstraňují dvě z nejčastějších stížností, které majitelé Sparku vznášeli. Společnost AMD také uvedla, že platforma ve třetím čtvrtletí převezme křemíkové procesory Ryzen AI Max PRO řady 400 s až 192 GB unifikované paměti, takže kupující, kteří se ucházejí o větší modely, mají jasnou cestu vpřed, aniž by museli měnit platformy.
Stránka produktu – AMD Ryzen AI Halo
Žebříček: AMD Ryzen AI Halo drží pozici nejlepší alternativy x86 v našem žebříčku nejlepších stolních počítačů pro lokální AI.
Amazon