V srpnu společnost NVIDIA rozdělila svou špičkovou nabídku desktopových grafických karet Blackwell do dvou kategorií pro profesionály: Workstation a Server. Karta RTX PRO 6000 Workstation je určena pro tvůrce, inženýry a vývojáře umělé inteligence, kteří vyžadují maximální výpočetní výkon a VRAM v rámci věžového nebo stolního šasi. RTX PRO 6000 Blackwell Server Edition je určena pro rackové servery a uzly pro bezhlavou inferenci nebo renderování v datových centrech. Nyní, když máme kartu pro pracovní stanice na stole, se na ni můžeme v této recenzi zaměřit.
Za 8 500 dolarů přináší RTX PRO 6000 plnohodnotnou grafickou kartu GB202 s 24 064 CUDA jádry, 752 jádry Tensor páté generace, 188 jádry RT čtvrté generace a 96 GB paměti GDDR7 ECC. Atraktivita je okamžitě zřejmá. Získáte paměťovou kapacitu, které se spotřebitelské karty nemohou rovnat, profesionální ovladače a dvouslotový design, který se hodí do skutečných pracovních stanic bez zvláštních požadavků na napájení nebo proudění vzduchu.
NVIDIA tuto grafickou kartu (GPU) umisťuje do smíšených pracovních postupů. To zahrnuje lokální inferenci LLM s dlouhým kontextem, vykreslování rozsáhlých scén, komplexní simulace a výzkumná zařízení s více GPU. Praktické detaily zde hrají roli. Karta využívá standardní rozhraní PCIe 5.0 x16, nabízí čtyři výstupy DisplayPort 2.1b pro vizualizaci s vysokým rozlišením a vysokou obnovovací frekvencí a poskytuje konfigurovatelný TDP 600 W, což umožňuje integrátorům vyladit optimální teplotu, akustiku nebo hustotu.
Naším cílem je vyhodnotit, jak si tato verze pracovní stanice vede v laboratoři v oblasti umělé inteligence, renderování a obecných výpočtů, a kvantifikovat dopad 96GB úložiště na možnosti jednoho desktopového uzlu.
NVIDIA RTX PRO 6000 Workstation vs. Server Edition
Varianty RTX PRO 6000 vycházejí ze stejného základu Blackwell GB202, takže hrubé matematické funkce vypadají na papíře povědomě. Rozdíl spočívá v tom, jak a kde jsou zamýšleny. Testovaná pracovní stanice je samostatná, aktivně chlazená dvouslotová deska se čtyřmi výstupy DisplayPort 2.1b a ovladači studiové třídy. Lze ji zasunout do věžové nebo deskside pracovní stanice, ovládat lokální panely a spouštět aplikace DCC a CAD certifikované ISV spolu s CUDA, TensorRT a cuDNN. Pokud pracovní postupy kombinují interaktivní práci s viewportem, lokální vizualizaci a integrovanou umělou inteligenci, je to cesta, která udrží vše v jednom šasi s předvídatelnou akustikou a teplotou.
RTX PRO 6000 Blackwell Server Edition je navržena pro zcela jiný účel. Jedná se o bezhlavou konfiguraci s umístěním do racku, určenou pro servery, s prouděním vzduchu zepředu dozadu a možnostmi vzdálené správy. Neexistují žádné aktivní zobrazovací výstupy, protože úlohy jsou plánovány přes síť a výsledky jsou zpracovávány vzdáleně. Profily firmwaru, napájení a teploty jsou vyladěny pro nepřetržitý provoz v rámci plánovače, obvykle spárovaného s NVIDIA AI Enterprise, orchestrací kontejnerů a hypervisor passthrough. Stručně řečeno, model pracovní stanice je tou správnou volbou, když tvůrci a inženýři potřebují vidět a manipulovat s prací lokálně a zároveň spouštět velké dávky inference nebo simulace. Serverová edice má větší smysl při škálování identických uzlů za frontou v datovém centru, kde každý watt, kabel a cesta proudění vzduchu musí odpovídat servisnímu plánu OEM.
Specifikace NVIDIA RTX PRO 6000
Níže uvedená tabulka uvádí specifikace grafické karty NVIDIA RTX PRO 6000 v porovnání s RTX 5090 a předchozí generací RTX 4090 s grafickou kartou Ada Lovelace.
| Porovnání GPU | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 |
| Jméno GPU | GB202 | GB202 | AD102 |
| Architektura | Blackwell 2.0 | Blackwell 2.0 | Ada Lovelace |
| Velikost procesu | 5 nm | 5 nm | 5 nm |
| Tranzistory | 92,200 milionu | 92,200 milionu | 76,300 milionu |
| Hustota | 122.9 M / mm² | 122.9 M / mm² | 125.3 M / mm² |
| Velikost velikosti | 750 mm² | 750 mm² | 609 mm² |
| Šířka drážky | Dvouslotový | Dvouslotový | Trojitý slot |
| Rozměry | 304 mm x 137 mm x 40 mm | 304 mm x 137 mm x 48 mm | 304 mm x 137 mm x 61 mm |
| TDP | 600W | 575W | 450W |
| Výstupy | 4x DisplayPort 2.1b | 1x HDMI 2.1b, 3x DisplayPort 2.1b | 1x HDMI 2.1, 3x DisplayPort 1.4a |
| Napájecí konektory | 1x 16-kolík | 1x 16-kolík | 1x 16-kolík |
| Rozhraní sběrnice | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| Základní hodiny | 1590 MHz | 2017 MHz | 2235 MHz |
| Boost Clock | 2617 MHz | 2407 MHz | 2520 MHz |
| Paměťové hodiny | 1750 MHz (efektivní 28 Gbps) | 2209 MHz (efektivní 28 Gbps) | 1313 MHz (efektivní 21 Gbps) |
| Velikost paměti | 96 GB | 32 GB | 24 GB |
| Typ paměti | GDDR7 ECC | GDDR7 | GDDR6X |
| Paměťová sběrnice | 512 bit | 512 bit | 384 bit |
| Paměťová šířka pásma | 1.79 TB / s | 1.79 TB / s | 1.01 TB / s |
| CUDA Cores | 24,064 | 21,760 | 16,384 |
| Tenzorová jádra | 752 | 680 | 512 |
| ROP | 192 | 192 | 176 |
| Počet SM | 188 | 170 | 128 |
| RT jádra | 188 | 170 | 128 |
| L1 Cache | 128 KB (na SM) | 128 KB (na SM) | 128 KB (na SM) |
| L2 Cache | 128 MB | 88 MB | 72 MB |
| Rychlost pixelů | 502.5 GPixel/s | 462.1 GPixel/s | 443.5 GPixel/s |
| Míra textur | 1,968.0 GTexelů/s | 1,637 GTexelů/s | 1,290 GTexelů/s |
| FP16 (polovina) | 126.0 TFLOPS (1:1) | 104.8 TFLOPS (1:1) | 82.58 TFLOPS (1:1) |
| FP32 (plovoucí) | 126.0 TFLOPS | 104.8 TFLOPS | 82.58 TFLOPS |
| FP64 (dvojitý) | 1.968 TFLOPS (1:64) | 1.637 TFLOPS (1:64) | 1,290 GFLOPS (1:64) |
| Uváděcí cena (USD) | $8,500 | $1,999 | $1,599 |
Stavět a navrhnout
Grafická karta RTX PRO 6000 Workstation pokračuje v čistém a funkčním designu NVIDIA, který je vidět u RTX 5090 FE, s průmyslovým matně černým povrchem a uspořádáním dvou axiálních ventilátorů optimalizovaným pro prostředí pracovních stanic. Každý ventilátor je navržen tak, aby protlačoval vzduch skrz 3D odpařovací komoru po celé délce, což pomáhá udržovat tepelnou rovnováhu i při trvalém zatížení. S rozměry 304 mm × 137 mm × 40 mm se pohodlně vejde do dvouslotové konfigurace a díky svému TDP 600 W nabízí výjimečnou hustotu výkonu.
Na horní hraně se nachází jeden 16pinový napájecí konektor, který dodává proud potřebný k podpoře 96 GB paměti GDDR7 a plné architektury Blackwell 2.0. Kvalita provedení působí prémiově a pevně, s hliníkovým krytem, který efektivně usměrňuje vzduch přes žebra. Decentní logo NVIDIA doplňuje profesionální estetiku bez RGB podsvícení nebo herních prvků a zdůrazňuje spolehlivost a výkon v tepelně náročných šasi pracovních stanic.
Na straně I/O nabízí NVIDIA čtyři výstupy DisplayPort 2.1b, což zajišťuje kompatibilitu s více monitory v rozlišení 8K, barevně přesnými HDR pracovními postupy a pokročilými renderovacími prostředími. Použití DisplayPortu 2.1b přes HDMI odráží jeho profesionální zaměření s vylepšenou šířkou pásma pro displeje s vysokou obnovovací frekvenci a vysokým rozlišením.
Testování výkonu
Abychom vyhodnotili výkon našeho vzorku grafických karet NVIDIA RTX PRO 6000, porovnali jsme ji přímo s vlajkovými verzemi NVIDIA pro spotřebitele, RTX 5090 Founders Edition a RTX 4090 Founders Edition. Testování probíhalo v kombinaci profesionálních i umělou inteligencí řízených úloh, abychom zdůraznili jak výpočetní výkon, tak i výkon reálných aplikací. Mezi benchmarky patřily UL Procyon AI Text Generation, UL Procyon AI Image Generation, LuxMark, Geekbench 6 a V-Ray, které poskytly vyvážený přehled o výkonu v oblasti renderování, inference a produktivity.
Kromě těchto standardních úloh jsme také provedli cílené testy, jejichž cílem bylo demonstrovat 96 GB paměti GDDR7 v grafické kartě RTX PRO 6000 a demonstrovat její výhody při zpracování velkých modelů, datových sad s vysokým rozlišením a profesionálních vizualizačních úloh, kde je kapacita a trvalá propustnost klíčová.
- RTX PRO 6000
- GeForce RTX 5090 FE
- GeForce RTX 4090 FE
- RTX 6000 ADA
Abychom plně využili výhody nové grafické karty NVIDIA RTX PRO 6000, využili jsme naši platformu AMD ThreadRipper. Tento systém v konfiguraci nabízí 64jádrový procesor a vodní chladicí okruh. Má dostatek základního výkonu procesoru, aby grafický procesor mohl bez problémů vykonávat svou práci. Kompletní konfigurace systému je uvedena níže.
Testovací platforma StorageReview AMD ThreadRipper
- Základní deska: ASUS Pro WS TRX50-SAGE Wi-Fi
- CPU: AMD Ryzen Threadripper 7980X 64jádrový
- RAM: 32GB DDR5 4800MT/s
- Skladování: 2TB Samsung 980 Pro
- OS: Windows 11 Pro pro pracovní stanice
UL Procyon: Generování textu pomocí umělé inteligence
Benchmark generování textu s využitím umělé inteligence (AI Text Generation Benchmark) Procyon zefektivňuje testování výkonu LLM s využitím umělé inteligence (AI LLM) tím, že poskytuje stručnou a konzistentní metodu hodnocení. Umožňuje opakované testování napříč různými modely LLM a zároveň minimalizuje složitost velkých velikostí modelů a proměnných faktorů. Byl vyvinut ve spolupráci s předními výrobci hardwaru pro umělou inteligenci a optimalizuje použití lokálních akcelerátorů umělé inteligence pro spolehlivější a efektivnější hodnocení výkonu. Níže uvedené výsledky byly testovány pomocí TensorRT.
Ve všech čtyřech modelových testech NVIDIA RTX PRO 6000 konzistentně vedla. Počínaje skóre Phi dosáhla PRO 6000 celkového skóre 6 775, čímž překonala RTX 5090 s 5 749, RTX 4090 s 4 958 a RTX 6000 Ada s 4 508. Její rychlejší generování tokenů (325.9 tokenů/s) a nižší latence (0.182 s do prvního tokenu) podtrhují její odezvu při generování textu v reálném čase a při úlohách s umělou inteligencí založených na chatu.
Trend pokračoval i u Mistralu, kde PRO 6000 dosáhl 7 346, což je značný náskok oproti 5090 (6 267), 4090 (5 094) a 6000 Ada (4 255). Jeho propustnost 271.8 tokenů/s demonstruje výhodu většího 96GB paměťového fondu a optimalizovaného ladění pracovní stanice pro inferenci s vysokým kontextem.
V testu Llama3 si PRO 6000 udržela náskok se skóre 6 501, oproti 6 104 u RTX 5090, 4090 s 4 849 a 6000 Ada s 4 026. To zdůrazňuje konzistenci architektury Blackwell od NVIDIA, kde si PRO 6000 udržuje výkonnostní výhody i při škálování transformačních úloh co do složitosti a délky kontextu.
Konečně v Llama2, která klade důraz na dlouhodobou inferenci a trvalý výkon, dosáhl PRO 6000 8 008, zatímco 5090, 4090 a 6000 Ada zaostávaly s 6 591, 5 013 a 3 957. I když se délka sekvencí a inferenční časy zvyšovaly, PRO 6000 si udržel jasnou dominanci v rychlosti i stabilitě a dokončoval běhy rychleji a s plynulejší propustností než kterákoli jiná testovaná GPU.
| UL Procyon: Generování textu pomocí umělé inteligence | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Celkové skóre Phi | 6,775 | 5,749 | 4,958 | 4,508 |
| Čas do prvního tokenu výstupu Phi | 0.182 s | 0.244 s | 0.255 s | 0.288 s |
| Výstupní tokeny Phi za sekundu | 325.855 tok/s | 314.435 tok/s | 244.343 tok/s | 228.359 tok/s |
| Celková doba trvání fí | 9.498 s | 10.280 s | 12.872 s | 13.869 s |
| Celkové skóre Mistralu | 7,346 | 6,267 | 5,094 | 4,255 |
| Čas do prvního tokenu na výstupu Mistralu | 0.229 s | 0.297 s | 0.322 s | 0.419 s |
| Výstupní žetony Mistralu za sekundu | 271.779 tok/s | 255.945 tok/s | 183.266 tok/s | 166.633 tok/s |
| Celková doba trvání Mistralu | 11.493 s | 12.593 s | 17.010 s | 19.092 s |
| Celkové skóre Lamy3 | 6,501 | 6,104 | 4,849 | 4,026 |
| Čas do prvního tokenu výstupu Llama3 | 0.218 s | 0.234 s | 0.259 s | 0.348 s |
| Výstupní tokeny Llama3 za sekundu | 226.407 tok/s | 214.285 tok/s | 150.039 tok/s | 138.620 tok/s |
| Celková doba trvání Llama3 | 13.554 s | 14.304 s | 19.991 s | 22.062 s |
| Celkové skóre Lamy2 | 8,008 | 6,591 | 5,013 | 3,957 |
| Čas do prvního tokenu výstupu Llama2 | 0.307 s | 0.419 s | 0.500 s | 0.679 s |
| Výstupní tokeny Llama2 za sekundu | 145.595 tok/s | 134.502 tok/s | 92.853 tok/s | 78.532 tok/s |
| Celková doba trvání Llama2 | 20.712 s | 23.018 s | 32.448 s | 38.923 s |
UL Procyon: Generování obrazu AI
Benchmark Procyon AI Image Generation poskytuje konzistentní a přesnou metodu pro měření výkonu inferenčních výpočtů umělé inteligence napříč různým hardwarem, od nízkoenergetických NPU až po špičkové GPU. Zahrnuje tři testy: Stable Diffusion XL (FP16) pro špičkové GPU, Stable Diffusion 1.5 (FP16) pro středně výkonné GPU a Stable Diffusion 1.5 (INT8) pro zařízení s nízkou spotřebou energie. Benchmark používá optimální inferenční engine pro každý systém, což zajišťuje spravedlivé a srovnatelné výsledky.
Počínaje testem Stable Diffusion 1.5 (FP16) dosáhla NVIDIA RTX PRO 6000 impozantního celkového skóre 8 869, čímž překonala RTX 5090 s 8 193, RTX 4090 s 5 260 a RTX 6000 Ada s 4 230. PRO 6000 dokončila generování obrazu za 11.27 sekundy s průměrným časem 0.705 sekundy na obraz, což z ní činí nejrychlejší výsledek v tomto testu. To ukazuje, jak její ladění optimalizované pro pracovní stanici a 96 GB paměti GDDR7 umožňují trvalý a vysoce přesný výstup bez kompromisů v efektivitě.
V testu Stable Diffusion 1.5 (INT8), který měří výkon lehké kvantizované inference, si všechny GPU vedly těsně. PRO 6000 dosáhla skóre 79 064, což je téměř identické se 79 272 body u RTX 5090, a zároveň vedla před RTX 4090 (62 160) a RTX 6000 Ada (55 901). Vzhledem k tomu, že pracovní zátěže INT8 se méně spoléhají na šířku pásma a kapacitu paměti, byly rozdíly minimální, ale PRO 6000 si udržela konzistentní výsledky s průměrnou dobou generování 0.395 sekundy na obraz.
Test Stable Diffusion XL (FP16) posouvá grafické procesory v delších a náročnějších inferenčních běhech, které zatěžují jak paměť, tak i trvalou výpočetní propustnost. V tomto testu dosáhla PRO 6000 celkového skóre 6 991, což je těsně za RTX 5090 s 7 179 body, ale výrazně před RTX 4090 s 5 025 body a RTX 6000 Ada s 3 043 body. Celková doba vykreslování byla 85.8 sekundy, neboli 5.36 sekundy na obrázek, což ukazuje, že PRO 6000 zvládá rozsáhlé generační úlohy efektivně a bez zpomalení.
| UL Procyon: Generování obrazu pomocí umělé inteligence | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Stabilní difúze 1.5 (FP16) – Celkové skóre | 8,869 | 8,193 | 5,260 | 4,230 |
| Stabilní difúze 1.5 (FP16) – Celkový čas | 11.274 s | 12.204 s | 19.011 s | 23.639 s |
| Stabilní difúze 1.5 (FP16) – rychlost generování obrazu | 0.705 s/obrázek | 0.763 s/obrázek | 1.188 s/obrázek | 1.477 s/obrázek |
| Stabilní difúze 1.5 (INT8) – Celkové skóre | 79,064 | 79,272 | 62,160 | 55,901 |
| Stabilní difúze 1.5 (INT8) – Celkový čas | 3.162 s | 3.154 s | 4.022 s | 4.472 s |
| Stabilní difúze 1.5 (INT8) – rychlost generování obrazu | 0.395 s/obrázek | 0.394 s/obrázek | 0.503 s/obrázek | 0.559 s/obrázek |
| Stabilní difúze XL (FP16) – Celkové skóre | 6,991 | 7,179 | 5,025 | 3,043 |
| Stabilní difúze XL (FP16) – celkový čas | 85.819 s | 83.573 s | 119.379 s | 197.172 s |
| Stabilní difúze XL (FP16) – rychlost generování obrazu | 5.364 s/obrázek | 5.223 s/obrázek | 7.461 s/obrázek | 12.323 s/obrázek |
Blender 4.4
Blender je open-source 3D modelovací aplikace. Tento benchmark byl spuštěn pomocí utility Blender Benchmark. Skóre se měří ve vzorcích za minutu, přičemž vyšší hodnoty znamenají lepší výkon.
Ve všech třech scénách se umístila na prvním místě NVIDIA RTX PRO 6000, která demonstrovala výhody své architektury Blackwell a rozšířené paměťové kapacity. Ve scéně Monster dosáhla PRO 6000 výkonu 7 870,17 vzorků za minutu, čímž předstihla RTX 5090 s 7 421,50, zatímco RTX 4090 a RTX 6000 Ada ji následovaly s 5 733,97 a 5 632,60.
V kategorii „Vrak“ si PRO 6000 udržel vedení s 4 158,91 vzorky za minutu, oproti 3 980,15 u RTX 5090, 2 827,83 u RTX 4090 a 2 663,77 u RTX 6000 Ada. A konečně, ve scéně „Třída“, která obvykle klade důraz jak na stínování, tak na efektivitu paměti, dosáhl PRO 6000 4 041,11 vzorků za minutu, což je opět více než RTX 5090 s 3 732,63 a výrazně překonal RTX 4090 a RTX 6000 Ada s 2 909,35 a 2 818,83.
| Blender 4.4 (čím vyšší, tím lepší) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Netvor | 7,870.17 | 7,421.50 | 5,733.97 | 5,632.60 |
| Veřejné haraburdí | 4,158.91 | 3,980.15 | 2,827.83 | 2,663.77 |
| Třída | 4,041.11 | 3,732.63 | 2,909.35 | 2,818.83 |
Luxmark
Luxmark je benchmark GPU, který využívá LuxRender, open-source ray-tracing renderer, k posouzení výkonu systému při zpracování vysoce detailních 3D scén. Tento benchmark je obzvláště relevantní pro hodnocení grafických renderovacích schopností serverů a pracovních stanic, zejména v aplikacích vizuálních efektů a architektonické vizualizace, kde je přesná simulace světla klíčová.
V testu scény Jídlo vedla NVIDIA RTX PRO 6000 se skóre 24 287, čímž předstihla RTX 5090 s 23 141 body, zatímco RTX 4090 a RTX 6000 Ada následovaly s 17 171 a 14 873 body. To ukazuje, jak si PRO 6000 udržuje plynulý výkon sledování paprsků napříč vysoce detailní geometrií a osvětlením bez ztráty stability nebo tepelného throttlingu.
V náročnější scéně Hall, která zdůrazňuje rozsáhlou geometrii a komplexní globální osvětlení, si PRO 6000 opět zajistila nejlepší výsledek s 52 588, těsně před RTX 5090 s 51 725 a výrazně nad RTX 4090 (38 887) a RTX 6000 Ada (32 132).
| Luxmark (vyšší znamená lepší) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Skóre jídla | 24,287 | 23,141 | 17,171 | 14,873 |
| Hallovo skóre | 52,588 | 51,725 | 38,887 | 32,132 |
Geekbench 6
Geekbench 6 je multiplatformní benchmark, který měří celkový výkon systému. Prohlížeč Geekbench umožňuje porovnat s ním jakýkoli systém.
V tomto testu dosáhla NVIDIA RTX PRO 6000 skóre GPU OpenCL 384 158, čímž překonala RTX 5090 (374 807), RTX 4090 (333 384) a RTX 6000 Ada (336 882). Vyšší skóre PRO 6000 odráží optimalizovaný design pracovní stanice, vylepšenou šířku pásma paměti a profesionální sadu ovladačů, které dohromady umožňují konzistentní výkon v široké škále výpočetně náročných úloh.
| Geekbench (vyšší znamená lepší) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Skóre OpenCL GPU | 384,158 | 374,807 | 333,384 | 336,882 |
V-Ray
V -Ray Benchmark měří výkon renderování pro CPU, GPU NVIDIA nebo obojí pomocí pokročilých enginů V-Ray 6. Využívá rychlé testy a jednoduchý systém hodnocení, který uživatelům umožňuje vyhodnotit a porovnat renderovací schopnosti jejich systémů. Je to nezbytný nástroj pro profesionály, kteří hledají efektivní přehled o výkonu.
V našem testování dosáhla NVIDIA RTX PRO 6000 skóre 12 128 vpaths, což ji řadí mezi RTX 5090, která vedla s 14 764, a RTX 4090, která dosáhla 10 847. RTX 6000 Ada mírně zaostávala s 10 766. Zatímco RTX 5090 si v tomto testu renderování s vysokou náročností na GPU udržela mírný náskok, PRO 6000 prokázala silný a konzistentní výkon, což posílilo její ladění zaměřené na pracovní stanice a trvalou efektivitu při plném vykreslovacím zatížení.
| V-Ray (čím vyšší, tím lepší) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| vPaths | 12,128 | 14,764 | 10,847 | 10,766 |
Multimodelový inferenční test LM Studio
Pro toto kolo testování jsme použili LM Studio k vyhodnocení výkonu grafické karty NVIDIA RTX PRO 6000 v řadě populárních modelů s velkými programovacími jazyky, včetně GPT-OSS 120B, Gemma 3 (4B, 12B a 27B), Llama 3.1 (8B a 70B) a Llama 3.3 70B. Každý model byl vyzván stejnou instrukcí:
„Napište akademickou práci o historii lenochodů v rozsahu 500 slov.“
Primární zaměření v tomto testu je na tokeny za sekundu (propustnost) a celkový čas (doba dokončení), které společně ukazují, jak efektivně RTX PRO 6000 zvládá modely různých velikostí a složitostí za stejných podmínek generování.
V inferenčních testech LM Studio prokázala NVIDIA RTX PRO 6000 vynikající výkon a škálovatelnost v široké škále velikostí modelů, od menších modelů se 4B parametry až po masivní konfigurace třídy 120B.
Vrcholem tohoto testu byl OpenAI GPT-OSS 120B, kde RTX PRO 6000 vygenerovala 163.1 tokenů za sekundu a dokončila generování 500 slov za 9.54 sekundy. Tento výsledek vyniká, protože karty jako RTX 5090 nedokážou načíst ani spustit 120B model a často nezvládají ani 70B modely kvůli omezené paměti VRAM. 96 GB paměti GDDR7 u PRO 6000 umožňuje zpracovávat tyto obrovské modely lokálně, což z ní činí jedinečně výkonnou grafickou kartu mezi grafickými procesory pracovních stanic.
U menších modelů dosáhl nejvyšší propustnosti Gemma 3.4 B, který úkol dokončil s rychlostí 226.7 tokenů za sekundu za 3.51 sekundy. Llama 3.1 8B Instruct ho těsně následoval s 197.1 tokeny za sekundu a celkovým časem 4.17 sekundy. Tyto běhy ukazují vysokou efektivitu a rychlou odezvu PRO 6000 při středně velkých inferenčních úlohách.
Na vyšší úrovni dosahovaly modely Llama 3.1 70B Instruct a Llama 3.3 70B průměrné rychlosti okolo 31.8 tokenů za sekundu s celkovou dobou generování 27.2 sekundy a 25.3 sekundy, což i přes jejich velkou velikost vykazuje konzistentní výkon.
Celkově vzato, RTX PRO 6000 poskytuje vynikající stabilitu, propustnost a výkon při spouštění rozsáhlých modelů. Jeho 96GB paměťová kapacita umožňuje zvládat pracovní zátěže, které překračují limity spotřebitelských GPU, což z něj činí vynikající volbu pro vývojáře, výzkumníky a profesionály, kteří potřebují spolehlivý lokální výkon pro pokročilý vývoj umělé inteligence a generativních modelů.
| LM Studio (výsledky odvozování modelu) | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Název modelu | Tokeny / s | Čas do prvního žetonu (s) | Celkový čas (s) | Tokeny výzev | Předpovězené tokeny | Celkový počet žetonů | |||
| OpenAI GPT-OSS 120B | 163.15 | 0.193 | 9.543 | 81 | 1,557 | 1,638 | |||
| Gemma 3 4B | 226.73 | 0.113 | 3.51 | 25 | 796 | 821 | |||
| Gemma 3 12B | 117.15 | 0.068 | 8.06 | 25 | 944 | 969 | |||
| Gemma 3 27B | 68.06 | 0.221 | 12.048 | 25 | 820 | 845 | |||
| Meta Llama 3.1 8B Instrukce | 197.07 | 0.062 | 4.171 | 49 | 822 | 871 | |||
| Meta Llama 3.1 70B Instrukce | 31.84 | 0.159 | 27.227 | 49 | 867 | 916 | |||
| Meta Lama 3.3 70B | 31.74 | 0.323 | 25.329 | 49 | 804 | 853 | |||
Spotřeba energie NVIDIA RTX PRO 6000
Pro vyhodnocení reálné efektivity úloh s umělou inteligencí jsme použili benchmark UL Procyon AI Image Generation, konkrétně test Stable Diffusion XL FP16. Tento test se zaměřuje na interval mezi druhým a posledním vygenerovaným obrazem a zachycuje čas potřebný k dokončení intervalu, špičkovou a trvalou spotřebu energie a spotřebu energie systému v klidovém stavu po dokončení.
Během našeho testování si RTX PRO 6000 udržovala průměrnou spotřebu systému 918.5 W při trvalém zatížení, s vrcholem 1 036,3 W, přičemž spotřeba v klidovém stavu se po dokončení zátěže ustálila na 152.3 W. Celý testovací interval trval 5.3 sekundy a spotřeboval celkem 1.35 Wh energie. Tyto výsledky ukazují vynikající poměr energie k výkonu pro GPU třídy pracovních stanic, přičemž udržuje spotřebu dobře kontrolovanou a zároveň si zachovává vysoký výkon i při delších inferenčních zátěžích.
Ve srovnání s jinými GPU se RTX PRO 6000 v celkové spotřebě energie blíží RTX 4090, přičemž si zachovává rychlejší dobu dokončení výpočtu, a výrazně překonává RTX 6000 Ada jak v energetické účinnosti, tak v rychlosti. Je zajímavé, že nové karty Blackwell, které sdílejí čip GB202, vykazují při tomto zatížení velmi podobné charakteristiky účinnosti, s pouze malými rozdíly v celkové spotřebě energie, pravděpodobně kvůli vyššímu TDP PRO 6000. To naznačuje, že nejnovější generace NVIDIA i nadále zlepšuje výkon na watt, spíše než ho drasticky posouvá.
| Stabilní difuzní výkon XL FP16 (nižší je lepší) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Spotřeba energie | 1.35Wh | 1.16Wh | 1.35Wh | 1.76Wh |
| Trvání testu | 5.3s | 5.1s | 7.3s | 12.6s |
Závěr
NVIDIA RTX PRO 6000 je celkově nejvýkonnější grafickou kartou pro pracovní stanice dostupnou pro profesionální pracovní postupy a poskytuje výkon datového centra ve formě desktopového zařízení. S maloobchodní cenou kolem 8 500 dolarů v době testování se zaměřuje na týmy, které vyžadují spolehlivost, vysokou výpočetní hustotu a masivní paměť ECC pro produkční práci. S 24 064 jádry CUDA, 752 jádry Tensor, 96 GB paměti GDDR7 ECC a architekturou Blackwell zvládá pracovní zátěž, která překračuje praktické limity spotřebitelských karet, jako je GeForce RTX 5090 nebo 4090. Jednotlivé benchmarky mohou ukázat, že spotřebitelská karta ji v hrubé rychlosti překonává, ale jako celek z hlediska kapacity, stability, ovladačů a podpory ISV je RTX PRO 6000 vhodnější volbou pro profesionální použití.
Pro umělou inteligenci a strojové učení je 96GB pool stěžejní. Umožňuje dlouhou kontextovou inferenci a velmi rozsáhlé kontrolní body lokálně, což jsme demonstrovali spuštěním modelů třídy 70B až 120B při zachování silných tokenů za sekundu. Renderování a simulace také těží z větší L2 cache a šířky pásma paměti, což poskytuje předvídatelný a trvalý výkon v Blenderu, V-Ray a LuxMarku při delším zatížení.
Karta je vhodná pro skutečné pracovní stanice. Nabízí skutečně dvouslotový design s rozhraním PCIe 5.0 x16, čtyřmi výstupy DisplayPort 2.1b a jedním 16pinovým napájecím vstupem. Pro podporu 600W napájení desky je třeba naplánovat kvalitní zdroj a proudění vzduchu v šasi. Vícenásobné grafické karty jsou také snadno použitelné s podporou OEM a ISV pro 2 až 8 GPU napříč AI, renderováním a výpočetními stacky.
Pokud vaše práce zahrnuje dlouhé kontextové LLM, velmi rozsáhlé scény nebo vysoce přesnou simulaci na jednom uzlu, RTX PRO 6000 ospravedlňuje svou prémii kapacitou a konzistencí, které se jiné karty nemohou rovnat.
Produktová stránka Nvidia RTX PRO 6000
Žebříček: RTX PRO 6000 Blackwell Server Edition drží v našem žebříčku Nejlepší podnikové grafické karty s inferencí , kde data z Workstation Edition z této karty zastupují serverovou část.
Amazon