StorageReview.com

Recenzia grafickej karty NVIDIA RTX PRO 6000 pre pracovnú stanicu: Architektúra Blackwell a 96 GB pre profesionálne pracovné postupy

Spotrebiteľ  ◇  Workstation

V auguste spoločnosť NVIDIA rozdelila svoju špičkovú ponuku desktopových grafických kariet Blackwell na dve kategórie pre profesionálov: Workstation a Server. Karta RTX PRO 6000 Workstation je určená pre tvorcov, inžinierov a vývojárov umelej inteligencie, ktorí vyžadujú maximálny výpočtový výkon a VRAM v rámci vežového alebo stolového šasi. RTX PRO 6000 Blackwell Server Edition je určená pre rackové servery a uzly pre bezhlavú inferenciu alebo renderovanie v dátových centrách. Teraz, keď máme kartu pre pracovnú stanicu na stole, sa na ňu môžeme v tejto recenzii zamerať.

Pohľad spredu na Nvidia RTX PRO 6000 s lenivcom.

Za 8 500 dolárov prináša RTX PRO 6000 plnohodnotný procesor GB202 s 24 064 jadrami CUDA, 752 jadrami Tensor piatej generácie, 188 jadrami RT štvrtej generácie a 96 GB pamäte GDDR7 ECC. Jej príťažlivosť je okamžite zrejmá. Získate pamäťovú kapacitu, ktorej sa spotrebiteľské karty nemôžu porovnať, profesionálne ovládače a dvojslotový dizajn, ktorý sa hodí do skutočných pracovných staníc bez špeciálnych požiadaviek na napájanie alebo prúdenie vzduchu.

NVIDIA umiestňuje túto grafickú kartu (GPU) do zmiešaných pracovných postupov. To zahŕňa lokálnu inferenciu LLM s dlhým kontextom, vykresľovanie rozsiahlych scén, komplexnú simuláciu a výskumné zariadenia s viacerými GPU. Praktické detaily sú tu dôležité. Karta využíva štandardné rozhranie PCIe 5.0 x16, ponúka štyri výstupy DisplayPort 2.1b pre vizualizáciu s vysokým rozlíšením a vysokou obnovovacou frekvenciou a poskytuje konfigurovateľný TDP 600 W, čo umožňuje integrátorom nastaviť optimálne teplo, akustiku alebo hustotu.

Naším cieľom je vyhodnotiť, ako si táto verzia pracovnej stanice vedie v laboratóriu v oblasti umelej inteligencie, renderovania a všeobecných výpočtov, a kvantifikovať vplyv 96 GB pamäte na možnosti jedného desktopového uzla.

Pracovná stanica NVIDIA RTX PRO 6000 vs. serverová edícia

Varianty RTX PRO 6000 vychádzajú z rovnakého základu Blackwell GB202, takže surové matematické funkcie vyzerajú na papieri povedome. Rozdiel spočíva v tom, ako a kde sú určené. Karta pre pracovnú stanicu, ktorú testujeme, je samostatná, aktívne chladená, dvojslotová doska so štyrmi výstupmi DisplayPort 2.1b a ovládačmi štúdiovej triedy. Zasúva sa do veže alebo stolovej pracovnej stanice, riadi lokálne panely a spúšťa aplikácie DCC a CAD s certifikáciou ISV spolu s CUDA, TensorRT a cuDNN. Ak pracovné postupy kombinujú interaktívnu prácu s výrezom, lokálnu vizualizáciu a umelú inteligenciu v krabici, je to cesta, ktorá udrží všetko v jednom šasi s predvídateľnou akustikou a teplotou.

RTX PRO 6000 Blackwell Server Edition je navrhnutá na úplne iný účel. Ide o bezhlavú konfiguráciu s umiestnením do racku, určenú pre servery, ktorá ponúka prúdenie vzduchu spredu dozadu a možnosti vzdialenej správy. Neexistujú žiadne aktívne zobrazovacie výstupy, pretože úlohy sa plánujú cez sieť a výsledky sa snímajú na diaľku. Profily firmvéru, napájania a teploty sú vyladené pre nepretržitú prevádzku 24 hodín denne, 7 dní v týždni pomocou plánovača, zvyčajne spárovaného s NVIDIA AI Enterprise, orchestráciou kontajnerov a hypervízorom. Stručne povedané, model pracovnej stanice je tou správnou voľbou, keď tvorcovia a inžinieri potrebujú vidieť a manipulovať s prácou lokálne a zároveň spúšťať rozsiahle inferenčné alebo simulačné dávky. Serverová edícia má väčší zmysel pri škálovaní identických uzlov za frontom v dátovom centre, kde každý watt, kábel a cesta prúdenia vzduchu musia zodpovedať servisnému plánu OEM.

Špecifikácie grafickej karty NVIDIA RTX PRO 6000

V nasledujúcej tabuľke sú uvedené špecifikácie grafickej karty NVIDIA RTX PRO 6000 v porovnaní s RTX 5090 a predchádzajúcou generáciou RTX 4090 od Ady Lovelace.

Porovnanie grafických kariet NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090
Názov GPU GB202 GB202 AD102
architektúra Blackwell 2.0 Blackwell 2.0 Ada Lovelace
Veľkosť procesu 5 nm 5 nm 5 nm
Tranzistory 92,200 miliónov 92,200 miliónov 76,300 miliónov
Hustota 122.9 M / mm² 122.9 M / mm² 125.3 M / mm²
Veľkosť Die 750 mm² 750 mm² 609 mm²
Šírka drážky Dvojslotový Dvojslotový Trojitý slot
Rozmery 304 mm x 137 mm x 40 mm 304 mm x 137 mm x 48 mm 304 mm x 137 mm x 61 mm
TDP 600 W 575 W 450 W
Výstupy 4x DisplayPort 2.1b 1x HDMI 2.1b, 3x DisplayPort 2.1b 1x HDMI 2.1, 3x DisplayPort 1.4a
Napájacie konektory Kolík 1x 16 Kolík 1x 16 Kolík 1x 16
Rozhranie zbernice PCIe 5.0 x16 PCIe 5.0 x16 PCIe 4.0 x16
Základné hodiny 1590 MHz 2017 MHz 2235 MHz
Boost Clock 2617 MHz 2407 MHz 2520 MHz
Pamäť Hodiny 1750 MHz (efektívne 28 Gb/s) 2209 MHz (efektívne 28 Gb/s) 1313 MHz (efektívne 21 Gb/s)
Veľkosť pamäte 96 GB 32 GB 24 GB
Typ pamäte GDDR7 ECC GDDR7 GDDR6X
Pamäťová zbernica 512 bit 512 bit 384 bit
Šírka pamäte 1.79 TB / s 1.79 TB / s 1.01 TB / s
CUDA Cores 24,064 21,760 16,384
Tenzorové jadrá 752 680 512
rOPY 192 192 176
Počet SM 188 170 128
RT Cores 188 170 128
L1 Cache 128 KB (na SM) 128 KB (na SM) 128 KB (na SM)
L2 Cache 128 MB 88 MB 72 MB
Pixel Rate 502.5 GPixel/s 462.1 GPixel/s 443.5 GPixel/s
Rýchlosť textúry 1,968.0 GTexelov/s 1,637 GTexelov/s 1,290 GTexelov/s
FP16 (polovica) 126.0 TFLOPS (1:1) 104.8 TFLOPS (1:1) 82.58 TFLOPS (1:1)
FP32 (plavák) 126.0 TFLOPS 104.8 TFLOPS 82.58 TFLOPS
FP64 (dvojitý) 1.968 TFLOPS (1:64) 1.637 TFLOPS (1:64) 1,290 GFLOPS (1:64)
Uvádzacia cena (USD) $8,500 $1,999 $1,599

Vytváranie a dizajn

Grafická karta RTX PRO 6000 Workstation GPU pokračuje v čistom a funkčnom dizajne NVIDIA, ako je vidieť na RTX 5090 FE, s priemyselnou matne čiernou povrchovou úpravou a dvojitým axiálnym rozložením ventilátorov optimalizovaným pre prostredie pracovných staníc. Každý ventilátor je navrhnutý tak, aby prúdil vzduch cez 3D parnú komoru po celej dĺžke, čo pomáha udržiavať tepelnú rovnováhu pri trvalom zaťažení. S rozmermi 304 mm × 137 mm × 40 mm sa pohodlne zmestí do dvojslotovej konfigurácie a ponúka výnimočnú hustotu výkonu vzhľadom na TDP 600 W.

Pohľad spredu na grafickú kartu Nvidia RTX PRO 6000.

Pozdĺž horného okraja sa nachádza PRO 6000 s jedným 16-pinovým napájacím konektorom, ktorý dodáva prúd potrebný na podporu 96 GB pamäte GDDR7 a plnej architektúry Blackwell 2.0. Kvalita vyhotovenia pôsobí prémiovo a pevne, s hliníkovým krytom, ktorý efektívne vedie vzduch cez rebrá. Decentné označenie NVIDIA dopĺňa profesionálnu estetiku bez RGB podsvietenia alebo herných prvkov a zdôrazňuje spoľahlivosť a výkon v tepelne náročných šasi pracovných staníc.

Vrchná strana grafickej karty Nvidia RTX PRO 6000.

Na strane I/O poskytuje NVIDIA štyri výstupy DisplayPort 2.1b, čo zaisťuje kompatibilitu s viacerými monitormi s rozlíšením 8K, farebne presnými HDR pracovnými postupmi a pokročilými renderovacími prostrediami. Použitie DisplayPort 2.1b cez HDMI odráža jeho profesionálnu orientáciu so zvýšenou šírkou pásma pre displeje s vysokou obnovovacou frekvenciou a vysokým rozlíšením.

Porty displeja Nvidia RTX PRO 6000.

Testovanie výkonu

Aby sme vyhodnotili výkon našej vzorky grafických kariet NVIDIA RTX PRO 6000, priamo sme ju porovnali s vlajkovými loďami spotrebiteľských náprotivkov od spoločnosti NVIDIA, RTX 5090 Founders Edition a RTX 4090 Founders Edition. Testovanie prebiehalo v kombinácii profesionálnych a umelou inteligenciou riadených pracovných záťaží, aby sa zdôraznil výpočtový výkon aj výkon reálnych aplikácií. Benchmarky zahŕňali UL Procyon AI Text Generation, UL Procyon AI Image Generation, LuxMark, Geekbench 6 a V-Ray, čím poskytli vyvážený prehľad o vykresľovaní, inferencii a produktivite.

Okrem týchto štandardných pracovných zaťažení sme vykonali aj cielené testy navrhnuté tak, aby predstavili 96 GB pamäte GDDR7 v RTX PRO 6000 a demonštrovali jej výhody pri spracovaní veľkých modelov, súborov údajov s vysokým rozlíšením a profesionálnych vizualizačných pracovných zaťažení, kde sú kapacita a trvalá priepustnosť kritické.

Aby sme naplno využili výhody novej grafickej karty NVIDIA RTX PRO 6000, využili sme našu platformu AMD ThreadRipper. Tento systém v konfigurácii ponúka 64-jadrový procesor a vodné chladenie. Má dostatočný výkon procesora, aby grafický procesor mohol bez problémov vykonávať svoju prácu. Kompletná konfigurácia systému je uvedená nižšie.

Testovacia platforma StorageReview AMD ThreadRipper
  • Základná doska: ASUS Pro WS TRX50-SAGE Wi-Fi
  • CPU: AMD Ryzen Threadripper 7980X 64-jadrový
  • RAM: 32 GB DDR5 4800 MT/s
  • Skladovanie: 2TB Samsung 980 Pro
  • OS: Windows 11 Pro pre pracovné stanice

UL Procyon: Generovanie textu pomocou umelej inteligencie

Benchmark generovania textu s umelou inteligenciou Procyon zefektívňuje testovanie výkonnosti LLM s umelou inteligenciou (AI LLM) tým , že poskytuje stručnú a konzistentnú metódu hodnotenia. Umožňuje opakované testovanie na viacerých modeloch LLM a zároveň minimalizuje zložitosť veľkých modelov a variabilných faktorov. Vyvinutý v spolupráci s poprednými výrobcami hardvéru umelej inteligencie, optimalizuje použitie lokálnych akcelerátorov umelej inteligencie pre spoľahlivejšie a efektívnejšie hodnotenie výkonnosti. Nižšie uvedené namerané výsledky boli testované pomocou TensorRT.

Vo všetkých štyroch modelových testoch NVIDIA RTX PRO 6000 konzistentne viedla. Počnúc skóre Phi dosiahla PRO 6000 celkové skóre 6 775, čím prekonala RTX 5090 s 5 749, RTX 4090 s 4 958 a RTX 6000 Ada s 4 508. Jej rýchlejšia rýchlosť generovania tokenov (325.9 tokenov/s) a nižšia latencia (0.182 s do prvého tokenu) podčiarkujú jej odozvu pri generovaní textu v reálnom čase a pri úlohách založených na chate s umelou inteligenciou.

Trend pokračoval aj s modelom Mistral, kde PRO 6000 dosiahol 7 346, čím si udržal značný náskok pred modelmi 5090 (6 267), 4090 (5 094) a 6000 Ada (4 255). Jeho priepustnosť 271.8 tokenov/s demonštruje výhodu jeho väčšieho 96 GB pamäťového fondu a optimalizovaného ladenia pracovnej stanice pre inferenciu s vysokým kontextom.

V teste Llama3 si PRO 6000 udržala vedenie so skóre 6 501 v porovnaní s 6 104 pre RTX 5090, 4 849 pre 4090 a 4 026 pre 6000 Ada. To zdôrazňuje konzistentnosť architektúry Blackwell od spoločnosti NVIDIA, pričom PRO 6000 si zachováva výkonnostné výhody aj pri škálovaní transformačných pracovných zaťažení v komplexnosti a dĺžke kontextu.

Nakoniec, v Llama2, ktorá kladie dôraz na dlhodobú inferenciu a trvalý výkon, dosiahla PRO 6000 8 008, zatiaľ čo 5090, 4090 a 6000 Ada zaostávali s 6 591, 5 013 a 3 957. Aj keď dĺžky sekvencií a inferenčné časy rástli, PRO 6000 si udržala jasnú dominanciu v rýchlosti aj stabilite, pričom dokončovala behy rýchlejšie a s plynulejším priepustným výkonom ako ktorákoľvek iná testovaná GPU.

UL Procyon: Generovanie textu pomocou umelej inteligencie NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Celkové skóre Phi 6,775 5,749 4,958 4,508
Čas výstupu Phi do prvého tokenu 0.182 s 0.244 s 0.255 s 0.288 s
Výstupné tokeny Phi za sekundu 325.855 tok/s 314.435 tok/s 244.343 tok/s 228.359 tok/s
Celkové trvanie fí 9.498 s 10.280 s 12.872 s 13.869 s
Celkové skóre Mistralu 7,346 6,267 5,094 4,255
Čas do dosiahnutia prvého tokenu na výstupe Mistralu 0.229 s 0.297 s 0.322 s 0.419 s
Výstupné tokeny Mistral za sekundu 271.779 tok/s 255.945 tok/s 183.266 tok/s 166.633 tok/s
Celkové trvanie Mistralu 11.493 s 12.593 s 17.010 s 19.092 s
Celkové skóre Llama3 6,501 6,104 4,849 4,026
Čas výstupu Llama3 do prvého tokenu 0.218 s 0.234 s 0.259 s 0.348 s
Výstupné tokeny Llama3 za sekundu 226.407 tok/s 214.285 tok/s 150.039 tok/s 138.620 tok/s
Celkové trvanie Llama3 13.554 s 14.304 s 19.991 s 22.062 s
Celkové skóre Llama2 8,008 6,591 5,013 3,957
Čas výstupu Llama2 do prvého tokenu 0.307 s 0.419 s 0.500 s 0.679 s
Výstupné tokeny Llama2 za sekundu 145.595 tok/s 134.502 tok/s 92.853 tok/s 78.532 tok/s
Celkové trvanie Llama2 20.712 s 23.018 s 32.448 s 38.923 s

UL Procyon: Generovanie AI obrazu

Benchmark generovania obrázkov s využitím umelej inteligencie od Procyon poskytuje konzistentnú a presnú metódu na meranie výkonu inferencie umelej inteligencie naprieč rôznym hardvérom, od nízkoenergetických NPU až po špičkové GPU. Zahŕňa tri testy: Stable Diffusion XL (FP16) pre špičkové GPU, Stable Diffusion 1.5 (FP16) pre stredne výkonné GPU a Stable Diffusion 1.5 (INT8) pre zariadenia s nízkou spotrebou energie. Benchmark používa optimálny inferenčný engine pre každý systém, čím zabezpečuje spravodlivé a porovnateľné výsledky.

Počnúc testom Stable Diffusion 1.5 (FP16) dosiahla NVIDIA RTX PRO 6000 impozantné celkové skóre 8 869, čím prekonala RTX 5090 s 8 193, RTX 4090 s 5 260 a RTX 6000 Ada so 4 230. PRO 6000 dokončila generovanie obrazu za 11.27 sekundy s priemerným časom 0.705 sekundy na obrázok, čo z nej robí najrýchlejšiu v tomto teste. To demonštruje, ako jej ladenie optimalizované pre pracovnú stanicu a 96 GB pamäte GDDR7 umožňujú trvalý a vysoko presný výstup bez kompromisov v efektivite.

V teste Stable Diffusion 1.5 (INT8), ktorý meria výkon ľahkej kvantizovanej inferencie, si všetky GPU viedli tesne. PRO 6000 dosiahla skóre 79 064, čo je takmer identické s RTX 5090 so skóre 79 272, pričom viedla pred RTX 4090 (62 160) a RTX 6000 Ada (55 901). Keďže pracovné zaťaženie INT8 sa menej spolieha na šírku pásma a kapacitu pamäte, rozdiely boli minimálne, ale PRO 6000 si udržala konzistentné výsledky s priemerným časom generovania 0.395 sekundy na obrázok.

Test Stable Diffusion XL (FP16) posúva grafické procesory dopredu s dlhšími a náročnejšími inferenčnými behmi, ktoré zaťažujú pamäť aj trvalú výpočtovú priepustnosť. V tomto teste PRO 6000 dosiahol celkové skóre 6 991, čo je tesne za RTX 5090 s 7 179, ale výrazne pred RTX 4090 s 5 025 a RTX 6000 Ada s 3 043. Celkový čas vykresľovania dosiahol 85.8 sekundy, čiže 5.36 sekundy na obrázok, čo dokazuje, že PRO 6000 zvláda rozsiahlejšie generovanie záťaže efektívne a bez spomalenia.

UL Procyon: Generovanie obrazu pomocou umelej inteligencie NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Stabilná difúzia 1.5 (FP16) – Celkové skóre 8,869 8,193 5,260 4,230
Stabilná difúzia 1.5 (FP16) – celkový čas 11.274 s 12.204 s 19.011 s 23.639 s
Stabilná difúzia 1.5 (FP16) – rýchlosť generovania obrazu 0.705 s/obrázok 0.763 s/obrázok 1.188 s/obrázok 1.477 s/obrázok
Stabilná difúzia 1.5 (INT8) – Celkové skóre 79,064 79,272 62,160 55,901
Stabilná difúzia 1.5 (INT8) – celkový čas 3.162 s 3.154 s 4.022 s 4.472 s
Stabilná difúzia 1.5 (INT8) – rýchlosť generovania obrazu 0.395 s/obrázok 0.394 s/obrázok 0.503 s/obrázok 0.559 s/obrázok
Stabilná difúzia XL (FP16) – Celkové skóre 6,991 7,179 5,025 3,043
Stabilná difúzia XL (FP16) – celkový čas 85.819 s 83.573 s 119.379 s 197.172 s
Stabilná difúzia XL (FP16) – rýchlosť generovania obrazu 5.364 s/obrázok 5.223 s/obrázok 7.461 s/obrázok 12.323 s/obrázok

Blender 4.4

Blender je open-source 3D modelovacia aplikácia. Tento benchmark bol spustený pomocou utility Blender Benchmark. Skóre sa meria vo vzorkách za minútu, pričom vyššie hodnoty znamenajú lepší výkon.

Vo všetkých troch scénach sa umiestnila NVIDIA RTX PRO 6000 na najvyššej pozícii, ktorá demonštrovala výhody svojej architektúry Blackwell a rozšírenej pamäťovej kapacity. V scéne Monster dosiahla PRO 6000 skóre 7 870,17 vzoriek za minútu, čím predbehla RTX 5090 s výsledkom 7 421,50, zatiaľ čo RTX 4090 a RTX 6000 Ada nasledovali s 5 733,97 a 5 632,60.

V scéne „Junkshop“ si PRO 6000 udržal vedenie so 4 158,91 vzorkami za minútu v porovnaní s 3 980,15 pre RTX 5090, 2 827,83 pre RTX 4090 a 2 663,77 pre RTX 6000 Ada. Nakoniec v scéne „Classroom“, ktorá má tendenciu klásť dôraz na tieňovanie aj efektivitu pamäte, PRO 6000 dosiahol 4 041,11 vzoriek za minútu, opäť pred RTX 5090 s 3 732,63 a výrazne prekonal RTX 4090 a RTX 6000 Ada s 2 909,35 a 2 818,83.

Blender 4.4 (čím vyšší, tým lepší) NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Príšera 7,870.17 7,421.50 5,733.97 5,632.60
Vrakovisko 4,158.91 3,980.15 2,827.83 2,663.77
Trieda 4,041.11 3,732.63 2,909.35 2,818.83

Luxmark

Luxmark je benchmark GPU, ktorý využíva LuxRender, open-source raytracing renderer, na posúdenie výkonu systému pri spracovaní vysoko detailných 3D scén. Tento benchmark je obzvlášť dôležitý na hodnotenie grafických vykresľovacích schopností serverov a pracovných staníc, najmä v aplikáciách vizuálnych efektov a architektonickej vizualizácie, kde je presná simulácia svetla kľúčová.

V teste scény Jedlo viedla NVIDIA RTX PRO 6000 so skóre 24 287, čím predbehla RTX 5090 s 23 141, zatiaľ čo RTX 4090 a RTX 6000 Ada nasledovali s 17 171 a 14 873. To demonštruje, ako si PRO 6000 udržiava plynulý výkon sledovania lúčov v rámci vysoko detailnej geometrie a svetelných záťaží bez straty stability alebo tepelného škrtenia.

V náročnejšej scéne Hall, ktorá zdôrazňuje rozsiahlu geometriu a komplexné globálne osvetlenie, si PRO 6000 opäť zabezpečila najvyšší výsledok s 52 588, tesne pred RTX 5090 s 51 725 a výrazne nad RTX 4090 (38 887) a RTX 6000 Ada (32 132).

Luxmark (vyššie je lepšie) NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Skóre jedla 24,287 23,141 17,171 14,873
Hallovo skóre 52,588 51,725 38,887 32,132

Geekbench 6

Geekbench 6 je multiplatformový benchmark, ktorý meria celkový výkon systému. Prehliadač Geekbench vám umožňuje porovnať s ním akýkoľvek systém.

V tomto teste dosiahla NVIDIA RTX PRO 6000 skóre GPU OpenCL 384 158, čím prekonala RTX 5090 (374 807), RTX 4090 (333 384) a RTX 6000 Ada (336 882). Vyššie skóre PRO 6000 odráža optimalizovaný dizajn pracovnej stanice, vylepšenú šírku pásma pamäte a profesionálny balík ovládačov, ktoré spolu umožňujú konzistentný výkon v širokom rozsahu výpočtovo náročných úloh.

Geekbench (vyššie je lepšie) NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Skóre GPU OpenCL 384,158 374,807 333,384 336,882

V-Ray

V -Ray Benchmark meria výkon vykresľovania pre CPU, GPU NVIDIA alebo oboje pomocou pokročilých enginov V-Ray 6. Využíva rýchle testy a jednoduchý systém hodnotenia, ktorý umožňuje používateľom vyhodnotiť a porovnať vykresľovacie schopnosti svojich systémov. Je to nevyhnutný nástroj pre profesionálov, ktorí hľadajú efektívne informácie o výkone.

V našich testoch dosiahla NVIDIA RTX PRO 6000 skóre 12 128 Vpaths, čím sa umiestnila medzi RTX 5090, ktorá viedla s 14 764 a RTX 4090 so skóre 10 847. RTX 6000 Ada mierne zaostávala s 10 766. Zatiaľ čo RTX 5090 si v tomto teste vykresľovania s náročným na GPU udržala mierny náskok, PRO 6000 preukázala silný a konzistentný výkon, čím posilnila svoje ladenie zamerané na pracovnú stanicu a trvalú efektivitu pri plnom vykresľovacom zaťažení.

V-Ray (čím vyššie, tým lepšie) NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
vcesty 12,128 14,764 10,847 10,766

Test inferencie viacerých modelov v LM Studio

V tomto kole testovania sme použili LM Studio na vyhodnotenie výkonu grafickej karty NVIDIA RTX PRO 6000 v rôznych populárnych modeloch s rozsiahlymi programovacími jazykmi, vrátane GPT-OSS 120B, Gemma 3 (4B, 12B a 27B), Llama 3.1 (8B a 70B) a Llama 3.3 70B. Každý model bol vyzvaný rovnakým pokynom:

„Napíšte 500-slovnú akademickú prácu o histórii leňochodov.“

Hlavným zameraním v tomto teste sú tokeny za sekundu (priepustnosť) a celkový čas (trvanie dokončenia), ktoré spolu zdôrazňujú, ako efektívne RTX PRO 6000 zvláda rôzne veľkosti a zložitosti modelov za rovnakých podmienok generovania.

V inferenčných testoch LM Studio preukázala NVIDIA RTX PRO 6000 vynikajúci výkon a škálovateľnosť v širokej škále veľkostí modelov, od menších modelov so 4B parametrami až po masívne konfigurácie triedy 120B.

Vrcholom tohto testu bol OpenAI GPT-OSS 120B, kde RTX PRO 6000 vyprodukovala 163.1 tokenov za sekundu a dokončila generovanie 500 slov za 9.54 sekundy. Tento výsledok vyniká, pretože karty ako RTX 5090 nedokážu načítať alebo spustiť 120B model a často nedokážu spracovať ani 70B modely kvôli obmedzenej VRAM. 96 GB pamäte GDDR7 karty PRO 6000 umožňuje spracovať tieto obrovské modely lokálne, vďaka čomu je medzi GPU pracovných staníc jedinečne výkonná.

Spomedzi menších modelov dosiahol najvyššiu priepustnosť Gemma 3.4 B, ktorý úlohu dokončil s rýchlosťou 226.7 tokenov za sekundu za 3.51 sekundy. Llama 3.1 8B Instruct ho tesne nasledoval s rýchlosťou 197.1 tokenov za sekundu a celkovým časom 4.17 sekundy. Tieto behy ukazujú vysokú efektivitu a rýchlu odozvu PRO 6000 pri stredne veľkých inferenčných pracovných zaťaženiach.

Vo vyššej cenovej kategórii dosiahli modely Llama 3.1 70B Instruct a Llama 3.3 70B v priemere okolo 31.8 tokenov za sekundu s celkovým časom generovania 27.2 sekundy a 25.3 sekundy, čo napriek ich veľkej veľkosti vykazuje konzistentný výkon.

Celkovo RTX PRO 6000 poskytuje vynikajúcu stabilitu, priepustnosť a výkon pri spúšťaní rozsiahlych modelov. Jeho kapacita pamäte 96 GB umožňuje zvládnuť pracovné zaťaženie, ktoré presahuje limity spotrebiteľských GPU, vďaka čomu je vynikajúcou voľbou pre vývojárov, výskumníkov a profesionálov, ktorí potrebujú spoľahlivý lokálny výkon pre pokročilý vývoj umelej inteligencie a generatívnych modelov.

LM Studio (Výsledky inferencie modelu)
Názov modelu Tokeny / s Čas do prvého žetónu (s) Celkový čas (s) Tokeny výziev Predpokladané tokeny Celkový počet žetónov
OpenAI GPT-OSS 120B 163.15 0.193 9.543 81 1,557 1,638
Gemma 3 4B 226.73 0.113 3.51 25 796 821
Gemma 3 12B 117.15 0.068 8.06 25 944 969
Gemma 3 27B 68.06 0.221 12.048 25 820 845
Meta Llama 3.1 8B Inštrukt 197.07 0.062 4.171 49 822 871
Meta Llama 3.1 70B Inštrukt 31.84 0.159 27.227 49 867 916
Meta Lama 3.3 70B 31.74 0.323 25.329 49 804 853

Spotreba energie grafickej karty NVIDIA RTX PRO 6000

Na vyhodnotenie reálnej efektívnosti úloh umelej inteligencie sme použili benchmark UL Procyon AI Image Generation, konkrétne test Stable Diffusion XL FP16. Tento test sa zameriava na interval medzi druhým a posledným vygenerovaným obrázkom, zachytáva čas potrebný na dokončenie intervalu, špičkovú a trvalú spotrebu energie a spotrebu energie systému v stave nečinnosti po dokončení.

Počas nášho testovania si RTX PRO 6000 udržiavala priemernú spotrebu systému 918.5 W pri trvalom zaťažení, pričom vrchol dosiahla 1 036,3 W, pričom spotreba v nečinnosti sa po dokončení záťaže ustálila na 152.3 W. Celý testovací interval trval 5.3 sekundy a spotreboval celkovo 1.35 Wh energie. Tieto výsledky ukazujú vynikajúcu účinnosť pomeru energie k výkonu pre grafickú kartu triedy pracovnej stanice, pričom udržiava spotrebu dobre kontrolovanú a zároveň zachováva vysoký výkon počas dlhých inferenčných záťaží.

V porovnaní s inými grafickými kartami sa RTX PRO 6000 v celkovej spotrebe energie výrazne vyrovná RTX 4090, pričom si zachováva rýchlejší čas dokončenia výpočtov a výrazne prekonáva RTX 6000 Ada v energetickej účinnosti aj rýchlosti. Je zaujímavé, že nové karty Blackwell, ktoré zdieľajú čip GB202, vykazujú pri tomto zaťažení veľmi podobné charakteristiky účinnosti, pričom len malé rozdiely v celkovej spotrebe energie sú pravdepodobne spôsobené vyšším TDP PRO 6000. To naznačuje, že najnovšia generácia od NVIDIA naďalej zdokonaľuje výkon na watt, a nie ho drasticky mení.

Stabilná difúzia XL FP16 Spotrebovaný obrazový výkon (nižší je lepší) NVIDIA RTX PRO 6000 NVIDIA RTX5090 NVIDIA RTX4090 NVIDIA RTX 6000 Ada
Spotrebovaná energia 1.35Wh 1.16Wh 1.35Wh 1.76Wh
Trvanie testu 5.3s 5.1s  7.3s 12.6s

Záver

NVIDIA RTX PRO 6000 je celkovo najvýkonnejšia grafická karta pre pracovné stanice dostupná pre profesionálne pracovné postupy a poskytuje výkon na úrovni dátového centra v prevedení pre stolný počítač. S maloobchodnou cenou okolo 8 500 dolárov v čase testovania je určená pre tímy, ktoré vyžadujú spoľahlivosť, vysokú výpočtovú hustotu a masívny pamäťový fond ECC pre produkčnú prácu. S 24 064 jadrami CUDA, 752 jadrami Tensor, 96 GB pamäte GDDR7 ECC a architektúrou Blackwell zvláda pracovné zaťaženie, ktoré presahuje praktické limity spotrebiteľských kariet, ako sú GeForce RTX 5090 alebo 4090. Jednotlivé benchmarky môžu ukázať, že spotrebiteľská karta ju prekonáva v hrubej rýchlosti, ale ako celok z hľadiska kapacity, stability, ovládačov a podpory ISV je RTX PRO 6000 vhodnejšou voľbou pre profesionálne použitie.

Pre umelú inteligenciu a strojové učenie je hlavnou výhodou 96 GB pool. Umožňuje dlhú kontextovú inferenciu a veľmi rozsiahle kontrolné body lokálne, čo sme demonštrovali spustením modelov triedy 70B až 120B pri zachovaní silných tokenov za sekundu. Renderovanie a simulácia tiež profitujú z väčšej vyrovnávacej pamäte L2 a šírky pásma pamäte, čo poskytuje predvídateľný a trvalý výkon v Blenderi, V-Ray a LuxMarku pri dlhodobom zaťažení.

Pohľad spredu na grafickú kartu Nvidia RTX PRO 6000.

Karta je vhodná pre skutočné pracovné stanice. Má skutočný dvojslotový dizajn s rozhraním PCIe 5.0 x16, štyrmi výstupmi DisplayPort 2.1b a jedným 16-pinovým napájacím vstupom. Naplánujte si kvalitný zdroj a prúdenie vzduchu v šasi, aby ste podporili 600W výkon dosky. Viacero grafických procesorov je tiež jednoduché, s podporou OEM a ISV pre 2 až 8 grafických procesorov naprieč AI, renderovaním a výpočtovými stackmi.

Ak vaša práca zahŕňa dlhé kontextové LLM, veľmi rozsiahle scény alebo vysoko presnú simuláciu na jednom uzle, RTX PRO 6000 ospravedlňuje svoju prémiu kapacitou a konzistenciou, ktorej sa iné karty nemôžu porovnať.

Produktová stránka Nvidia RTX PRO 6000

Zapojte sa do StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Dylan Dougherty

IT profesionál špecializujúci sa na správu sietí a autor článku pre StorageReview.