In augustus splitste NVIDIA zijn topmodel Blackwell desktop op in twee segmenten voor professionals: Workstation en Server. De RTX PRO 6000 Workstation-kaart is ontworpen voor creators, engineers en AI-ontwikkelaars die maximale rekenkracht en VRAM nodig hebben in een tower- of desktopbehuizing. De RTX PRO 6000 Blackwell Server Edition is ontworpen voor rackservers en headless inference- of renderingnodes in het datacenter. Nu we de workstation-kaart op de werkbank hebben, kunnen we ons daarop richten voor deze review.
Voor $ 8,500 brengt de RTX PRO 6000 een volwaardige GB202 naar je bureau met 24,064 CUDA-cores, 752 vijfde-generatie Tensor Cores, 188 vierde-generatie RT Cores en 96 GB GDDR7 ECC. De aantrekkingskracht is direct duidelijk. Je krijgt een geheugencapaciteit die consumentenkaarten niet kunnen evenaren, professionele drivers en een dual-slot form factor die past bij echte workstations zonder speciale stroom- of luchtstroomvereisten.
NVIDIA positioneert deze GPU voor gemengde workflows. Denk hierbij aan lokale LLM-inferentie met lange context, rendering van grote scènes, complexe simulatie en multi-GPU-onderzoeksplatforms. Praktische details zijn hierbij belangrijk. De kaart maakt gebruik van een standaard PCIe 5.0 x16-interface, biedt vier DisplayPort 2.1b-uitgangen voor visualisatie met hoge resolutie en hoge verversingssnelheid, en biedt een configureerbaar TDP van 600 W, waardoor integrators kunnen afstemmen op optimale thermische eigenschappen, akoestiek of dichtheid.
Ons doel is om te evalueren hoe deze werkstationversie in het lab presteert op het gebied van AI, rendering en algemeen computergebruik. Ook willen we de impact van de 96 GB-pool op de mogelijkheden van een enkel desktopknooppunt kwantificeren.
NVIDIA RTX PRO 6000 Workstation versus Server Edition
De RTX PRO 6000-varianten starten op hetzelfde Blackwell GB202-fundament, dus de ruwe rekenmogelijkheden lijken op papier bekend. Het verschil zit hem in hoe en waar ze bedoeld zijn om te worden gebruikt. De workstationkaart die we testen, is een autonome, actief gekoelde kaart met twee sleuven, vier DisplayPort 2.1b-uitgangen en studioklasse drivers. Hij past in een tower of desktopwerkstation, stuurt lokale panelen aan en draait ISV-gecertificeerde DCC- en CAD-apps naast CUDA, TensorRT en cuDNN. Als workflows interactief viewportwerk, lokale visualisatie en on-box AI combineren, is dit de weg die alles in één behuizing houdt met voorspelbare akoestiek en thermiek.
De RTX PRO 6000 Blackwell Server Editie is ontworpen voor een heel ander doel. Het is een headless, rack-first configuratie, bedoeld voor servers, met front-to-back luchtstroom en mogelijkheden voor extern beheer. Er zijn geen actieve weergave-uitgangen, omdat taken via het netwerk worden gepland en de resultaten op afstand worden gebruikt. Firmware-, stroom- en thermische profielen zijn afgestemd op 24×7 gebruik onder een scheduler, meestal gecombineerd met NVIDIA AI Enterprise, containerorkestratie en hypervisor passthrough. Kortom, het workstationmodel is de juiste keuze wanneer ontwikkelaars en engineers werk lokaal moeten bekijken en bewerken, terwijl ze ook grote inferentie- of simulatiebatches uitvoeren. De servereditie is zinvoller bij het opschalen van identieke nodes achter een wachtrij in een datacenter, waar elke watt, kabel en luchtstroom binnen een OEM-serviceplan moet passen.
NVIDIA RTX PRO 6000 Specificaties
De onderstaande tabel geeft de specificaties van de NVIDIA RTX PRO 6000 weer in vergelijking met de RTX 5090 en de vorige Ada Lovelace-generatie RTX 4090.
| GPU-vergelijking: | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 |
| GPU-naam | GB202 | GB202 | AD102 |
| Architectuur | Zwartwell 2.0 | Zwartwell 2.0 | Ada Lovelace |
| Procesgrootte: | 5 nm | 5 nm | 5 nm |
| Transistors | 92,200 miljoen | 92,200 miljoen | 76,300 miljoen |
| Dichtheid | 122.9M / mm² | 122.9M / mm² | 125.3M / mm² |
| Die Grootte | 750 mm² | 750 mm² | 609 mm² |
| Slotbreedte | Dubbele sleuf | Dubbele sleuf | Drievoudige sleuf |
| Afmetingen | 304 mm x 137 mm x 40 mm | 304 mm x 137 mm x 48 mm | 304 mm x 137 mm x 61 mm |
| TDP | 600W | 575W | 450W |
| Resultaten | 4x DisplayPort 2.1b | 1x HDMI 2.1b, 3x DisplayPort 2.1b | 1x HDMI 2.1, 3x DisplayPort 1.4a |
| Net connectoren | 1x 16-pin | 1x 16-pin | 1x 16-pin |
| Bus-interface | PCIe 5.0 x16 | PCIe 5.0 x16 | PCIe 4.0 x16 |
| Basis klok | 1590 MHz | 2017 MHz | 2235 MHz |
| Boost Clock | 2617 MHz | 2407 MHz | 2520 MHz |
| Geheugenklok | 1750 MHz (28 Gbps effectief) | 2209 MHz (28 Gbps effectief) | 1313 MHz (21 Gbps effectief) |
| Geheugengrootte | 96 GB | 32 GB | 24 GB |
| Type geheugen | GDDR7 ECC | GDDR7 | GDDR6X |
| Geheugen Bus | 512 bit | 512 bit | 384 bit |
| Geheugenbandbreedte | 1.79 TB / s | 1.79 TB / s | 1.01 TB / s |
| CUDA-kernen | 24,064 | 21,760 | 16,384 |
| Tensor kernen | 752 | 680 | 512 |
| ROP | 192 | 192 | 176 |
| SM-telling | 188 | 170 | 128 |
| RT Cores | 188 | 170 | 128 |
| L1 Cache | 128 KB (per SM) | 128 KB (per SM) | 128 KB (per SM) |
| L2 Cache | 128 MB | 88 MB | 72 MB |
| Pixelsnelheid | 502.5 GPixel / s | 462.1 GPixel / s | 443.5 GPixel / s |
| Textuursnelheid | 1,968.0 GTexel / s | 1,637 GTexel / s | 1,290 GTexel / s |
| FP16 (helft) | 126.0 TFLOPS (1:1) | 104.8 TFLOPS (1:1) | 82.58 TFLOPS (1:1) |
| FP32 (vlotter) | 126.0 TFLOPS | 104.8 TFLOPS | 82.58 TFLOPS |
| FP64 (dubbel) | 1.968 TFLOPS (1:64) | 1.637 TFLOPS (1:64) | 1,290 GLOPS (1:64) |
| Lanceringsprijs (USD) | $8,500 | $1,999 | $1,599 |
Bouw en Ontwerp
De RTX PRO 6000 Workstation GPU bouwt voort op NVIDIA's strakke, functionele ontwerp, zoals te zien is op de RTX 5090 FE, met een industriële matzwarte afwerking en een dubbele axiale ventilatoropstelling, geoptimaliseerd voor werkstationomgevingen. Elke ventilator is ontworpen om de luchtstroom door de 3D-dampkamer over de volledige lengte te stuwen, wat bijdraagt aan het behoud van een thermisch evenwicht bij aanhoudende belasting. Met afmetingen van 304 mm × 137 mm × 40 mm past hij gemakkelijk in een configuratie met twee sleuven en biedt hij een uitzonderlijke prestatiedichtheid dankzij het TDP van 600 W.
Aan de bovenrand is de PRO 6000 voorzien van een enkele 16-pins voedingsconnector, die de benodigde stroom levert voor de 96 GB GDDR7-geheugen en volledige Blackwell 2.0-architectuur. De bouwkwaliteit voelt premium en stevig aan, met een aluminium behuizing die de lucht efficiënt over de vinstapel geleidt. NVIDIA's subtiele branding complementeert de professionele esthetiek, zonder RGB's of gaming-accenten, en benadrukt betrouwbaarheid en prestaties in thermisch veeleisende werkstationbehuizingen.
Aan de I/O-kant biedt NVIDIA vier DisplayPort 2.1b-uitgangen, wat zorgt voor compatibiliteit met 8K-opstellingen met meerdere monitoren, kleurnauwkeurige HDR-workflows en geavanceerde renderingomgevingen. Het gebruik van DisplayPort 2.1b via HDMI weerspiegelt de professionele oriëntatie, met verbeterde bandbreedte voor beeldschermen met hoge verversingssnelheid en hoge resolutie.
Performance Testing
Om de prestaties van onze NVIDIA RTX PRO 6000-sample te evalueren, hebben we deze direct vergeleken met NVIDIA's vlaggenschip voor consumenten, de RTX 5090 Founders Edition en RTX 4090 Founders Edition. De tests werden uitgevoerd met een mix van professionele en AI-gestuurde workloads om zowel de pure rekenkracht als de prestaties van de applicatie in de praktijk te beoordelen. Benchmarks omvatten UL Procyon AI Text Generation, UL Procyon AI Image Generation, LuxMark, Geekbench 6 en V-Ray, wat een evenwichtig overzicht biedt van rendering, inferentie en productiviteitsprestaties.
Naast deze standaardworkloads hebben we ook gerichte tests uitgevoerd om het 96 GB GDDR7-geheugen in de RTX PRO 6000 te demonstreren en de voordelen ervan te demonstreren bij het verwerken van grote modellen, datasets met een hoge resolutie en professionele visualisatieworkloads waarbij capaciteit en aanhoudende doorvoer van cruciaal belang zijn.
- RTX PRO 6000
- GeForce RTX 5090FE
- GeForce RTX 4090FE
- RTX 6000ADA
Om de voordelen van de nieuwe NVIDIA RTX PRO 6000 optimaal te benutten, hebben we gebruikgemaakt van ons AMD ThreadRipper-platform. Dit systeem, zoals geconfigureerd, beschikt over een 64-core CPU en een waterkoelingslus. Het beschikt over voldoende CPU-vermogen om de GPU zijn werk te laten doen zonder dat deze wordt belemmerd. De volledige systeemconfiguratie vindt u hieronder.
StorageReview AMD ThreadRipper-testplatform
- moederbord: ASUS ProWS TRX50-SAGE WIFI
- CPU: AMD Ryzen Threadripper 7980X 64-core
- RAM: 32 GB DDR5 4800 MT/s
- Opslag: 2 TB Samsung 980 Pro
- OS: Windows 11 Pro voor werkstations
UL Procyon: AI-tekstgeneratie
De Procyon AI-tekst Generatie criterium Stroomlijnt AI LLM-prestatietests door een beknopte en consistente evaluatiemethode te bieden. Het maakt herhaald testen op meerdere LLM-modellen mogelijk, terwijl de complexiteit van grote modelgroottes en variabele factoren wordt geminimaliseerd. Ontwikkeld in samenwerking met toonaangevende AI-hardwareontwikkelaars, optimaliseert het het gebruik van lokale AI-accelerators voor betrouwbaardere en efficiëntere prestatiebeoordelingen. De onderstaande resultaten zijn getest met TensorRT.
In alle vier de modeltests liep de NVIDIA RTX PRO 6000 consistent voorop. Beginnend met Phi behaalde de PRO 6000 een totaalscore van 6,775, waarmee hij de RTX 5090 met 5,749, de RTX 4090 met 4,958 en de RTX 6000 Ada met 4,508 overtrof. De snellere tokengeneratiesnelheid (325.9 tokens/s) en lagere latentie (0.182 s tot het eerste token) onderstrepen de responsiviteit bij realtime tekstgeneratie en chatgebaseerde AI-workloads.
De trend zette zich voort met Mistral, waar de PRO 6000 een score van 7,346 noteerde, een aanzienlijke marge ten opzichte van de 5090 (6,267), 4090 (5,094) en 6000 Ada (4,255). De doorvoersnelheid van 271.8 tokens/s toont het voordeel aan van de grotere geheugenpool van 96 GB en de geoptimaliseerde afstemming van werkstations voor high-context inferentie.
In Llama3 bleef de PRO 6000 aan kop met een score van 6,501, vergeleken met 6,104 voor de RTX 5090, 4,849 voor de 4090 en 4,026 voor de 6000 Ada. Dit onderstreept de consistentie van NVIDIA's Blackwell-architectuur, waarbij de PRO 6000 prestatievoordelen behoudt naarmate de transformer-workloads schalen in complexiteit en contextlengte.
Tot slot behaalde de PRO 6000 in Llama2, dat de nadruk legt op lange-context inferentie en aanhoudende prestaties, een score van 8,008, terwijl de 5090, 4090 en 6000 Ada achterbleven met respectievelijk 6,591, 5,013 en 3,957. Zelfs naarmate de sequentielengtes en inferentietijden toenamen, bleef de PRO 6000 duidelijk domineren in zowel snelheid als stabiliteit, en voltooide hij runs sneller en met een soepelere doorvoer dan welke andere geteste GPU dan ook.
| UL Procyon: AI-tekstgeneratie | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Phi Algemene score | 6,775 | 5,749 | 4,958 | 4,508 |
| Phi-uitvoertijd naar eerste token | 0.182 s | 0.244 s | 0.255 s | 0.288 s |
| Phi-uitvoertokens per seconde | 325.855 tok/s | 314.435 tok/s | 244.343 tok/s | 228.359 tok/s |
| Phi totale duur | 9.498 s | 10.280 s | 12.872 s | 13.869 s |
| Mistral Algemene score | 7,346 | 6,267 | 5,094 | 4,255 |
| Mistral-uitvoertijd tot eerste token | 0.229 s | 0.297 s | 0.322 s | 0.419 s |
| Mistral-uitvoertokens per seconde | 271.779 tok/s | 255.945 tok/s | 183.266 tok/s | 166.633 tok/s |
| Mistral Totale duur | 11.493 s | 12.593 s | 17.010 s | 19.092 s |
| Llama3 Algemene score | 6,501 | 6,104 | 4,849 | 4,026 |
| Llama3 Uitvoertijd naar eerste token | 0.218 s | 0.234 s | 0.259 s | 0.348 s |
| Llama3 Uitvoertokens per seconde | 226.407 tok/s | 214.285 tok/s | 150.039 tok/s | 138.620 tok/s |
| Llama3 Totale duur | 13.554 s | 14.304 s | 19.991 s | 22.062 s |
| Llama2 Algemene score | 8,008 | 6,591 | 5,013 | 3,957 |
| Llama2 Uitvoertijd naar eerste token | 0.307 s | 0.419 s | 0.500 s | 0.679 s |
| Llama2 Uitvoertokens per seconde | 145.595 tok/s | 134.502 tok/s | 92.853 tok/s | 78.532 tok/s |
| Llama2 Totale duur | 20.712 s | 23.018 s | 32.448 s | 38.923 s |
UL-Procyon: AI-beeldgeneratie
De Procyon AI-beeldgeneratiebenchmark Biedt een consistente en nauwkeurige methode voor het meten van de prestaties van AI-inferentie op verschillende hardware, variërend van NPU's met laag vermogen tot high-end GPU's. Het omvat drie tests: Stable Diffusion XL (FP16) voor high-end GPU's, Stable Diffusion 1.5 (FP16) voor matig krachtige GPU's en Stable Diffusion 1.5 (INT8) voor apparaten met laag vermogen. De benchmark gebruikt de optimale inferentie-engine voor elk systeem, wat zorgt voor eerlijke en vergelijkbare resultaten.
Met Stable Diffusion 1.5 (FP16) behaalde de NVIDIA RTX PRO 6000 een indrukwekkende totaalscore van 8,869, waarmee hij de RTX 5090 met 8,193, de RTX 4090 met 5,260 en de RTX 6000 Ada met 4,230 overtrof. De PRO 6000 voltooide de beeldgeneratie in 11.27 seconden met een gemiddelde van 0.705 seconden per beeld, waarmee hij de snelste in deze test was. Dit laat zien hoe de voor werkstations geoptimaliseerde afstemming en 96 GB GDDR7-geheugen een aanhoudende, uiterst nauwkeurige output mogelijk maken zonder in te leveren op efficiëntie.
In de Stable Diffusion 1.5 (INT8)-test, die de prestaties van lichtgewicht gekwantificeerde inferentie meet, presteerden alle GPU's vrijwel gelijk. De PRO 6000 scoorde 79,064, vrijwel identiek aan de 79,272 van de RTX 5090, terwijl hij de RTX 4090 (62,160) en de RTX 6000 Ada (55,901) voor was. Omdat INT8-workloads minder afhankelijk zijn van geheugenbandbreedte en -capaciteit, waren de verschillen minimaal, maar de PRO 6000 behield consistente resultaten met een gemiddelde generatietijd van 0.395 seconden per afbeelding.
De Stable Diffusion XL (FP16)-test zet GPU's onder druk met langere, veeleisendere inferentieruns die zowel het geheugen als de constante rekenkracht belasten. Hier behaalde de PRO 6000 een totaalscore van 6,991, net achter de 7,179 van de RTX 5090, maar ruim boven de 5,025 van de RTX 4090 en de 3,043 van de RTX 6000 Ada. De totale rendertijd bedroeg 85.8 seconden, oftewel 5.36 seconden per afbeelding, wat aantoont dat de PRO 6000 uitgebreide generatieworkloads efficiënt en zonder vertragingen verwerkt.
| UL Procyon: AI-beeldgeneratie | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Stabiele diffusie 1.5 (FP16) – Algemene score | 8,869 | 8,193 | 5,260 | 4,230 |
| Stabiele diffusie 1.5 (FP16) – Totale tijd | 11.274 s | 12.204 s | 19.011 s | 23.639 s |
| Stabiele diffusie 1.5 (FP16) – Snelheid van beeldgeneratie | 0.705 s/afbeelding | 0.763 s/afbeelding | 1.188 s/afbeelding | 1.477 s/afbeelding |
| Stabiele diffusie 1.5 (INT8) – Algemene score | 79,064 | 79,272 | 62,160 | 55,901 |
| Stabiele diffusie 1.5 (INT8) – Totale tijd | 3.162 s | 3.154 s | 4.022 s | 4.472 s |
| Stabiele diffusie 1.5 (INT8) – Snelheid van beeldgeneratie | 0.395 s/afbeelding | 0.394 s/afbeelding | 0.503 s/afbeelding | 0.559 s/afbeelding |
| Stable Diffusion XL (FP16) – Algemene score | 6,991 | 7,179 | 5,025 | 3,043 |
| Stabiele Diffusie XL (FP16) – Totale Tijd | 85.819 s | 83.573 s | 119.379 s | 197.172 s |
| Stable Diffusion XL (FP16) – Snelheid van beeldgeneratie | 5.364 s/afbeelding | 5.223 s/afbeelding | 7.461 s/afbeelding | 12.323 s/afbeelding |
Blender 4.4
Blender is een open-source 3D-modelleringsapplicatie. Deze benchmark is uitgevoerd met behulp van de Blender Benchmark-tool. De score wordt gemeten in samples per minuut, waarbij hogere waarden betere prestaties aangeven.
In alle drie de scenario's nam de NVIDIA RTX PRO 6000 de eerste plaats in, waarmee hij de voordelen van zijn Blackwell-architectuur en uitgebreide geheugencapaciteit demonstreerde. In het Monster-scenario scoorde de PRO 6000 7,870.17 samples per minuut, vóór de RTX 5090 met 7,421.50, terwijl de RTX 4090 en RTX 6000 Ada volgden met respectievelijk 5,733.97 en 5,632.60.
In de Junkshop-scene zette de PRO 6000 zijn voorsprong voort met 4,158.91 samples per minuut, vergeleken met 3,980.15 voor de RTX 5090, 2,827.83 voor de RTX 4090 en 2,663.77 voor de RTX 6000 Ada. Tot slot bereikte de PRO 6000 in de Classroom-scene, waar de nadruk ligt op zowel shading als geheugenefficiëntie, 4,041.11 samples per minuut, wederom hoger dan de 3,732.63 van de RTX 5090 en aanzienlijk beter dan de RTX 4090 en RTX 6000 Ada met respectievelijk 2,909.35 en 2,818.83.
| Blender 4.4 (hoe hoger, hoe beter) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Monster | 7,870.17 | 7,421.50 | 5,733.97 | 5,632.60 |
| Junkshop | 4,158.91 | 3,980.15 | 2,827.83 | 2,663.77 |
| Klas | 4,041.11 | 3,732.63 | 2,909.35 | 2,818.83 |
Luxmark
Luxmark is een GPU-benchmark die gebruikmaakt van LuxRender, een open-source raytracing-renderer, om de prestaties van een systeem te beoordelen bij het verwerken van zeer gedetailleerde 3D-scènes. Deze benchmark is met name relevant voor het evalueren van de grafische renderingmogelijkheden van servers en werkstations, met name in toepassingen met visuele effecten en architectuurvisualisatie, waar nauwkeurige lichtsimulatie cruciaal is.
In de Food-scènetest stond de NVIDIA RTX PRO 6000 bovenaan met een score van 24,287, waarmee hij de RTX 5090 met 23,141 versloeg, gevolgd door de RTX 4090 en RTX 6000 Ada met respectievelijk 17,171 en 14,873. Dit laat zien hoe de PRO 6000 soepele raytracingprestaties behoudt bij zeer gedetailleerde geometrie- en belichtingsworkloads, zonder stabiliteitsverlies of thermische throttling.
In de meer veeleisende Hall-scène, waarin de nadruk ligt op grootschalige geometrie en complexe globale verlichting, behaalde de PRO 6000 opnieuw de hoogste score met 52,588. Daarmee eindigde hij nipt hoger dan de 51,725 van de RTX 5090 en ruim boven de RTX 4090 (38,887) en de RTX 6000 Ada (32,132).
| Luxmark (hoe hoger hoe beter) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Voedselscore | 24,287 | 23,141 | 17,171 | 14,873 |
| Halscore | 52,588 | 51,725 | 38,887 | 32,132 |
Geekbench 6
Geekbench 6 is een cross-platform benchmark die de algehele systeemprestaties meet. Met de Geekbench Browser kunt u elk systeem ermee vergelijken.
In deze test behaalde de NVIDIA RTX PRO 6000 een GPU OpenCL-score van 384,158, waarmee hij de RTX 5090 (374,807), de RTX 4090 (333,384) en de RTX 6000 Ada (336,882) overtrof. De hogere score van de PRO 6000 is te danken aan het geoptimaliseerde ontwerp van het werkstation, de verbeterde geheugenbandbreedte en de professionele driverstack, die samen consistente prestaties mogelijk maken voor een breed scala aan rekenintensieve workloads.
| Geekbench (hoe hoger hoe beter) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| GPU OpenCL-score | 384,158 | 374,807 | 333,384 | 336,882 |
V-Ray
De V-Ray Benchmark meet de renderingprestaties van CPU's, NVIDIA GPU's of beide met behulp van geavanceerde V-Ray 6 engines. Het maakt gebruik van snelle tests en een eenvoudig scoresysteem waarmee gebruikers de renderingmogelijkheden van hun systemen kunnen evalueren en vergelijken. Het is een essentiële tool voor professionals die op zoek zijn naar efficiënte prestatie-inzichten.
Tijdens onze tests scoorde de NVIDIA RTX PRO 6000 12,128 vpaths, waarmee hij zich tussen de RTX 5090, die met 14,764 punten aan kop ging, en de RTX 4090, die met 10,847 punten scoorde, bevond. De RTX 6000 Ada bleef iets achter met 10,766 punten. Hoewel de RTX 5090 een lichte voorsprong behield in deze GPU-intensieve renderingtest, toonde de PRO 6000 sterke en consistente prestaties, wat de workstation-gerichte afstemming en aanhoudende efficiëntie onder volledige renderingbelasting versterkte.
| V-Ray (hoger is beter) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| vpaden | 12,128 | 14,764 | 10,847 | 10,766 |
LM Studio Multi-Model Inference Test
Voor deze testronde hebben we LM Studio gebruikt om te evalueren hoe de NVIDIA RTX PRO 6000 presteert op een reeks populaire grote taalmodellen, waaronder GPT-OSS 120B, Gemma 3 (4B, 12B en 27B), Llama 3.1 (8B en 70B) en Llama 3.3 70B. Elk model kreeg dezelfde instructie:
“Schrijf een academisch artikel van 500 woorden over de geschiedenis van luiaards.”
Bij deze test ligt de nadruk op tokens per seconde (doorvoer) en totale tijd (voltooiingsduur). Samen laten deze twee factoren zien hoe efficiënt de RTX PRO 6000 omgaat met verschillende modelgroottes en complexiteiten onder identieke generatieomstandigheden.
Tijdens de LM Studio-inferentietests liet de NVIDIA RTX PRO 6000 uitstekende prestaties en schaalbaarheid zien in een breed scala aan modelgroottes, van kleinere modellen met 4B-parameters tot enorme configuraties van de 120B-klasse.
Het hoogtepunt van deze test was de OpenAI GPT-OSS 120B, waarbij de RTX PRO 6000 163.1 tokens per seconde produceerde en de generatie van 500 woorden in 9.54 seconden voltooide. Dit resultaat is opmerkelijk omdat kaarten zoals de RTX 5090 geen 120B-model kunnen laden of uitvoeren en vaak zelfs 70B-modellen niet aankunnen vanwege het beperkte VRAM. Dankzij het 96 GB GDDR7-geheugen van de PRO 6000 kan hij deze enorme modellen lokaal verwerken, wat hem uniek maakt onder workstation-GPU's.
Bij de kleinere modellen behaalde de Gemma 3.4 B de hoogste doorvoersnelheid, met 226.7 tokens per seconde in 3.51 seconden. De Llama 3.1 8B Instruct volgde op de voet met 197.1 tokens per seconde en een totale tijd van 4.17 seconden. Deze runs tonen de sterke efficiëntie en snelle respons van de PRO 6000 bij mid-range inferentieworkloads.
Aan de bovenkant behaalden de Llama 3.1 70B Instruct en Llama 3.3 70B modellen gemiddeld ongeveer 31.8 tokens per seconde met totale generatietijden van 27.2 seconden en 25.3 seconden. Dit laat een consistente output zien ondanks hun grote formaat.
Over het algemeen biedt de RTX PRO 6000 uitstekende stabiliteit, doorvoer en mogelijkheden bij het uitvoeren van grootschalige modellen. De geheugencapaciteit van 96 GB maakt het mogelijk om workloads te verwerken die de limieten van consumenten-GPU's overschrijden, waardoor het een uitstekende keuze is voor ontwikkelaars, onderzoekers en professionals die betrouwbare lokale prestaties nodig hebben voor geavanceerde AI en generatieve modelontwikkeling.
| LM Studio (Resultaten van modelinferentie) | |||||||||
|---|---|---|---|---|---|---|---|---|---|
| Modelnaam | Tokens / Sec | Tijd tot eerste token(s) | Totale tijd (s) | Prompt-tokens | Voorspelde tokens | Totaal aantal tokens | |||
| OpenAI GPT-OSS 120B | 163.15 | 0.193 | 9.543 | 81 | 1,557 | 1,638 | |||
| Gemma 3 4B | 226.73 | 0.113 | 3.51 | 25 | 796 | 821 | |||
| Gemma 3 12B | 117.15 | 0.068 | 8.06 | 25 | 944 | 969 | |||
| Gemma 3 27B | 68.06 | 0.221 | 12.048 | 25 | 820 | 845 | |||
| Meta Llama 3.1 8B Instrueren | 197.07 | 0.062 | 4.171 | 49 | 822 | 871 | |||
| Meta Llama 3.1 70B Instrueren | 31.84 | 0.159 | 27.227 | 49 | 867 | 916 | |||
| Meta Lama 3.3 70B | 31.74 | 0.323 | 25.329 | 49 | 804 | 853 | |||
Stroomverbruik van de NVIDIA RTX PRO 6000
Om de efficiëntie van AI-workloads in de praktijk te evalueren, hebben we de UL Procyon AI Image Generation-benchmark gebruikt, met name de Stable Diffusion XL FP16-test. Deze test richt zich op het interval tussen de tweede en de laatste gegenereerde afbeelding en registreert de tijd die nodig is om het interval te voltooien, het piek- en aanhoudende stroomverbruik en het inactieve vermogen van het systeem na voltooiing.
Tijdens onze tests handhaafde de RTX PRO 6000 een gemiddeld systeemverbruik van 918.5 W onder aanhoudende belasting, met een piek van 1,036.3 W, waarbij het inactieve vermogen stabiliseerde op 152.3 W zodra de werklast was voltooid. De volledige testperiode duurde 5.3 seconden en verbruikte in totaal 1.35 Wh aan energie. Deze resultaten tonen een uitstekende vermogen-prestatie-efficiëntie voor een GPU van workstation-klasse, waarbij het verbruik goed onder controle blijft en tegelijkertijd een hoge output wordt behouden tijdens langdurige inferentie-werklasten.
Vergeleken met andere GPU's komt de RTX PRO 6000 qua totaal energieverbruik dicht in de buurt van de RTX 4090, met behoud van een snellere verwerkingstijd. Bovendien presteert de RTX PRO 6000 aanzienlijk beter dan de RTX 6000 Ada qua energie-efficiëntie en snelheid. Interessant is dat de nieuwe Blackwell-kaarten, die de GB202-chip delen, zeer vergelijkbare efficiëntiekenmerken vertonen onder deze werklast, met slechts kleine verschillen in totaal energieverbruik, waarschijnlijk te wijten aan de hogere TDP van de PRO 6000. Dit geeft aan dat NVIDIA's nieuwste generatie de prestaties per watt blijft verfijnen in plaats van deze drastisch te veranderen.
| Stable Diffusion XL FP16 Beeldvermogen gebruikt (lager is beter) | NVIDIA RTX PRO 6000 | NVIDIA RTX 5090 | NVIDIA RTX 4090 | NVIDIA RTX 6000 Ada |
| Stroomverbruik | 1.35Wh | 1.16Wh | 1.35Wh | 1.76Wh |
| Test tijdsduur | 5.3s | 5.1s | 7.3s | 12.6s |
Conclusie
De NVIDIA RTX PRO 6000 is over het algemeen de meest capabele workstation-GPU die beschikbaar is voor professionele workflows en levert datacenter-klasse prestaties in een bureaumodel. Met een adviesprijs van ongeveer $ 8,500 ten tijde van de test, richt hij zich op teams die betrouwbaarheid, een hoge rekendichtheid en een enorme ECC-geheugenpool nodig hebben voor productiewerk. Met 24,064 CUDA-cores, 752 Tensor Cores, 96 GB GDDR7 ECC en Blackwell-architectuur verwerkt hij workloads die de praktische limieten van consumentenkaarten zoals de GeForce RTX 5090 of 4090 overschrijden. Individuele benchmarks laten zien dat een consumentenkaart qua pure snelheid beter presteert, maar als geheel, qua capaciteit, stabiliteit, drivers en ISV-ondersteuning, is de RTX PRO 6000 de beste keuze voor professioneel gebruik.
Voor AI en ML is de 96 GB-pool de belangrijkste. Deze maakt lange contextuele inferentie en zeer grote checkpoints lokaal mogelijk, wat we hebben aangetoond door klassemodellen van 70 tot 120 GB te draaien met behoud van sterke tokens per seconde. Rendering en simulatie profiteren ook van de grotere L2-cache en geheugenbandbreedte, wat zorgt voor voorspelbare, aanhoudende prestaties in Blender, V-Ray en LuxMark bij langdurige belasting.
De kaart is geschikt voor echte werkstations. Hij beschikt over een echt dual-slot ontwerp met een PCIe 5.0 x16-interface, vier DisplayPort 2.1b-uitgangen en één 16-pins voedingsingang. Zorg voor een hoogwaardige voeding en behuizingsluchtstroom om het 600W-vermogen van de kaart te ondersteunen. Multi-GPU is ook eenvoudig, met OEM- en ISV-ondersteuning voor 2 tot 8 GPU's voor AI, rendering en computing stacks.
Als je met lange context-LLM's, zeer grote scènes of uiterst nauwkeurige simulaties op één knooppunt werkt, rechtvaardigt de RTX PRO 6000 zijn meerprijs met een capaciteit en consistentie die andere kaarten niet kunnen evenaren.
Amazon