Tijdens GTC 2026 in San Jose gaf NVIDIA CEO Jensen Huang een keynote waarin hij het AI-infrastructuurplatform van de volgende generatie van het bedrijf schetste, samen met een reeks aankondigingen op het gebied van silicium, systemen, software en ecosysteempartnerschappen. Met meer dan 30,000 bezoekers uit meer dan 190 landen was GTC 2026 het podium voor NVIDIA's meest uitgebreide platformvernieuwing sinds de introductie van Blackwell, met als hoogtepunten de volledige productielancering van de Vera Rubin-architectuur en de integratie van Groq 3 LPU-technologie in het NVIDIA-datacenter-ecosysteem. Zoals Huang het op het podium verwoordde: het kantelpunt voor agentische AI is aangebroken en Vera Rubin luidt in wat NVIDIA beschrijft als de grootste infrastructuuruitbouw in de geschiedenis.
Het centrale thema van de keynote was de opkomst van een vierde schaalwet voor AI: agentische schaalvergroting, waarbij AI-systemen niet alleen met mensen communiceren, maar ook met andere AI-agenten. Dit leidt tot een exponentiële vraag naar inferentie met lage latentie en grote contexten op een ongekende schaal. NVIDIA positioneerde het Vera Rubin-platform als de infrastructuurbasis voor deze nieuwe grens. Het platform combineert zeven gezamenlijk ontworpen chips in vijf nieuwe rack-systemen die speciaal zijn gebouwd voor de AI-fabriek. Het platform kreeg ook steunbetuigingen van toonaangevende AI-laboratoria: Dario Amodei, CEO en medeoprichter van Anthropic, merkte op: "Bedrijven en ontwikkelaars gebruiken Claude voor steeds complexere redeneringen, agentische workflows en bedrijfskritische beslissingen. Dat vereist een infrastructuur die gelijke tred kan houden. NVIDIA's Vera Rubin-platform biedt ons de rekenkracht, netwerkmogelijkheden en systeemontwerpmogelijkheden om te blijven leveren en tegelijkertijd de veiligheid en betrouwbaarheid te verbeteren waarop onze klanten vertrouwen." OpenAI-CEO Sam Altman verklaarde: "De infrastructuur van NVIDIA vormt de basis waarmee we de grenzen van AI blijven verleggen. Met NVIDIA Vera Rubin kunnen we krachtigere modellen en agents op enorme schaal uitvoeren en snellere, betrouwbaardere systemen leveren aan honderden miljoenen mensen."
Vera Rubin Platform: De grens van agentische AI verleggen
Voortbouwend op de Vera Rubin NVL72-architectuur die voor het eerst werd onthuld op CES 2026, heeft GTC 2026 het platform uitgebreid tot een uitgebreid ecosysteem voor AI-fabrieken op POD-schaal. NVIDIA presenteert dit als een verschuiving van losse chips en standalone servers naar volledig geïntegreerde rack-systemen, implementaties op pod-schaal en zelfvoorzienende AI-fabrieken. Het Vera Rubin-platform combineert NVIDIA Vera CPU's, Rubin GPU's, NVLink 6-switches, ConnectX-9 SuperNIC's, BlueField-4 DPU's, Spectrum-6 Ethernet-switches en een nieuw geïntegreerde NVIDIA Groq 3 LPU. Al deze componenten zijn ontworpen om te functioneren als één uniforme AI-supercomputer met diepgaande samenwerking op het gebied van rekenkracht, netwerken en opslag, ondersteund door een ecosysteem van meer dan 80 MGX-partners met een wereldwijde toeleveringsketen.
NVIDIA beweert dat het platform tot wel tien keer meer inferentie-doorvoer per watt en een tiende van de kosten per token levert in vergelijking met de Blackwell-generatie, voor het volledige spectrum aan AI-workloads. Voor het trainen van grote Mixture-of-Expert-modellen heeft Vera Rubin slechts een kwart van het aantal GPU's nodig om vergelijkbare prestaties te bereiken. De NVL72 schaalt naadloos met NVIDIA Quantum-X800 InfiniBand en Spectrum-X Ethernet om een hoge benutting te handhaven over enorme GPU-clusters, terwijl de trainingstijd en de totale eigendomskosten worden verlaagd.
Generatievergelijking: Blackwell Ultra versus Vera Rubin NVL72
| Specificaties | GB300 NVL72 (Blackwell Ultra) | VR NVL72 (Vera Rubin) |
|---|---|---|
| Computerarchitectuur | ||
| GPU-aantal | 72 Blackwell Ultra GPU's | 72 Rubin GPU's |
| CPU-telling | 36 Grace CPU's | 36 Vera CPU's |
| CPU-cores | 72 ARM-cores per CPU | 88 Olympus ARM-cores per CPU |
| AI-prestaties | ||
| FP4-inferentieprestaties | 1.44 ExaFLOPS | 3.6 ExaFLOPS |
| NVFP4 per GPU (inferentie) | 20 PFLOPS | 50 PFLOPS |
| NVFP4 per GPU (Training) | 10 PFLOPS | 35 PFLOPS |
| Geheugen | ||
| GPU-geheugentype | HBM3e | HBM4 |
| GPU-geheugenbandbreedte | ~8 TB/s | ~22 TB/s |
| interconnect | ||
| NVLink-generatie | NVLink 5 | NVLink 6 |
| NVLink-bandbreedte (per GPU) | 1.8 TB / s | 3.6 TB / s |
| NVLink-bandbreedte op rackschaal | 130 TB / s | 260 TB / s |
| Netwerken | ||
| Scale-Out NIC | ConnectX-8 (800 Gb/s) | ConnectX-9 (1.6 TB/s) |
| CPU-GPU-interconnect | NVLink-C2C (900 GB/s) | NVLink-C2C (1.8 TB/s) |
Producten gebaseerd op de Vera Rubin-architectuur zullen vanaf de tweede helft van 2026 verkrijgbaar zijn bij partners. Dit omvat toonaangevende cloudproviders zoals Amazon Web Services, Google Cloud, Microsoft Azure en Oracle Cloud Infrastructure, evenals NVIDIA Cloud Partners CoreWeave, Crusoe, Lambda, Nebius, Nscale en Together AI. Wereldwijde systeemfabrikanten zoals Dell Technologies, HPE, Lenovo en Supermicro zullen naar verwachting servers leveren die gebaseerd zijn op Vera Rubin-producten, net als ASUS, Foxconn, GIGABYTE, Inventec, Pegatron, QCT, Wistron en Wiwynn.
Van CPX naar LPX: Hoe de overname van Groq door NVIDIA de decode-acceleratie heeft hervormd
Vorig jaar kondigde NVIDIA tijdens de AI Infra Summit de CPX-rack aan in een aantal configuraties, ontworpen om inferentiequeries met lange contexten te versnellen. Toen we over die aankondiging berichtten, riep dat bij ons een aantal vragen op over de daadwerkelijke functie van de CPX. Op het eerste gezicht leek de CPX, hoewel het een interessant architectonisch concept was, niet wezenlijk meer te bieden dan de Rubin GPU zelf, afgezien van wellicht extra versnelling voor aandachtsoperaties.
Vervolgens kwam de overname van Groq, die enorm populair was in de branche en speculaties opriep over hoe NVIDIA de LPU-technologie van Groq zou integreren in het bredere Vera Rubin-platform. NVIDIA bracht hier tijdens GTC 2026 duidelijkheid in met de aankondiging van de LPX. Op basis van de gepresenteerde informatie lijkt het erop dat het CPX-rackconcept is geëvolueerd naar de Groq 3 LPX Rack, waarbij de oorspronkelijke focus op contextverwerking van de CPX plaats heeft gemaakt voor een fundamenteel andere architectuur voor decode-acceleratie, gebouwd rondom de siliciumchips van Groq.
Rubin GPU versus Groq 3 LPU: complementaire architecturen
| Specificaties | Rubin GPU | Groq 3 LPU (LP30) |
|---|---|---|
| Type geheugen | HBM4 | Gestapelde SRAM |
| Geheugencapaciteit (per chip) | 288 GB | 500 MB |
| Geheugenbandbreedte | 22 TB / s | 150 TB / s |
| Sterkte | Training met hoge doorvoer en voorinvulling | Ultra-lage latentie token decodering |
| Deployment | VR NVL72 (72 per rack) | LPX-rack (256 per rack) |
| Geaggregeerd rackgeheugen | ~20.7 TB HBM4 | 128 GB SRAM |
| Bandbreedte opschalen (rack) | 260 TB/s NVLink 6 | 640 TB / s |
Een enkel LPX-rack bevat 256 Groq 3 LPU's. Elke LPU heeft ongeveer 500 MB aan gestapeld SRAM, waardoor het rack in totaal ongeveer 128 GB aan on-chip SRAM en 640 TB/s aan schaalbare bandbreedte biedt, speciaal ontworpen voor ultralage latentie bij decodering. Het verschil tussen de twee processortypen is groot: een Rubin GPU biedt 288 GB HBM4 met een bandbreedte van 22 TB/s, terwijl de LPU capaciteit inruilt voor pure bandbreedte en 150 TB/s levert vanuit de SRAM-pool per chip. Wanneer de twee racks samen met de VR NVL72 worden ingezet via een aangepaste Spectrum X-gebaseerde interconnect, is het de bedoeling dat ze elk decodeertoken coöperatief verwerken, waarbij de aandachtsdecodering plaatsvindt op de Rubin-laag en de feedforward-laag wordt overgeheveld naar de LPU's. De LPX-architectuur, geoptimaliseerd voor modellen met biljoenen parameters en contexten met miljoenen tokens, is samen met Vera Rubin ontwikkeld om de efficiëntie op het gebied van stroomverbruik, geheugen en rekenkracht te maximaliseren. Het LPX Rack is volledig vloeistofgekoeld, gebouwd op de MGX-infrastructuur en zal beschikbaar zijn in de tweede helft van 2026, gelijktijdig met de bredere uitrol van Vera Rubin.
Belangrijk is dat NVIDIA heeft bevestigd dat er geen wijzigingen aan CUDA nodig zijn. De LPU fungeert als een accelerator voor de bestaande CUDA-stack die draait op het Vera- en NVL72-platform, waarbij de berekeningen transparant per token worden uitbesteed. Tijdens de GTC Q&A beschreef NVIDIA de LPU als een "decode model booster" en legde uit dat ze "intensief zullen samenwerken met de AI-labs en de toonaangevende modelbouwers die deze modellen met biljoenen parameters inzetten" om de volgende generatie premium en ultra-premium modelserving mogelijk te maken. Veel oprichters en engineers van Groq zijn bij NVIDIA in dienst getreden en de samenwerking tussen de twee teams is naar verluidt uitstekend, terwijl ze de Groq-roadmap versnellen om deze in de MGX-infrastructuur te integreren. De LPX-implementatie zal zich in eerste instantie richten op modelbouwers en serviceproviders in plaats van brede OEM-beschikbaarheid. We kijken ernaar uit om de daadwerkelijke prestatieverbeteringen te zien die de integratie van NVIDIA en Groq zal opleveren.
Vera CPU Rack: Speciaal ontworpen rekenkracht voor reinforcement learning en agentische workloads
Waarom agentische AI een nieuwe klasse CPU's vereist
Om te begrijpen waarom NVIDIA een speciaal CPU-rack heeft gebouwd, is het nuttig om te begrijpen hoe reinforcement learning (RL) werkt in de post-trainingsfase van moderne AI-ontwikkeling. Post-training is de fase nadat een model is getraind op een enorme dataset, waarin het model wordt verfijnd en gespecialiseerd voor specifieke toepassingen.
In een reinforcement learning-opstelling bestaat de trainingslus uit drie kerncomponenten: een beleidsmodel (het model dat getraind wordt), een omgeving waarin het model acties uitvoert en feedback ontvangt, en een beloningssignaal dat de kwaliteit van die acties evalueert. Het beleidsmodel genereert kandidaat-uitvoerwaarden, die vervolgens in de omgeving worden uitgevoerd, beoordeeld door het beloningsmodel, en de resulterende gradiënten worden gebruikt om het beleid bij te werken.
Voor AI-workloads met agenten is deze RL-omgeving geen abstracte simulatie, maar een echte computationele sandbox. Neem bijvoorbeeld het trainen van een codeermodel met agenten met tools zoals Claude Code of vergelijkbare autonome codeeragenten. In dit scenario heb je drie afzonderlijke rekenpools nodig die gelijktijdig actief zijn. Ten eerste is er een trainingspool met GPU-acceleratoren die de gewichten van het beleidsmodel bijwerken. Ten tweede voeren inferentie-acceleratoren het huidige checkpoint van het beleidsmodel uit om op grote schaal kandidaat-acties te genereren (codebewerkingen, toolaanroepen, bestandsbewerkingen). Ten derde, en cruciaal, is er een grote pool met conventionele CPU-rekenkracht waar de daadwerkelijke RL-omgevingen draaien. In deze omgevingen voeren de agenten hun gegenereerde code uit, draaien ze testsuites, doen ze toolaanroepen, versturen ze SQL-query's, compileren ze binaire bestanden, interageren ze met bestandssystemen en voeren ze alle sandbox-bewerkingen uit die de beloningssignalen produceren die teruggekoppeld worden naar de trainingslus.
De omvang van deze conventionele rekenkracht is aanzienlijk. Elke uitvoering van het beleidsmodel kan tientallen opeenvolgende toolaanroepen triggeren, die elk moeten worden uitgevoerd, geëvalueerd en geretourneerd voordat de volgende stap kan worden gezet. Wanneer u duizenden datapunten parallel genereert tijdens de trainingsrun, hebt u een enorme vloot snelle CPU's nodig om te voorkomen dat het GPU-trainingscluster vastloopt tijdens de uitvoering in de omgeving. Elke latentie in de CPU-sandboxpool vertaalt zich direct in ongebruikte GPU-cycli en verspilde rekenkracht voor de training. Dezelfde dynamiek geldt tijdens de inferentie voor ingezette agentsystemen. Elke toolaanroep, codecompilatie en sandboxuitvoering die een agent uitvoert, is CPU-werk dat snel genoeg moet worden voltooid om de end-to-end agentpipeline responsief te houden. Zoals NVIDIA in haar persberichten stelt: de CPU ondersteunt het model niet langer alleen; hij stuurt het aan.
De Vera CPU Rack: NVIDIA's antwoord
Om aan deze eis te voldoen, lanceerde NVIDIA de Vera CPU, die het bedrijf 's werelds eerste processor noemt die speciaal is ontworpen voor het tijdperk van agentische AI en reinforcement learning. De Vera CPU Rack is een speciaal rack-systeem met 256 vloeistofgekoelde Vera-processors die meer dan 22,500 gelijktijdige CPU-omgevingen aankunnen, die elk onafhankelijk op volle prestaties draaien. AI-fabrieken kunnen snel tienduizenden gelijktijdige instanties en agentische tools in één rack implementeren en opschalen. Het rack biedt 400 TB aan totaal geheugen, een gecombineerde geheugenbandbreedte van 300 TB/s en 64 BlueField-4 DPU's, die allemaal compatibel zijn met de Vera Rubin- en DGX-ecosystemen en gebouwd zijn op de modulaire referentiearchitectuur van NVIDIA MGX.
De Vera CPU zelf is gebouwd op 88 speciaal door NVIDIA ontworpen Olympus-cores met volledige Armv9.2-compatibiliteit. Elke core ondersteunt twee gelijktijdige taken met behulp van NVIDIA Spatial Multithreading. Het energiezuinige geheugensubsysteem van de tweede generatie is gebouwd op LPDDR5X en levert een bandbreedte tot 1.2 TB/s, twee keer zoveel bandbreedte bij de helft van het stroomverbruik in vergelijking met standaard CPU's.
Naast de prestatiekenmerken pakt de Vera Rack ook een praktisch probleem in de toeleveringsketen aan: organisaties die AI-omgevingen beheren met tienduizenden GPU's hebben eveneens enorme aantallen CPU's nodig voor de uitvoering van hun omgevingen. Het verkrijgen van zo'n grote hoeveelheid krachtige x86-processoren van AMD of Intel op de vereiste schaal en binnen de gestelde termijn kan aanzienlijke uitdagingen met zich meebrengen op het gebied van inkoop en beschikbaarheid. Een verticaal geïntegreerd NVIDIA CPU-rack vereenvoudigt die afhankelijkheid.
Klanten die met NVIDIA samenwerken om Vera CPU te implementeren, zijn onder andere Alibaba, ByteDance, Meta en Oracle Cloud Infrastructure, evenals CoreWeave, Crusoe, Lambda, Nebius, Nscale, Cloudflare, Together AI en Vultr. Productiepartners zijn onder andere Dell Technologies, HPE, Lenovo, Supermicro, ASUS, Cisco, Foxconn, GIGABYTE en QCT.
BlueField-4 STX en NVIDIA CMX: De referentiearchitectuur achter de opslag van contextgeheugen voor inferentie
Op CES 2026 kondigde NVIDIA het Inference Context Memory Storage (ICMS)-platform aan, een nieuwe klasse van AI-native opslaginfrastructuur die specifiek is ontworpen voor KV-cachebeheer in grootschalige LLM-inferentie. Op GTC 2026 onthulde NVIDIA de referentiearchitectuur die hieraan ten grondslag ligt: de BlueField-4 STX, een modulair ontwerp dat naadloos GPU-geheugen over de pod uitbreidt voor agentische context en KV-cachegegevens. De eerste rack-schaalimplementatie van STX is het nieuwe NVIDIA CMX-contextgeheugenopslagplatform, dat GPU-geheugen uitbreidt met een krachtige contextlaag voor schaalbare inferentie- en agentische systemen.
De noodzaak van een aparte opslaglaag wordt duidelijk wanneer je kijkt naar de schaalbaarheid van op transformatoren gebaseerde inferentie. Elk gegenereerd token moet via het aandachtmechanisme rekening houden met alle voorgaande tokens, en de key-value (KV) cache slaat vooraf berekende aandachtmatrices op voor hergebruik, waardoor herberekening wordt voorkomen. Het probleem is dat de grootte van de KV cache toeneemt met de sequentielengte en de batchgrootte. In multi-tenant omgevingen die duizenden gelijktijdige verzoeken verwerken over contextvensters van miljoenen tokens, raakt de GPU HBM uitgeput. Beheerders moeten dan ofwel de batchgrootte verkleinen, de contextvensters verkorten, of meer GPU's toevoegen, wat allemaal ten koste gaat van de kosteneffectiviteit of de capaciteit.
De BlueField-4 STX pakt dit aan door een gedeelde opslaglaag met hoge bandbreedte te bieden, speciaal ontworpen voor KV-cachetoegangspatronen, die zich bevindt tussen GPU HBM en conventionele opslag. Deze laag wordt versneld door het Vera Rubin-platform en maakt gebruik van een voor opslag geoptimaliseerde BlueField-4-processor die de Vera CPU combineert met ConnectX-9 SuperNIC, samen met Spectrum-X Ethernet-netwerken, NVIDIA DOCA en NVIDIA AI Enterprise-software. NVIDIA claimt dat het CMX-platform tot 5 keer meer tokens per seconde levert in vergelijking met traditionele opslag, 4 keer hogere energie-efficiëntie in vergelijking met traditionele CPU-architecturen voor hoogwaardige opslag en 2 keer snellere data-invoer voor AI-data in de bedrijfsomgeving.
NVIDIA introduceert ook DOCA Memos, een nieuw DOCA-framework dat de opslag van BlueField-4 aanzienlijk verbetert met speciale KV-cacheverwerking om de inferentiedoorvoer te verhogen en tegelijkertijd de energie-efficiëntie aanzienlijk te verbeteren. Het resultaat is een POD-brede context die zorgt voor snellere interacties met AI-agenten over meerdere beurten, schaalbaardere AI-services en een hogere algehele benutting van de infrastructuur. Dit sluit aan op het open-source NVIDIA Dynamo-project, dat het softwareframework biedt voor gedisaggregeerde prefill-/decodefasen, slimme routing en gelaagde opslagoffloading.
De STX is een referentiearchitectuur die NVIDIA niet rechtstreeks verkoopt, maar beschikbaar stelt aan partners in het opslagecosysteem. Opslagleveranciers die samenwerken aan het ontwerpen van de volgende generatie infrastructuur op basis van STX zijn onder andere Cloudian, DDN, Dell Technologies, Everpure, Hitachi Vantara, HPE, IBM, MinIO, NetApp, Nutanix, VAST Data en WEKA. Fabrikanten die STX-gebaseerde systemen bouwen, zijn onder andere AIC, Supermicro en QCT. Toonaangevende AI-labs en cloudproviders die van plan zijn STX te gebruiken voor contextgeheugenopslag zijn CoreWeave, Crusoe, IREN, Lambda, Mistral AI, Nebius, Oracle Cloud Infrastructure en Vultr. STX-gebaseerde platforms zullen in de tweede helft van 2026 beschikbaar zijn via partners.
Vera Rubin DSX AI Factory Referentieontwerp en Omniverse DSX Blauwdruk
Naast individuele racks en pods kondigde NVIDIA het Vera Rubin DSX AI Factory-referentieontwerp en de algemene beschikbaarheid van de NVIDIA Omniverse DSX Blueprint aan. Samen bieden ze een uitgebreid raamwerk voor het ontwerpen, bouwen en beheren van gezamenlijk ontwikkelde AI-infrastructuur die het token per watt maximaliseert en de tijd tot de eerste productie verkort. Door de nauwe integratie van rekenkracht, netwerken, opslag, stroomvoorziening en koeling verhoogt de architectuur de energie-efficiëntie en zorgt ervoor dat AI-fabrieken betrouwbaar kunnen schalen onder continue, intensieve workloads met maximale uptime.
De Rubin DSX-softwarestack is open, modulair en combineerbaar en verbindt clusterhardware met stroom- en koelsystemen. Het omvat verschillende componentbibliotheken: DSX Max-Q maakt dynamische stroomvoorziening mogelijk voor de gehele AI-fabriek, waardoor 30% meer AI-infrastructuur kan worden ingezet in een datacenter met vaste stroomvoorziening. DSX Flex maakt AI-fabrieken flexibel inzetbaar binnen het elektriciteitsnet, waardoor volgens schattingen van NVIDIA 100 gigawatt aan ongebruikte netstroom beschikbaar komt. Dit is cruciaal, aangezien energie momenteel de grootste bottleneck vormt voor de uitbouw van AI-infrastructuur, met een achterstand van meer dan 300 miljard dollar aan apparatuur en meer dan 200 GW aan projecten die in de VS in de wachtrij staan voor interconnectie. DSX Exchange maakt schaalbare en veilige integratie mogelijk van reken-, netwerk-, energie-, stroom- en koelsignalen tussen IT, operationele technologie en operationele agenten. DSX Sim-modellen valideren AI-fabrieken als zeer nauwkeurige digitale tweelingen met behulp van het NVIDIA DSX Air-platform.
De Omniverse DSX Blueprint, die nu algemeen beschikbaar is op build.nvidia.com en volledig compatibel is met het Vera Rubin DSX-referentieontwerp, stelt ontwikkelaars in staat om fysiek nauwkeurige digitale tweelingen van hun AI-fabrieken te bouwen, processen in realtime te simuleren en de prestaties te optimaliseren vóór de bouw of implementatie begint. Dit verenigt stroomvoorziening, koeling, netwerken en operationele processen in één omgeving, waardoor de time-to-revenue en de AI-efficiëntie worden versneld.
Toonaangevende bedrijven in de industrie die bijdragen aan de DSX-architectuur en -blauwdruk zijn onder andere Cadence, Dassault Systèmes, Eaton, Jacobs, Nscale, Phaidra, Procore Technologies, PTC, Schneider Electric, Siemens, Switch, Trane Technologies en Vertiv. Met name Nscale en Caterpillar realiseren DSX Vera Rubin-referentieontwerpen in West Virginia op een locatie met een capaciteit van meerdere gigawatt, die wordt beschreven als een van 's werelds grootste AI-fabrieken. Op het gebied van energie gebruiken Emerald AI, GE Vernova, Hitachi en Siemens Energy de DSX-referentiearchitectuur om de capaciteit van het elektriciteitsnet te ontsluiten en de benodigde stroom te leveren voor de bouw van nieuwe AI-fabrieken. Phaidra heeft DSX Max-Q geïntegreerd in een zelflerende AI-agent die ongeveer 10% meer rekenkracht levert door koelingspieken te verminderen met behoud van veiligheid.
NVIDIA Agent Toolkit en OpenCLAW: De softwarestack voor autonome agenten
TC 2026 vestigde ook de aandacht op de snelle opkomst van AI-workloads met agenten, waarbij NVIDIA autonome agenten omschreef als de snelstgroeiende workload die het bedrijf ooit heeft gezien. Centraal in de softwareaankondigingen stond OpenCLAW, beschreven als waarschijnlijk de belangrijkste software-release in de geschiedenis en een orchestratie-framework voor langlopende, zelfontwikkelende agenten genaamd CLAWs: autonome systemen die complete missies kunnen plannen, uitvoeren en voltooien in plaats van individuele taken. NVIDIA typeerde CLAWs als de nieuwe applicatielaag voor AI en merkte op dat we zijn overgestapt van vragen als "wat, hoe of waarom" naar vragen als "bouwen, creëren of maken".
NVIDIA heeft de NVIDIA Agent Toolkit aangekondigd, een volledig open-source verzameling modellen, runtimes en blueprints voor het bouwen, evalueren en optimaliseren van langlopende autonome agents. Belangrijke componenten zijn onder andere de open Nemotron-modellen voor redeneren, programmeren en spraak; Nemo voor agentprofilering en -aanpassing; NIM voor modelinferentie; en Dynamo 1.0 voor schaalbare servering. Nieuwe toevoegingen zijn NVIDIA OpenShell, een open-source runtime voor veiligheid en beveiliging die beleidsgebaseerde netwerk-, privacy- en beveiligingsmaatregelen biedt voor agentuitvoering, en IQ, een open-source blueprint die grensverleggende en open modelintelligentie combineert voor diepgaande onderzoeksagents, het eerste onderzoekssysteem dat zowel de Deep Research Bench 1 als de Complex Deep Research Bench 2 benchmarks heeft aangevoerd. Een nieuwe cuOPT-skill biedt expertise in optimalisatieproblemen die in natuurlijke taal worden beschreven.
NVIDIA kondigde ook Nemo CLAW aan, hun bijdrage aan de OpenCLAW-community, ontwikkeld in samenwerking met OpenCLAW-ontwikkelaar Peter Steinberger. Nemo CLAW installeert OpenCLAW, samen met Nemotron-modellen en de OpenShell-runtime, met één enkel commando. Dit biedt een basis voor agents om nieuwe vaardigheden te ontwikkelen en te leren, terwijl ze opereren binnen vastgestelde privacy- en beveiligingsrichtlijnen. Het kan op elk platform draaien, van cloudinfrastructuur tot on-premises RTX-pc's, DGX Station en DGX Spark.
DGX Spark en DGX Station: Lokale CLAW-ontwikkelingsplatformen
Omdat veel ontwikkelaars de voorkeur geven aan lokale ontwikkelomgevingen met volledige controle over hun computerbronnen, heeft NVIDIA twee nieuwe platforms geïntroduceerd, speciaal ontworpen voor de ontwikkeling van CLAW-agents. DGX Spark is een krachtig en energiezuinig platform voor het uitvoeren van veilige, altijd actieve autonome agents. DGX Spark en op GB10 gebaseerde OEM-partnersystemen zijn nu wereldwijd beschikbaar. DGX Station, gepositioneerd als het ultieme lokale CLAW-ontwikkelplatform, stelt ontwikkelaars in staat om modellen met geavanceerde intelligentie volledig lokaal uit te voeren, zonder cloudverbinding. Dit is cruciaal voor de ontwikkeling, waar alles lokaal blijft voor volledige controle en beveiliging. DGX Station-systemen kunnen vanaf 16 maart 2026 bij OEM-partners worden besteld.
Vera Rubin Space Modules: AI-infrastructuur buiten de aarde
NVIDIA heeft aangekondigd dat zijn nieuwste platforms voor versneld computergebruik een nieuw tijdperk van ruimtevaartinnovatie inluiden, waarmee AI-berekeningen naar orbitale datacenters (ODC's), geospatiale intelligentie en autonome ruimteoperaties worden gebracht. De NVIDIA Vera Rubin Space Module levert tot 25 keer meer AI-berekeningskracht voor inferentie in de ruimte dan de NVIDIA H100 GPU, waardoor grote taalmodellen en geavanceerde basismodellen direct in een baan om de aarde kunnen worden gebruikt. De nauw geïntegreerde CPU-GPU-architectuur biedt de prestaties en het geheugen die nodig zijn om enorme datastromen van instrumenten in de ruimte in realtime te verwerken.
Naast de Vera Rubin Space Module biedt NVIDIA IGX Thor industriële duurzaamheid voor missiekritieke edge-omgevingen in een baan om de aarde, terwijl Jetson Orin hoogwaardige AI-inferentie levert in een ultracompacte module die is geoptimaliseerd voor ruimtevaartuigen met beperkte afmetingen en stroomverbruik (SWaP). Op de grond levert de RTX PRO 6000 Blackwell Server Edition GPU tot 100 keer snellere prestaties dan traditionele CPU-gebaseerde batchsystemen voor de verwerking van geospatiale intelligentie. Partners, waaronder Aetherflux, Axiom Space, Kepler Communications, Planet Labs, Sophia Space en Starcloud, bouwen voort op deze platforms voor de volgende generatie ruimtemissies, variërend van datacenters in een baan om de aarde, autonome ruimteoperaties tot realtime aardobservatie.
NVIDIA Dynamo 1.0: Het inferentiebesturingssysteem voor AI-fabrieken
Als laatste aankondiging tijdens GTC 2026 lanceerde NVIDIA Dynamo 1.0, een open-source software die het bedrijf positioneert als het eerste gedistribueerde besturingssysteem voor AI-fabrieken. Net zoals het besturingssysteem van een computer hardware en applicaties coördineert, fungeert Dynamo 1.0 als de gedistribueerde orchestratielaag voor AI-fabrieken. Het beheert naadloos GPU- en geheugenbronnen binnen het cluster om complexe, heterogene AI-workloads op grote schaal aan te drijven.
Dynamo 1.0 verdeelt inferentietaken over GPU's met intelligente routering en de mogelijkheid om data te verplaatsen tussen GPU's en goedkopere opslaglagen. Dit vermindert onnodige rekenkracht en verlicht de beperkingen van het geheugen. Voor agentische AI en workloads met lange contexten kan Dynamo verzoeken routeren naar GPU's die al de meest relevante KV-cachedata van eerdere stappen bevatten. Deze geheugenruimte wordt vervolgens vrijgemaakt wanneer deze niet nodig is, een functionaliteit die direct aansluit op de BlueField-4 STX/ICMS-opslagarchitectuur. In recente benchmarks heeft Dynamo de inferentieprestaties van NVIDIA Blackwell GPU's tot wel zeven keer verbeterd, waardoor de kosten per token zijn verlaagd en de inkomstenmogelijkheden voor miljoenen ingezette GPU's zijn vergroot. Dit alles met gratis, open-source software.
NVIDIA versnelt het open-source ecosysteem door Dynamo- en TensorRT-LLM-optimalisaties te integreren in populaire inferentie-frameworks, waaronder LangChain, llm-d, LMCache, SGLang en vLLM. Kernbouwstenen van Dynamo, KVBM voor geheugenbeheer, NIXL voor snelle gegevensoverdracht tussen GPU's en Grove voor vereenvoudigde schaalbaarheid, zijn ook beschikbaar als standalone modules. NVIDIA draagt tevens TensorRT-LLM CUDA-kernels bij aan het FlashInfer-project voor native integratie in open-source frameworks.
De brede acceptatie is opmerkelijk. Het NVIDIA-inferentieplatform is nu geïntegreerd met cloudproviders zoals AWS, Microsoft Azure, Google Cloud en Oracle Cloud Infrastructure, evenals met NVIDIA-cloudpartners Alibaba Cloud, CoreWeave, Crusoe, DigitalOcean, Nebius, Nscale en Together AI. AI-native bedrijven zoals Cursor, Hebbia en Perplexity hebben het platform overgenomen, net als inferentie-endpointproviders Baseten, Deep Infra en Fireworks. Wereldwijde ondernemingen, waaronder Amazon, AstraZeneca, BlackRock, ByteDance, Coupang, Instacart, Meituan, PayPal, Pinterest, Shopee en SoftBank Corp., hebben de NVIDIA-inferentiestack geïmplementeerd. Dynamo 1.0 is vanaf vandaag wereldwijd beschikbaar voor ontwikkelaars.
Amazon