Tijdens AWS re:Invent kondigden NVIDIA en Amazon Web Services een versterkte samenwerking aan, gericht op interconnecttechnologie, cloudinfrastructuur, open modellen en fysieke AI. Deze samenwerking verdiept de integratie van NVIDIA met de AWS-stack en omvat maatwerksiliconen, netwerken, AI-software en roboticasimulatie. De focus ligt op AI op productieschaal en de vereisten voor een soevereine cloud.
NVLink Fusion voor AWS Custom Silicon en AI-infrastructuur van de volgende generatie
Een belangrijk punt in de aankondiging is de ondersteuning van AWS voor NVIDIA NVLink Fusion. AWS zou NVLink Fusion in licentie geven voor het bouwen van een AI-infrastructuur op maat. AWS is van plan NVLink Fusion-technologie toe te voegen aan zijn brede aanbod van speciaal ontworpen chips. Dit omvat de volgende generatie Trainium4-accelerators, gericht op inferentietaken en het trainen van agentische AI-modellen. Door gebruik te maken van NVIDIA NVLink Fusion zal AWS de NVIDIA NVLink scale-up interconnect koppelen aan de NVIDIA MGX rackarchitectuur en de bijbehorende chips op maat. Het doel is om de prestaties te verbeteren, het systeemontwerp te vereenvoudigen en de marktrijpheid voor volgende generatie AI-platforms op cloudschaal te versnellen.
AWS profiteert ook van het NVLink Fusion-leveranciersecosysteem, dat een complete rack-scale oplossing biedt, inclusief rack-, chassis-, stroomtoevoer- en koelsubsystemen. Dit ecosysteem vereenvoudigt de aanschaf en integratie voor AWS door een high-density, AI-geoptimaliseerde infrastructuur te bouwen. Trainium4 is ontworpen om naadloos te werken met NVLink en NVIDIA MGX. Dit markeert de eerste fase van een multigenerationele NVLink Fusion-samenwerking tussen NVIDIA en AWS. AWS heeft al NVIDIA MGX-racks op schaal geïmplementeerd met NVIDIA GPU's; de integratie van NVLink Fusion is gericht op het standaardiseren en stroomlijnen van de implementatie en het systeembeheer op verschillende platforms, door AWS-silicium en NVIDIA-hardware te combineren.
Daarnaast maakt AWS gebruik van diverse Graviton CPU's die een scala aan algemene en cloud-native workloads verwerken. Het AWS Nitro-systeem speelt een essentiële rol door virtualisatie, beveiliging en dataplane offload te ondersteunen, waardoor de algehele prestaties en bescherming van AWS-services worden verbeterd.
NVIDIA-oprichter en CEO Jensen Huang presenteerde de samenwerking als een reactie op de groeiende vraag naar GPU-computing, gedreven door capabelere AI-modellen en een grotere acceptatie door bedrijven. Hij beschreef de NVLink Fusion-integratie met AWS Trainium4 als een manier om NVIDIA's scale-up architectuur te combineren met de op maat gemaakte silicium van AWS. Zo ontstonden next-generation, versnelde platforms die zouden aanwakkeren wat hij een industriële AI-revolutie noemde. Huang stelde dat het doel is om geavanceerde AI toegankelijker te maken en de wereldwijde infrastructuur te ontwikkelen tot een breed gedragen intelligentieplatform.
AWS CEO Matt Garman benadrukte de diepgang van de 15-jarige relatie tussen de twee bedrijven en merkte op dat de samenwerking grootschalige AI-infrastructuur bevordert. Hij noemde de resultaten voor klanten, waaronder hogere prestaties, betere efficiëntie en grotere schaalbaarheid. Garman benadrukte de ondersteuning voor NVIDIA NVLink Fusion binnen Trainium, Graviton en Nitro om nieuwe technische mogelijkheden te ontsluiten en snellere innovatie voor AWS-klanten te stimuleren.
NVIDIA Vera Rubin-architectuur op AWS
Op het gebied van netwerken ondersteunt de NVIDIA Vera Rubin-architectuur op AWS de AWS Elastic Fabric Adapter en het Nitro System. Dit ontwerp biedt klanten flexibele, robuuste netwerkopties, terwijl volledige compatibiliteit met de bestaande cloudinfrastructuur van AWS wordt gegarandeerd en de levering van nieuwe AI-services wordt versneld.
Convergentie van schaal en soevereiniteit met Blackwell en AWS AI-fabrieken
AWS breidt zijn portfolio voor versneld computergebruik uit met de NVIDIA Blackwell-architectuur, waaronder NVIDIA HGX B300-systemen en NVIDIA GB300 NVL72 GPU's voor grootschalige trainings- en inferentieclusters. Daarnaast zullen naar verwachting binnenkort ook NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 's beschikbaar zijn op AWS, die speciaal zijn ontworpen voor visuele en grafisch intensieve toepassingen.
Deze GPU's maken deel uit van de infrastructuurbackbone van AWS AI Factories. Deze nieuwe AI-cloudoplossing is bedoeld voor klanten die behoefte hebben aan een dedicated AI-infrastructuur in hun eigen datacenters, beheerd door AWS. Het model levert AI-infrastructuur van cloudkwaliteit binnen door de klant beheerde faciliteiten. Dit zorgt ervoor dat organisaties toezicht houden op en de beveiliging van hun AI-resources binnen hun eigen omgevingen behouden.
Het richt zich ook op databeheer door te voldoen aan lokale vereisten voor dataresidentie. Zo blijft gevoelige informatie binnen bepaalde geografische grenzen, voldoet het aan de regelgeving en zorgt het voor een soepele werking. Het model biedt toegang tot geavanceerde trainings- en inferentieplatforms op schaal, waardoor gebruikers complexe AI-oplossingen efficiënt kunnen ontwikkelen, implementeren en beheren voor grote datasets.
Wereldwijde verplichtingen
NVIDIA en AWS verbinden zich ertoe wereldwijd soevereine AI-clouds te implementeren en geavanceerde AI-mogelijkheden te bieden aan regio's die moeten voldoen aan strikt soeverein AI-beleid. Met AWS AI Factories willen de twee bedrijven een veilige, soevereine AI-infrastructuur bieden die ongeëvenaarde rekencapaciteit levert en tegelijkertijd voldoet aan de toenemende eisen op het gebied van regelgeving en datasoevereiniteit.
Voor organisaties in de publieke sector ziet AWS AI Factories als een belangrijke verschuiving in de federale strategie voor supercomputing en AI. Klanten kunnen de betrouwbare, veilige en schaalbare cloudinfrastructuur van AWS combineren met NVIDIA Blackwell GPU's en de complete NVIDIA Accelerated Computing-stack, inclusief NVIDIA Spectrum-X Ethernet-switches.
Het doel is om een uniform systeem te creëren dat klanten toegang geeft tot geavanceerde AI-services en -mogelijkheden, waardoor ze zeer grote modellen op grote schaal kunnen trainen en implementeren. Bovendien behouden organisaties strikte controle over bedrijfseigen data die voldoet aan de lokale regelgeving.
NVIDIA-software op AWS: de ervaring van ontwikkelaars en data vereenvoudigen
NVIDIA en AWS werken ook samen aan software- en gegevenslagen om de verwerking van ongestructureerde gegevens te versnellen en de levenscycli van agenten te beheren.
Amazon OpenSearch Service biedt nu serverloze GPU-versnelling voor het opbouwen van vectorindexen, aangestuurd door NVIDIA cuVS, een open-sourcebibliotheek voor GPU-versnelde vectorzoekopdrachten en clustering. Deze integratie zorgt ervoor dat GPU's de standaard engine worden voor vectorintensieve, ongestructureerde dataworkloads.
Early adopters melden aanzienlijke verbeteringen in hun workflows en merken op dat vectorindexering tot tien keer sneller is, wat de efficiëntie aanzienlijk verhoogt. Bovendien kost deze nieuwe aanpak ongeveer een kwart van de traditionele methoden, wat resulteert in aanzienlijke besparingen. Deze ontwikkelingen worden gezien als een doorbraak die gebruikers zowel snelheid als economische voordelen biedt.
Deze prestatie- en kostenverbeteringen helpen de zoeklatentie te verminderen, schrijfpaden te versnellen en de doorvoer te verbeteren voor dynamische AI-patronen zoals retrieval-augmented generation, waarbij snelle vectorindexering cruciaal is. AWS is de eerste grote cloudprovider die serverloze vectorindexering aanbiedt, ondersteund door NVIDIA GPU's.
Om AI-agents van proof of concept naar productie te brengen, moeten klanten kunnen beschikken over prestatiegegevens, optimalisatietools en schaalbaar beheer.
NVIDIA en AWS bundelen hun krachten om een complete end-to-end oplossing te creëren door verschillende belangrijke componenten te integreren. Deze samenwerking is gericht op het vereenvoudigen van de ontwikkeling, het beheer en de optimalisatie van agents op al hun platforms.
De kern van dit initiatief wordt gevormd door de Strands Agents, die zijn ontworpen om te helpen bij het creëren en beheren van agents. Als aanvulling hierop is er de NVIDIA NeMo Agent Toolkit, die geavanceerde tools biedt voor diepgaande profilering, prestatie-afstemming en optimalisatie, wat zorgt voor een efficiënte implementatie. Amazon Bedrock's AgentCore biedt een veilige, schaalbare infrastructuur voor agents binnen de AWS-omgeving, wat betrouwbare werking in alle applicaties mogelijk maakt. Samen zorgen deze elementen voor een soepele overgang van prototypes naar productieklare, observeerbare en schaalbare AI-agents.
Deze uitgebreide softwaresamenwerking bouwt voort op bestaande NVIDIA-integraties op AWS, waaronder NVIDIA NIM-microservices en frameworks zoals NVIDIA Riva voor spraak en NVIDIA BioNeMo voor wetenschappelijke workloads. Deze mogelijkheden, gecombineerd met modelontwikkeling en -implementatie op Amazon SageMaker en Amazon Bedrock, zijn ontworpen om de implementatie van agentische AI, spraak-AI en wetenschappelijke toepassingen te versnellen met behulp van vertrouwde AWS-services.
Versnelling van fysieke AI en robotica op AWS
De samenwerking strekt zich ook uit tot fysieke AI en robotica, waarbij de training en inzet van robotmodellen afhankelijk zijn van hoogwaardige datasets en sterke simulatieframeworks.
NVIDIA Cosmos World Foundation Models (WFM's) zijn nu beschikbaar als NVIDIA NIM-microservices op Amazon EKS. Dit biedt klanten de mogelijkheid om realtime robotica-besturings- en simulatieworkloads uit te voeren in een cloud-native, Kubernetes-gebaseerde omgeving die betrouwbaarheid en flexibiliteit garandeert.
Voor batchgerichte en offline taken, zoals grootschalige synthetische datageneratie, worden Cosmos WFM's ook aangeboden als containers op AWS Batch. Dit ondersteunt workflows met hoge doorvoer voor het genereren van diverse wereldtoestanden en scenario's op schaal.
Door Cosmos gegenereerde wereldtoestanden kunnen worden gebruikt om robotgedrag te trainen en valideren in open-source simulatie- en leerframeworks zoals NVIDIA Isaac Sim en Isaac Lab. Dit proces creëert een complete pijplijn die verschillende ontwikkelings- en testfasen ondersteunt. Aanvankelijk genereren Cosmos WFM's gestructureerde, diverse omgevingen die een breed scala aan evaluatiescenario's bieden.
Vervolgens simuleren Isaac Sim en Isaac Lab robotsystemen en -beleid binnen deze omgevingen. Deze simulatiefase maakt grondig testen en verfijnen van robotgedrag in een gecontroleerde omgeving mogelijk. Ten slotte worden modellen gevalideerd door middel van simulatie voordat ze op echte robots worden geïmplementeerd. Deze aanpak minimaliseert de risico's en verlaagt de kosten die gepaard gaan met iteratief testen, wat zorgt voor een betrouwbaardere en efficiëntere ontwikkelingscyclus.
Verschillende roboticabedrijven gebruiken het NVIDIA Isaac-platform op AWS al gedurende de gehele ontwikkelingscyclus van robotica. Deze groep omvat Agility Robotics, Agile Robots, ANYbotics, Diligent Robotics, Dyna Robotics, Field AI, Haply Robotics, Lightwheel, RIVR en Skild AI. Hun use cases variëren van het verzamelen, opslaan en verwerken van door robots gegenereerde data tot trainings- en simulatietaken die nodig zijn voor het opschalen van real-world toepassingen.
Langetermijnsamenwerking en positionering in de sector
Deze uitgebreide aankondigingen bouwen voort op de langdurige relatie tussen AWS en NVIDIA. Onlangs ontving NVIDIA de AWS Global GenAI Infrastructure and Data Partner of the Year Award. Deze prijs erkent technologiepartners met de AWS Generative AI Competency en benadrukt partners die vector-embeddings, dataopslag en -beheer, en synthetische datageneratie in meerdere datavormen en -formaten ondersteunen.
Deze uitgebreide samenwerking stelt AWS en NVIDIA in staat om nauw geïntegreerde AI-platformen op cloudschaal te leveren. Deze platformen zijn gericht op zowel prestatie- als soevereiniteitsbehoeften en bieden bedrijven een eenvoudigere route van experimentele AI-projecten naar grootschalige productie-implementaties.
Amazon