Amazon Web Services en NVIDIA hebben een grote uitbreiding van hun gezamenlijke infrastructuurinitiatieven aangekondigd. Ze schetsen plannen om tussen 2027 en 2028 nog eens 2 miljoen NVIDIA GPU's in AWS-datacenters te implementeren. Voortbouwend op een 16-jarige samenwerking op het gebied van engineering, richt de uitgebreide samenwerking zich op de volledige schaalbaarheid van AI-infrastructuur, inclusief acceleratorcapaciteit, host-CPU-architecturen, breedbandverbindingen, implementaties door overheden en versnelde dataverwerkingspipelines.
"Klanten willen de vrijheid om de beste tools voor hun AI-workloads te kiezen en ze willen erop kunnen vertrouwen dat alles naadloos samenwerkt", aldus Matt Garman, CEO van AWS. Jensen Huang, oprichter en CEO van NVIDIA, zei dat de twee bedrijven "een van de belangrijkste groeimotoren van het AI-tijdperk hebben gecreëerd en dat de vraag alle voorspellingen overtreft", wijzend op een expansie die zich uitstrekt over GPU's, CPU's, netwerken, open modellen en software om agentische en fysieke AI op grote schaal te laten werken.
Geschaalde GPU-implementaties en EC2 G7-instanties
De meerjarige uitrol zal 2 miljoen NVIDIA Blackwell Ultra-, Rubin- en Rubin Ultra-GPU's integreren in de AWS Global Infrastructure. Deze infrastructuur is specifiek ontworpen om grote AI-omgevingen aan te drijven die gedistribueerde training, wetenschappelijke simulatie, bedrijfsautomatisering en agentische workflows verwerken.
AWS breidt ook zijn huidige generatie Blackwell-mappen uit met de introductie van NVIDIA RTX PRO 4500 Blackwell Server Edition GPU's in Amazon EC2 G7-instances. AWS is de eerste grote cloudprovider die instances aanbiedt die versneld worden door de RTX PRO 4500. Deze levert tot 4.6 keer hogere AI-inferentieprestaties en 2.1 keer hogere grafische doorvoer in vergelijking met de vorige generatie EC2 G6-instances. Om de doorvoer en lage latentie over deze nodes met hoge dichtheid te behouden, werken de bedrijven samen aan NVIDIA Spectrum-netwerkoptimalisaties die specifiek zijn afgestemd op grote GPU-trainingsclusters.
NVIDIA Vera CPU's en NVLink Fusion met aangepaste HBM
Om te voldoen aan de rekenkrachtvereisten van complexe AI-workloads, werken AWS en NVIDIA samen om infrastructuur op basis van NVIDIA Vera CPU's naar AWS te brengen. NVIDIA beschrijft Vera als speciaal ontworpen voor de volgende generatie AI, waarmee AWS-klanten een krachtige CPU-optie krijgen in combinatie met versnelde infrastructuur. Dit sluit aan bij de strategie van AWS om een zo breed mogelijk scala aan rekenkracht te bieden, van eigen chips tot CPU's en accelerators van partners.
Op het gebied van interconnectie en geheugen breiden NVIDIA en Annapurna Labs van Amazon hun samenwerking uit rondom NVIDIA NVLink Fusion. NVLink Fusion, oorspronkelijk geïntroduceerd voor de volgende generatie AWS Trainium-processors, wordt nu in samenwerking met geheugenleveranciers gecombineerd met NVIDIA's eigen high-bandwidth memory (NVHBM)-technologie . NVIDIA stelt dat deze combinatie Trainium toegang geeft tot sneller en energiezuiniger geheugen, waardoor Annapurna Labs Trainium-chips en NVIDIA GPU's kan combineren binnen een gedeelde, schaalbare rackarchitectuur.
Speciaal ingerichte AI-fabrieken voor taken op het gebied van federale en nationale veiligheid.
Voor de behoeften van de overheidssector ontwikkelen AWS en NVIDIA gezamenlijk speciale AI-omgevingen, uitgerust met 100,000 GPU's, die worden ingezet op een geïsoleerde, beveiligde AWS-infrastructuur. De omgeving is ontworpen om gevoelige workloads van federale instanties en defensie te ondersteunen en biedt compliance en operationele beveiliging voor classificaties op impactniveau 6 (IL6) en hoger.
Kernplatformintegraties: Nitro, gegevensverwerking en robotica
De uitgebreide alliantie blijft gebruikmaken van bestaande, essentiële technische integraties binnen het AWS-platform:
- AWS Nitro-systeem en EFA: Alle EC2-instanties die gebruikmaken van NVIDIA GPU's en Trainium vertrouwen op het AWS Nitro-systeem voor offloaded virtualisatie en hardwarebeveiliging, in combinatie met Elastic Fabric Adapter (EFA)-netwerken om snelle, schaalbare interconnectiviteit met lage latentie te leveren.
- Beheerde open modellen: De NVIDIA Nemotron open modelfamilie blijft native geïntegreerd in AWS en wordt aangeboden als volledig beheerde, serverloze endpoints op Amazon Bedrock en als aanpasbare basismodellen op Amazon SageMaker.
- Hardware-versnelde analyses en zoekopdrachten: Amazon EMR maakt gebruik van Amazon EC2 G7-instances en de NVIDIA cuDF-bibliotheek om tot 3.7 keer snellere gegevensverwerking te realiseren en een 30 procent betere prijs-prestatieverhouding te bieden dan standaard CPU-configuraties. Daarnaast maakt Amazon OpenSearch Service gebruik van dedicated GPU's via NVIDIA CUDA-X cuVS-bibliotheken voor vectorindexering, waardoor indexen tot 9 keer sneller worden opgebouwd tegen ongeveer een kwart van de infrastructuurkosten, zowel bij beheerde als serverloze implementaties.
- Fysieke AI en robotautomatisering: Amazon Robotics integreert NVIDIA's portfolio voor fysieke AI, bestaande uit NVIDIA Jetson edge computing-modules, Omniverse-simulatiebibliotheken en het Isaac-robotica-platform. Deze pipeline, die draait op GPU-versnelde EC2-instances, ondersteunt grootschalige generatie van synthetische data, simulatie, robottraining, routeoptimalisatie, functionele veiligheid en validatie van de werkelijke situatie ten opzichte van de simulatie voor geautomatiseerde magazijnsystemen.
Amazon