Amazon Web Services und NVIDIA haben eine bedeutende Erweiterung ihrer gemeinsamen Infrastrukturinitiativen angekündigt und Pläne zur Bereitstellung von zusätzlich 2 Millionen NVIDIA-GPUs in AWS-Rechenzentren zwischen 2027 und 2028 vorgestellt. Aufbauend auf einer 16-jährigen Entwicklungspartnerschaft zielt die erweiterte Zusammenarbeit auf die durchgängige Skalierung der KI-Infrastruktur ab und umfasst Beschleunigerkapazität, Host-CPU-Architekturen, Hochgeschwindigkeitsverbindungen, staatliche Implementierungen und beschleunigte Datenverarbeitungspipelines.
„Kunden wünschen sich die Freiheit, die besten Tools für ihre KI-Workloads auszuwählen, und sie wollen darauf vertrauen können, dass alles nahtlos zusammenarbeitet“, sagte Matt Garman, CEO von AWS. Jensen Huang, Gründer und CEO von NVIDIA, erklärte, die beiden Unternehmen hätten „einen der größten Wachstumsmotoren des KI-Zeitalters geschaffen, und die Nachfrage übertrifft alle Prognosen“. Er verwies auf eine Expansion, die GPUs, CPUs, Netzwerke, offene Modelle und Software umfasst, um agentenbasierte und physische KI in großem Umfang nutzbar zu machen.
Skalierte GPU-Bereitstellungen und EC2 G7-Instanzen
Im Rahmen der mehrjährigen Einführung werden 2 Millionen NVIDIA Blackwell Ultra, Rubin und Rubin Ultra GPUs in die globale AWS-Infrastruktur integriert, die speziell für die Stromversorgung großer KI-Fabriken entwickelt wurde, welche verteiltes Training, wissenschaftliche Simulationen, Unternehmensautomatisierung und agentenbasierte Arbeitsabläufe verarbeiten.
AWS erweitert seine Blackwell-Flotte der aktuellen Generation und führt NVIDIA RTX PRO 4500 Blackwell Server Edition GPUs in Amazon EC2 G7-Instanzen ein. AWS ist der erste große Cloud-Anbieter, der Instanzen mit RTX PRO 4500-Beschleunigung anbietet. Diese bieten eine bis zu 4.6-fach höhere KI-Inferenzleistung und einen 2.1-fach höheren Grafikdurchsatz im Vergleich zu EC2 G6-Instanzen der vorherigen Generation. Um einen hohen Cluster-Durchsatz und geringe Latenzzeiten über diese hochdichten Knoten hinweg zu gewährleisten, arbeiten die Unternehmen gemeinsam an NVIDIA Spectrum- Netzwerkoptimierungen, die speziell für große GPU-Trainingscluster entwickelt wurden.
NVIDIA Vera CPUs und NVLink Fusion mit benutzerdefiniertem HBM
Um den Rechenbedarf mehrstufiger, agentenbasierter KI-Workloads zu decken, arbeiten AWS und NVIDIA zusammen, um die auf NVIDIA Vera CPUs basierende Infrastruktur in AWS zu integrieren. NVIDIA beschreibt Vera als speziell für die nächste Generation von KI entwickelte Technologie. AWS-Kunden erhalten damit eine leistungsstarke CPU-Option in Verbindung mit beschleunigter Infrastruktur. Dies ergänzt die Strategie von AWS, eine möglichst breite Auswahl an Rechenkapazitäten anzubieten – von eigenen Chips bis hin zu CPUs und Beschleunigern von Partnern.
Im Bereich der Verbindungstechnik und Speicherlösungen bauen NVIDIA und Amazons Annapurna Labs ihre Partnerschaft im Bereich NVIDIA NVLink Fusion weiter aus. NVLink Fusion wurde ursprünglich für die AWS Trainium-Prozessoren der nächsten Generation entwickelt und wird nun in Zusammenarbeit mit Speicherherstellern mit NVIDIAs eigener NVHBM-Technologie (High-Bandwidth Memory) kombiniert. Laut NVIDIA ermöglicht diese Kombination Trainium den Zugriff auf schnelleren und energieeffizienteren Speicher. Dadurch kann Annapurna Labs Trainium-Chips und NVIDIA-GPUs in einer gemeinsam genutzten, skalierbaren Rack-Architektur integrieren.
Dedizierte KI-Fabriken für Arbeitslasten der Bundesregierung und der nationalen Sicherheit
Für die Anforderungen des Regierungssektors entwickeln AWS und NVIDIA gemeinsam dedizierte KI-Fabriken mit 100,000 GPUs, die in einer isolierten und sicheren AWS-Infrastruktur bereitgestellt werden. Die Umgebung ist so konzipiert, dass sie sensible Workloads von Bundesbehörden und dem Verteidigungsbereich unterstützt und Compliance sowie operative Sicherheit für Sicherheitsstufen ab Impact Level 6 (IL6) gewährleistet.
Kernplattformintegrationen: Nitro, Datenverarbeitung und Robotik
Die erweiterte Allianz nutzt weiterhin die bestehenden technischen Kernintegrationen innerhalb der AWS-Plattform:
- AWS Nitro System und EFA: Alle EC2-Instanzen mit NVIDIA-GPU und Trainium-Technologie nutzen das AWS Nitro System für ausgelagerte Virtualisierung und Hardware-Sicherheit, kombiniert mit Elastic Fabric Adapter (EFA)-Netzwerktechnologie, um eine Scale-Out-Konnektivität mit Leitungsgeschwindigkeit und niedriger Latenz zu gewährleisten.
- Verwaltete offene Modelle: Die NVIDIA Nemotron Open-Model-Familie ist weiterhin nativ in AWS integriert und wird als vollständig verwaltete, serverlose Endpunkte auf Amazon Bedrock sowie als anpassbare Foundation-Modelle auf Amazon SageMaker angeboten.
- Hardwarebeschleunigte Analyse und Suche: Amazon EMR nutzt Amazon EC2 G7-Instanzen und die NVIDIA cuDF-Bibliothek, um einen bis zu 3.7-fach schnelleren Datendurchsatz und eine 30-prozentige Verbesserung des Preis-Leistungs-Verhältnisses gegenüber Standard-CPU-Konfigurationen zu erzielen. Darüber hinaus verwendet der Amazon OpenSearch Service dedizierte GPUs über die NVIDIA CUDA-X cuVS-Bibliotheken für die Vektorindizierung und erreicht so bis zu 9-mal schnellere Indexierungszeiten bei etwa einem Viertel der Infrastrukturkosten in verwalteten und serverlosen Bereitstellungen.
- Physikalische KI und Roboterautomatisierung: Amazon Robotics integriert NVIDIAs Portfolio für physikalische KI, das NVIDIA Jetson Edge-Computing-Module, Omniverse-Simulationsbibliotheken und die Isaac-Robotikplattform umfasst. Diese Pipeline läuft auf GPU-beschleunigten EC2-Instanzen und unterstützt die Generierung großer Mengen synthetischer Daten, Simulationen, Robotertraining, Routenoptimierung, funktionale Sicherheit und die Validierung von realen Daten in der Simulation für automatisierte Lagersysteme.
Amazon