StorageReview.com

NVIDIA und Google Cloud erweitern ihre KI-Hypercomputer-Plattform auf der Next 2026

AI  ◇  Unternehmen

NVIDIA und Google Cloud nutzten Google Cloud Next in Las Vegas, um eine neue Phase ihrer langjährigen Entwicklungspartnerschaft einzuleiten. Sie stellten Updates für die Google Cloud AI Hypercomputer-Plattform vor, mit denen sich agentenbasierte und physische KI für Produktionsumgebungen skalieren lässt. Die Unternehmen entwickeln weiterhin gemeinsam eine Infrastruktur, die Silizium, Systeme, Netzwerke und Software umfasst, um zunehmend komplexe KI-Workloads wie autonome Agenten, Robotik und digitale Zwillinge zu unterstützen.

NVIDIA- und Google Cloud-Logos

Vera Rubin-basierte A5X-Infrastruktur zielt auf groß angelegte KI-Fabriken ab

Google Cloud hat A5X Bare-Metal-Instanzen auf Basis von NVIDIA Vera Rubin NVL72 Rack-Scale-Systemen vorgestellt. Diese Systeme wurden entwickelt, um die Wirtschaftlichkeit und Effizienz von Inferenzprozessen deutlich zu verbessern und bieten bis zu 10-mal niedrigere Kosten pro Token sowie einen 10-mal höheren Token-Durchsatz pro Megawatt als die Vorgängergeneration.

Die A5X-Plattform integriert NVIDIA ConnectX-9 SuperNICs mit Googles Virgo-Netzwerkarchitektur der nächsten Generation. Diese Architektur ermöglicht die Skalierung von Clustern auf bis zu 80,000 Rubin-GPUs an einem einzelnen Standort und auf bis zu 960,000 GPUs in verteilten Umgebungen. Das Design zielt auf hyperskalierbare KI-Trainings- und Inferenzumgebungen ab, in denen Netzwerkleistung und Systemoptimierung von entscheidender Bedeutung sind.

Google Cloud betonte, dass eine eng integrierte Infrastruktur und verwaltete KI-Dienste erforderlich sind, um die nächste Generation von KI-Workloads zu unterstützen. Der kombinierte Stack ermöglicht es Kunden, Modelle zu trainieren, zu optimieren und bereitzustellen, wobei der Fokus auf Leistung, Effizienz und operativer Skalierbarkeit liegt.

Breites Blackwell-Portfolio ermöglicht angemessene Beschleunigung

Google Cloud stellte außerdem sein Portfolio an NVIDIA Blackwell-basierten Instanzen vor, das ein breites Spektrum an Bereitstellungsgrößen und Leistungsprofilen abdeckt. Das Angebot umfasst A4-VMs auf Basis von NVIDIA HGX B200-Systemen, A4X- und A4X Max-Konfigurationen auf Basis der GB200- und GB300-NVL72-Plattformen sowie partiellen GPU-Zugriff über G4-Instanzen mit RTX PRO 6000 Blackwell Server Edition-GPUs.

RTX PRO 6000

Diese Bandbreite ermöglicht es Unternehmen, ihre Infrastruktur an die Workload-Anforderungen anzupassen. Die Konfigurationen reichen von einzelnen GPUs für weniger rechenintensive Aufgaben bis hin zu kompletten NVL72-Racks mit 72 GPUs, die über NVLink- und NVLink-Switch-Technologie der fünften Generation miteinander verbunden sind. Im High-End-Bereich können Implementierungen auf Zehntausende von GPUs für das Training großer Modelle und verteilte Inferenz skaliert werden.

Diese Systeme sind so konzipiert, dass sie eine Reihe von KI-Workloads unterstützen, darunter Mixture-of-Experts (MoE)-Modelle, multimodale Inferenz, groß angelegte Datenverarbeitung und Simulations-Workloads für Robotik und physikalische KI.

Die ersten Anwender nutzen die Plattform bereits. Thinking Machines Lab verwendet GB300 NVL72 -basierte A4X Max-Instanzen, um das Training für seine Tinker API zu skalieren, während OpenAI umfangreiche Inferenz-Workloads, einschließlich ChatGPT, auf GB200- und GB300-basierten Instanzen in der Google Cloud ausführt.

Vertrauliche KI wird auf Blackwell-GPUs ausgeweitet

Google Cloud erweitert die Funktionen für vertrauliches Rechnen auf seine KI-Infrastruktur. Gemini-Modelle, die auf NVIDIA Blackwell- und Blackwell Ultra-GPUs laufen, sind jetzt als Vorschauversion in Google Distributed Cloud verfügbar und ermöglichen es Unternehmen, Modelle näher an sensiblen Datenquellen bereitzustellen.

Grafik zu Google Cloud-Sicherheitskontrollen

NVIDIA Confidential Computing ermöglicht verschlüsselte Ausführungsumgebungen, in denen Eingabeaufforderungen und Feinabstimmungsdaten vor unberechtigtem Zugriff, auch durch Cloud-Betreiber, geschützt bleiben. Diese Funktion wird nun auch in Multi-Tenant-Umgebungen durch Confidential G4 VMs mit RTX PRO 6000 Blackwell GPUs verfügbar sein.

Dies ist die erste Implementierung von Confidential Computing für Blackwell-GPUs in der öffentlichen Cloud und zielt auf regulierte Branchen ab, die einen strengen Datenschutz benötigen und gleichzeitig den Zugriff auf eine leistungsstarke KI-Infrastruktur gewährleisten wollen.

Offene Modelle und verwaltete RL-Pipelines für agentenbasierte KI

Die Plattform unterstützt ein breites Modellökosystem, darunter Googles Gemini- und Gemma-Modelle sowie NVIDIAs offene Nemotron-Modelle. NVIDIA Nemotron 3 Super ist nun in die Gemini Enterprise Agent Platform integriert und ermöglicht Entwicklern die Erstellung und Bereitstellung von agentenbasierten Workflows mit logischem Denken.

Google Cloud führt außerdem verwaltete Trainingscluster mit einer auf NVIDIA NeMo basierenden Reinforcement-Learning-API ein. Dieser Dienst automatisiert die Clusterbereitstellung, die Job-Orchestrierung und die Fehlerbehandlung und ermöglicht so groß angelegtes RL-Training. Ziel ist es, die operative Komplexität zu reduzieren und Teams zu ermöglichen, sich auf das Modellverhalten und die Optimierung zu konzentrieren.

CrowdStrike nutzt NVIDIA NeMo-Tools, darunter Data Designer, Automodel und Megatron Bridge, um synthetische Daten zu generieren und domänenspezifische Cybersicherheitsmodelle zu optimieren. Diese Workflows laufen auf einer Blackwell-basierten Infrastruktur und beschleunigen so die Prozesse zur Bedrohungserkennung und -abwehr.

Zunehmende industrielle und physische KI-Workloads

Die gemeinsame Plattform zielt auch auf industrielle und physikalische KI-Anwendungsfälle ab. Anwendungen von Cadence und Siemens Digital Industries Software sind jetzt auf Google Cloud mit NVIDIA-Beschleunigung verfügbar und unterstützen Design-, Simulations- und Fertigungsabläufe in Branchen wie Halbleiter, Automobil, Luft- und Raumfahrt sowie Schwermaschinenbau.

Die NVIDIA Omniverse-Bibliotheken und Isaac Sim sind im Google Cloud Marketplace verfügbar und ermöglichen die Entwicklung physikalisch präziser digitaler Zwillinge und Simulationspipelines für die Robotik. Mit diesen Tools können Unternehmen Systeme vor der Implementierung simulieren und validieren.

Darüber hinaus lassen sich NVIDIA NIM-Mikrodienste auf Vertex AI und Google Kubernetes Engine bereitstellen, um KI-gestützte Bildverarbeitung und Robotik-Workloads zu unterstützen. Diese Dienste ermöglichen Funktionen wie Echtzeit-Videoanalyse, Roboterplanung und automatisierte Datenverarbeitung.

Plattformfokus: Vom Experimentieren zur Produktion

Die Aktualisierungen positionieren Google Cloud AI Hypercomputer als umfassende Plattform für die Überführung von KI-Workloads aus der Forschung in die Produktion. Dank eng integrierter Rechen-, Netzwerk-, Software- und Sicherheitsfunktionen ist die Plattform für die Unterstützung von groß angelegten agentenbasierten Systemen, industrieller Automatisierung und KI-Anwendungen in Echtzeit ausgelegt.

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Harold Fritts

Ich bin in der Technologiebranche tätig, seit IBM Selectric gegründet hat. Mein Hintergrund ist jedoch das Schreiben. Also beschloss ich, aus dem Vorverkaufsgeschäft auszusteigen und zu meinen Wurzeln zurückzukehren, ein bisschen zu schreiben, mich aber immer noch mit Technologie zu beschäftigen.