StorageReview.com

Die strategische Zusammenarbeit zwischen AWS und NVIDIA bietet neue Supercomputing-Infrastruktur, Software und Dienste für generative KI

AI  ◇  Unternehmen

Während der AWS re:Invent-Keynote kündigten AWS und NVIDIA eine bedeutende Entwicklung für künstliche Intelligenz (KI) an. AWS-CEO Adam Selipsky lud NVIDIA-CEO Jensen Huang auf die Bühne ein, um die strategischen Kooperationsbemühungen der beiden Unternehmen näher zu erläutern. Diese Partnerschaft soll die fortschrittlichste Infrastruktur, Software und Dienste bereitstellen und generative KI-Innovationen vorantreiben. Die Zusammenarbeit ist eine Mischung aus der Spitzentechnologie von NVIDIA und der robusten Cloud-Infrastruktur von AWS und markiert eine neue Ära in der KI-Entwicklung.

Revolutionierung der Cloud-KI mit NVIDIA GH200 Grace Hopper Superchips

Ein Eckpfeiler dieser Zusammenarbeit ist die Einführung der NVIDIA GH200 Grace Hopper Superchips in der Cloud durch AWS – ein Novum unter den Cloud-Anbietern. Diese Superchips stellen einen bedeutenden Fortschritt im Bereich Cloud-basierter KI-Rechenleistung dar. Die GH200 NVL32 Multi-Node-Plattform, die 32 Grace Hopper Superchips über NVIDIA NVLink- und NVSwitch-Technologien verbindet, wird in Amazon EC2-Instanzen integriert. Diese neuen Amazon EC2-Instanzen eignen sich für diverse KI-, HPC- und Grafik-Workloads.

Jeder GH200-Superchip kombiniert eine Arm-basierte Grace-CPU mit einer NVIDIA-Hopper-Architektur-GPU auf demselben Modul, sodass eine einzelne EC2-Instanz bis zu 20 TB gemeinsamen Speicher für Arbeitslasten im Terabyte-Bereich bereitstellen kann. Dieser Aufbau ermöglicht es gemeinsamen Kunden, auf Tausende von GH200-Superchips zu skalieren, die beispiellose Rechenleistung für KI-Forschung und -Anwendungen bieten.

Generative KI, HPC, Design und Simulation auf Hochtouren bringen

AWS führt drei neue EC2-Instanzen ein: Die P5e-Instanzen, ausgestattet mit NVIDIA H200 Tensor Core GPUs , sind für umfangreiche und hochmoderne generative KI- und HPC-Workloads konzipiert. Die G6- und G6e-Instanzen, basierend auf NVIDIA L4- bzw. L40S-GPUs, eignen sich für KI-Feinabstimmung, Inferenz, Grafik- und Video-Workloads. Die G6e-Instanzen sind besonders geeignet für die Entwicklung von 3D-Workflows, digitalen Zwillingen und Anwendungen mit NVIDIA Omniverse, einer Plattform für generative KI-basierte 3D-Anwendungen.

NVIDIA GH200-basierte EC2-Instanzen verfügen über 4.5 TB HBM3e-Speicher. Das ist eine 7.2-fache Steigerung im Vergleich zu aktuellen H100-basierten EC2 P5d-Instanzen. Die CPU-zu-GPU-Speicherverbindung bietet eine bis zu 7-mal höhere Bandbreite als PCIe und ermöglicht so eine Chip-zu-Chip-Kommunikation, die den für Anwendungen verfügbaren Gesamtspeicher erweitert.

AWS-Instanzen mit GH200 NVL32 werden die erste KI-Infrastruktur auf AWS sein, die über Flüssigkeitskühlung verfügt. Dadurch wird sichergestellt, dass dicht gepackte Server-Racks effizient und mit maximaler Leistung arbeiten. EC2-Instanzen mit GH200 NVL32 profitieren auch vom AWS Nitro System, der zugrunde liegenden Plattform für EC2-Instanzen der nächsten Generation. Nitro verlagert E/A für Funktionen von der Host-CPU/GPU auf spezielle Hardware und bietet so eine konsistentere Leistung mit erhöhter Sicherheit zum Schutz von Kundencode und -daten während der Verarbeitung.

NVIDIA-Software auf AWS fördert die generative KI-Entwicklung

Eine weitere bahnbrechende Ankündigung: NVIDIA-Software auf AWS wird die Entwicklung generativer KI beschleunigen. Der NVIDIA NeMo Retriever- Mikroservice bietet Werkzeuge zur Erstellung präziser Chatbots und Zusammenfassungstools mithilfe beschleunigter semantischer Abfrage.

Pharmaunternehmen können die Arzneimittelforschung mit NVIDIA BioNeMo beschleunigen, das auf Amazon SageMaker verfügbar ist und in die DGX Cloud kommt.

Unter Nutzung des NVIDIA NeMo-Frameworks wird AWS ausgewählte Amazon Titan LLMs der nächsten Generation schulen. Amazon Robotics nutzt NVIDIA Omniverse Isaac, um digitale Zwillinge für die Automatisierung, Optimierung und Planung autonomer Lager in virtuellen Umgebungen vor dem Einsatz in der realen Welt zu erstellen.

NVIDIA DGX Cloud gehostet auf AWS: Demokratisierung des KI-Trainings

Ein weiterer zentraler Aspekt dieser Partnerschaft ist das Hosting der NVIDIA DGX Cloud auf AWS. Dieser KI-Trainingsdienst wird als erster die GH200 NVL32 nutzen und Entwicklern damit den größten gemeinsam genutzten Speicher in einer einzigen Instanz bieten. Die DGX Cloud auf AWS wird das Training modernster generativer KI und großer Sprachmodelle (LLMs) deutlich beschleunigen und potenziell über eine Billion Parameter erreichen. Dieser Dienst demokratisiert den Zugang zu High-End-KI-Trainingsressourcen, die bisher nur Nutzern mit umfangreicher Recheninfrastruktur zur Verfügung standen.

Projekt Ceiba: Bau des weltweit schnellsten GPU-gestützten KI-Supercomputers

In einem ehrgeizigen Schritt arbeiten AWS und NVIDIA im Projekt Ceiba zusammen, um den weltweit schnellsten GPU-gestützten KI-Supercomputer zu bauen. Dieses System verfügt über 16,384 NVIDIA GH200-Superchips und kann 65 Exaflops KI verarbeiten. Es wird von AWS für das Forschungs- und Entwicklungsteam von NVIDIA gehostet. Der Supercomputer wird die generative KI-Innovation von NVIDIA vorantreiben und sich auf Bereiche wie digitale Biologie, Robotik, autonome Fahrzeuge und Klimavorhersage auswirken.

Eine neue Ära der KI-Entwicklung auf AWS

Diese erweiterte Zusammenarbeit zwischen AWS und NVIDIA ist mehr als nur ein technologischer Fortschritt; Es handelt sich um einen Paradigmenwechsel im Cloud-basierten KI-Computing. Durch die Kombination der fortschrittlichen KI-Infrastruktur von NVIDIA und der Cloud-Funktionen von AWS soll diese Partnerschaft die Entwicklung und Bereitstellung generativer KI in verschiedenen Branchen revolutionieren. Von Pharmazeutika bis hin zu autonomen Fahrzeugen – die Auswirkungen dieser Zusammenarbeit sind enorm und weitreichend und versprechen, neue Möglichkeiten in der KI und darüber hinaus zu erschließen.

NVIDIA

AWS

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Jordan Ranous

KI-Spezialist; Wir führen Sie durch die Welt der Enterprise AI. Autor und Analyst für Storage Review mit Erfahrung in den Bereichen Financial Big Data Analytics, Datacenter Ops/DevOps und CX Analytics. Pilot, Astrofotograf, LTO-Band-Guru und Batterie-/Solar-Enthusiast.