Jensen Huang von NVIDIA ist diese Woche auf der Computex 2023 in Taiwan und hält eine Keynote mit zahlreichen Produktankündigungen. Im Fokus steht dabei die Entwicklung von Modellen der nächsten Generation für generative KI-Anwendungen, Datenanalyse und Empfehlungssysteme. Der NVIDIA DGX- Supercomputer mit NVIDIA GH200 Grace Hopper Superchips und das NVIDIA NVLink-Switchsystem standen im Mittelpunkt.
Die NVIDIA DGX GH200 nutzt die NVLink-Verbindungstechnologie mit dem NVLink-Switch-System, um 256 GH200-Superchips zu einer einzigen GPU zu vereinen. Dadurch erreicht sie eine Leistung von 1 Exaflop und bietet 144 Terabyte gemeinsamen Speicher. Das ist fast 500-mal mehr Speicher als ein einzelnes NVIDIA DGX A100-System!
NVLink-Technologie erweitert KI im großen Maßstab
Die GH200-Superchips kombinieren die Arm-basierte NVIDIA Grace CPU mit der NVIDIA H100 Tensor Core GPU über NVLink-C2C -Chipverbindungen. Dadurch entfällt die herkömmliche PCIe-Verbindung zwischen CPU und GPU. Die Bandbreite zwischen GPU und CPU ist im Vergleich zur neuesten PCIe-Technologie um das Siebenfache erhöht, der Stromverbrauch der Verbindung um mehr als das Fünffache reduziert. So entsteht ein 600-GB-GPU-Baustein mit Hopper-Architektur für die DGX GH200-Supercomputer.
Dies ist der erste Supercomputer, der Grace Hopper Superchips mit dem NVLink Switch System kombiniert. Diese neue Verbindung ermöglicht es allen GPUs in einem DGX GH200-System, als eine zu arbeiten, im Vergleich zur Beschränkung auf acht GPUs in Kombination mit NVLink als einer einzigen GPU, ohne dass die Leistung beeinträchtigt wird. Die DGX GH200-Architektur bietet zehnmal mehr Bandbreite als die vorherige Generation und bietet die Leistung eines riesigen KI-Supercomputers mit der Einfachheit der Programmierung einer einzelnen GPU.
KI-Pioniere erhalten neue Forschungstools
Es wird erwartet, dass Google Cloud, Meta und Microsoft als erste auf den neuen Supercomputer zugreifen und dessen Fähigkeiten für generative KI-Workloads erkunden können. NVIDIA beabsichtigt, das DGX GH200-Design als Blaupause für Cloud-Dienstleister und andere Hyperscaler bereitzustellen, damit diese es an ihre Infrastruktur anpassen können.
NVIDIA-Forscher und Entwicklungsteams erhalten Zugang zum neuen NVIDIA Helios-Supercomputer mit vier DGX GH200-Systemen. Helios wird 1,024 Grace Hopper Superchips enthalten und voraussichtlich Ende des Jahres online sein. Jedes System im Helios-Supercomputer wird mit dem NVIDIA Quantum-2 InfiniBand-Netzwerk mit einem Datendurchsatz von bis zu 400 Gbit/s für das Training großer KI-Modelle verbunden.
Integriert und zweckorientiert
Die DGX GH200-Supercomputer werden mit NVIDIA-Software ausgestattet sein und eine schlüsselfertige Komplettlösung für größte KI- und Datenanalyse-Workloads bieten. Die NVIDIA Base Command- Software umfasst KI-Workflow-Management, Cluster-Management auf Enterprise-Niveau, Bibliotheken zur Beschleunigung von Rechen-, Speicher- und Netzwerkinfrastruktur sowie Systemsoftware, die für die Ausführung von KI-Workloads optimiert ist. Die NVIDIA AI Enterprise- Software bietet über 100 Frameworks, neu trainierte Modelle und Entwicklungstools zur Optimierung der Entwicklung und des Einsatzes von produktiver KI, darunter generative KI, Computer Vision, Sprach-KI und weitere.
Verfügbarkeit
NVIDIA DGX GH200-Supercomputer werden voraussichtlich Ende des Jahres verfügbar sein.
Amazon