NVIDIA Spectrum-X ist eine beschleunigte Ethernet-Plattform, die die Leistung und Effizienz von Ethernet-basierten KI-Clouds verbessert. Die Spectrum-X-Netzwerkplattform kombiniert NVIDIA Spectrum-4, BlueField-3 DPUs und Beschleunigungssoftware und erzielt so eine nahezu doppelt so hohe KI-Gesamtleistung und Energieeffizienz sowie eine konsistente und vorhersehbare Performance in Multi-Tenant-Umgebungen.
NVIDIA Spectrum-X basiert auf Beschleunigungssoftware und Software Development Kits (SDKs) und stellt Entwicklern die Ressourcen zur Verfügung, die sie zum Erstellen softwaredefinierter, cloudnativer KI-Anwendungen benötigen. Die Bereitstellung von End-to-End-Funktionen verkürzt die Laufzeiten riesiger transformatorbasierter generativer KI-Modelle und ermöglicht es Netzwerkingenieuren, KI-Datenwissenschaftlern und Cloud-Service-Anbietern, Ergebnisse zu verbessern und fundierte Entscheidungen schneller zu treffen. Laut NVIDIA setzen die weltweit führenden Hyperscaler und Cloud-Innovatoren auf NVIDIA Spectrum-X.
Blaupause und Testbed-Supercomputer
Als Blaupause und Testumgebung für NVIDIA Spectrum-X-Referenzdesigns baut NVIDIA Israel-1, einen hyperskalierten generativen KI-Supercomputer, der in seinem israelischen Rechenzentrum auf Dell PowerEdge XE9680-Servern basierend auf NVIDIA HGX bereitgestellt wird
H100-Plattform mit acht GPUs, BlueField-3-DPUs und Spectrum-4-Switches.
Die NVIDIA Spectrum-X-Netzwerkplattform nutzt standardbasiertes Ethernet, ist mit Ethernet-basierten Stacks interoperabel und kann in verschiedenen KI-Anwendungen verwendet werden. Die Plattform beginnt mit Spectrum-4, dem ersten Ethernet-Switch, der für KI-Netzwerke entwickelt wurde. Erweiterte RoCE-Erweiterungen funktionieren über die Spectrum-4-Switches, BlueField-3-DPUs und LinkX-Optiken, um ein durchgängiges 400-GbE-Netzwerk zu schaffen, das für KI-Clouds optimiert ist.
NVIDIA Spectrum-X verbessert die Mandantenfähigkeit durch Leistungsisolation und stellt sicher, dass die KI-Arbeitslasten der Mandanten optimal und konsistent funktionieren. Es kann Leistungsengpässe identifizieren und verfügt über eine automatische Fabric-Validierung, um eine bessere Sichtbarkeit der KI-Leistung zu ermöglichen.
Die Beschleunigungssoftware für Spectrum-X umfasst NVIDIA SDKs wie Cumulus Linux, pure SONiC und NetQ und ermöglicht zusammen die extreme Leistung der Plattform. Ebenfalls enthalten ist das NVIDIA DOCA-Software-Framework, das Herzstück der BlueField-DPUs.
Spectrum-X ermöglicht 256 200-Gbit/s-Ports, die über einen einzelnen Switch verbunden sind, oder 16,000 Ports in einer zweistufigen Leaf-Spine-Topologie, um das Wachstum und die Erweiterung von KI-Clouds zu unterstützen und gleichzeitig ein hohes Leistungsniveau aufrechtzuerhalten und die Netzwerklatenz zu minimieren.
Zu den Unternehmen, die NVIDIA Spectrum-X anbieten, gehören Dell Technologies, Lenovo und Supermicro.
Verfügbarkeit
NVIDIA Spectrum-X, Spectrum-4-Switches, BlueField-3-DPUs und 400G-LinkX-Optik sind ab sofort verfügbar.
Amazon