NVIDIA hat die Serienproduktion seiner CPO-Ethernet-Switch-Plattform Spectrum-X Ethernet Photonics aufgenommen. Das Unternehmen gibt die Vorteile mit viermal weniger Lasern, fünfmal geringerem Stromverbrauch und zehnmal höherer mittlerer Betriebsdauer zwischen Störungen an und nannte die fünf Fertigungspartner, die den Switch in jeder Phase der Lieferkette herstellen. Dieser Meilenstein fällt zeitlich mit der Produktionsauslieferung der Vera-Rubin-Rechenplattform zusammen, für die die Plattform entwickelt wurde. Die Auslieferung der Switches soll im Herbst dieses Jahres beginnen.
Im Inneren des integrierten optischen Schalters
Herkömmliche Switches nutzen steckbare optische Transceiver – diskrete Module mit jeweils einem eigenen Laser, die in die Switch-Frontplatte gesteckt werden. Spectrum-X Ethernet Photonics hingegen integriert optische Module direkt neben dem Switching-Silizium. Diese basieren auf gemeinsam verpackten Optiken mit 200-Gbit/s-SerDes. Durch den Wegfall der steckbaren Ebene reduziert sich die Anzahl der Laser um den Faktor vier. Weniger Laser bedeuten weniger diskrete Komponenten, die in einem Netzwerk mit Hunderttausenden von Verbindungen ausfallen können.
Diese potenziellen Fehlerquellen sind der Grund, warum die Zuverlässigkeit für die meisten Betreiber wichtiger ist als die Leistung. Die zehnfach höhere mittlere Betriebsdauer zwischen Störungen (MTBI) von NVIDIA bezieht sich darauf, wie häufig ein Fehler im optischen Pfad eine Verbindung unterbricht, nicht auf den reinen Datendurchsatz. Die Reduzierung des thermischen und elektrischen Bedarfs der Netzwerkschicht schafft zudem mehr Leistungsreserven im Rechenzentrum für Beschleuniger – ein Aspekt, der auch die 800-VDC-Stromversorgungsarchitektur von NVIDIA beeinflusst . Bei der ersten Vorstellung der Plattform hob NVIDIA die Vorteile gegenüber Netzwerken mit herkömmlichen Transceivern hervor: fünffach höhere Energieeffizienz, fünffach längere KI-Verfügbarkeit und 1.3-fach schnellere Bereitstellungszeit.
Die CPO-Lieferkette, Stufe für Stufe
Die ungewöhnlichste Offenlegung betrifft die Fertigungskette selbst, die NVIDIA stufenweise aufgeschlüsselt hat. TSMC ist für die Herstellung der Siliziumphotonik zuständig. SPIL übernimmt das Chip-Scale-Packaging und die Tests. Lumentum fertigt die Laserchips, und TFC Communication baut die Lasermodul-Baugruppen. Foxconn montiert das abschließende Schaltsystem. Die Technologie der gemeinsam verpackten Optiken galt jahrelang als vielversprechend in Demonstrationen, erwies sich aber in der Serienproduktion als schwierig. Daher ist eine namentlich genannte, fünf Zulieferer umfassende Produktionskette ein konkretes Zeichen für Marktreife.
Zu den ersten Anwendern, die die CPO-Architektur integrieren, gehören Cloud-Anbieter wie CoreWeave, Lambda, Oracle Cloud Infrastructure, Microsoft Azure, IBM Cloud und Nebius.
Vera Rubin, die Plattform, die vernetzt wird
Der Switch dient der Anbindung von Vera Rubin , dessen Serienproduktion laut NVIDIA Ende Mai auf der GTC Taipei angelaufen ist und dessen Auslieferung im Herbst beginnen soll. Die Plattform, die die dritte Generation des NVIDIA MGX Rack-Scale-Designs repräsentiert, ist darauf ausgelegt, im Vergleich zur Vorgängergeneration Grace Blackwell eine bis zu zehnmal höhere KI-Leistung im großen Maßstab zu erzielen. Die Systemfertigung erfolgt durch führende Serverhersteller wie Dell Technologies, HPE, Lenovo und Supermicro sowie ASUS, ASRock Rack, Compal, Foxconn, GIGABYTE, Inventec, MSI, Pegatron, Quanta Cloud Technology, Wistron und Wiwynn. Im Bereich Speicher- und Infrastruktursoftware nennt NVIDIA Cloudian, DDN, Hitachi Vantara, IBM, MinIO, NetApp, Nutanix, VAST Data und WEKA als Partner, die die Plattform in Serie produzieren.
Auf Rackebene integriert der Vera Rubin NVL72 Vera-CPUs, Rubin-GPUs und NVLink-Netzwerktechnologie der sechsten Generation in eine einheitliche Rechenumgebung. Um Mandantenfähigkeit und den Schutz von Unternehmensdaten zu gewährleisten, ist die Architektur mit NVIDIA Confidential Computing (CRC) ausgestattet. Diese Implementierung schafft eine Trusted Execution Environment (TEE) im Rackmaßstab mit Hardware-Attestierung und durchgängiger Verschlüsselung mit Leitungsgeschwindigkeit über Hochgeschwindigkeitsverbindungen, um Manipulationen auf physischer Ebene und Firmware-Ebene zu verhindern.
„Agentenbasierte KI stellt eine neue Art von Arbeitslast dar. Ein einziger Befehl kann eine tausendstufige Kette von Schlussfolgerungen, Abruf, Werkzeugnutzung und Antwortgenerierung auslösen“, sagte Jensen Huang, Gründer und CEO von NVIDIA. „Vera Rubin wurde genau für diesen Moment entwickelt“, fügte er hinzu und beschrieb sie als „KI-Fabrikmaschine, die Intelligenz in großem Umfang liefert und die Leistung, Effizienz und Sicherheit bietet, die für die nächste industrielle Revolution erforderlich sind.“
BlueField-4 DPU-Integration für Multi-Tenant-Isolation
Die Vera-Rubin-Architektur nutzt zudem NVIDIA BlueField-4-Datenverarbeitungseinheiten (DPUs), um Infrastruktur-Workloads von den primären Host-Prozessoren zu entlasten. BlueField-4 arbeitet mit softwaredefinierten Netzwerkgeschwindigkeiten von bis zu 800 Gbit/s und bietet hardwareisolierte Multi-Tenant-Netzwerke, Telemetrie und Speichervirtualisierung. Dank der BlueField-4 Advanced Secure Trusted Resource Architecture können Cluster-Betreiber eine detaillierte Datenverkehrsisolierung erzwingen, die Richtliniendurchsetzung automatisieren und Steuerungsebenen in großflächigen verteilten Umgebungen verwalten.
Da die Optiken nun in Serienfertigung sind und die Auslieferungen von Rubin voraussichtlich im Herbst beginnen werden, verschiebt sich die praktische Frage von der Frage, ob die Hardware real ist, hin zu der Frage, wie schnell sich die Betreiber darauf vorbereiten können.
Amazon