KI-Training und -Inferenz im großen Maßstab verändern die Netzwerke von Rechenzentren. Der Ost-West-Verkehr zwischen GPUs/XPUs hat deutlich zugenommen, und herkömmliche steckbare optische Systeme kämpfen mit Stromverbrauch, Latenz und physischer Komplexität, da Cluster auf Zehntausende von Beschleunigern skaliert werden. Broadcoms Co-Packaged Optics (CPO)-Plattform der dritten Generation, Tomahawk 6-Davisson (TH6-Davisson), ist jetzt verfügbar und bringt eine optisch aktivierte Switching-Kapazität von 102.4 Tbit/s und verdoppelt damit die Bandbreite aller heute verfügbaren CPO-Switches. Für Architekten, die KI-Fabrics der nächsten Generation entwickeln, bedeutet dies eine deutliche Verbesserung von Durchsatz, Effizienz und Verbindungszuverlässigkeit.
Speziell für KI-Netzwerke entwickelt
TH6-Davisson ist auf die Anforderungen moderner KI-Cluster zugeschnitten. Dies bedeutet anhaltende, schnelle Ost-West-Datenflüsse, hohe Empfindlichkeit gegenüber Link-Flaps und die Notwendigkeit, die Beschleunigerauslastung zu maximieren. Mit 200 Gbit/s pro Kanal verdoppelt TH6-Davisson die Leitungsgeschwindigkeit pro Lane und die Gesamtbandbreite der vorherigen TH5-Bailly-Generation. Es bietet nahtlose Interoperabilität zwischen DR-basierten Transceivern und Near-Packaged Optics (NPO)- und CPO-Verbindungen mit 200 Gbit/s pro Kanal. Das Ergebnis ist eine unkomplizierte Skalierung nach oben und unten über die heutigen High-End-NICs, XPUs und Fabric-Switches.
Aus der Bereitstellungsperspektive bedeutet dies:
- Höhere effektive FLOP-Auslastung durch Reduzierung von durch Links verursachten Verzögerungen und Jobunterbrechungen.
- Geringere End-to-End-Latenz im Vergleich zu herkömmlichen Pluggables durch Verkürzung der Strompfade und Minimierung der Konditionierung.
- Eine sauberere mechanische und thermische Hülle am Switch, die die Systemintegration im Rack- und Reihenmaßstab erleichtert.
Gemeinsam verpackte Optiken: Leistungs- und Stabilitätsvorteile
Steckbare Optiken erfordern einen geringeren Stromverbrauch und führen mit zunehmender Geschwindigkeit zu mehr Schwankungen. TH6-Davisson integriert optische Engines direkt in ein gemeinsames Gehäuse mit dem Ethernet-Switch und kombiniert die Compact Universal Photonic Engine (COUPE)-Technologie von TSMC mit fortschrittlichem Multi-Chip-Gehäuse auf Substratebene. Diese heterogene Integration reduziert den Bedarf an Signalaufbereitung und minimiert Spurverluste und Reflexionen.
Laut Broadcom umfassen die Vorteile:
- Etwa 70 % weniger Stromverbrauch bei optischen Verbindungen im Vergleich zu herkömmlichen Steckverbindungen. Das ist mehr als 3.5-mal weniger und führt zu erheblichen TCO- und Nachhaltigkeitsvorteilen für Hyperscale- und KI-Rechenzentren.
- Verbesserte Verbindungsstabilität durch Eliminierung der für steckbare Transceiver typischen Fertigungs- und Testvariabilität. Eine frühere TH5-Bailly-Verbindungs-Flap-Studie wird als Beleg herangezogen; die engere Integration von TH6 reduziert Flap-Ereignisse weiter, was für lang andauernde KI-Trainingsläufe von entscheidender Bedeutung ist.
Near Margalit, Vice President und General Manager der Optical Systems Division von Broadcom, bezeichnet TH6-Davisson als Wegbereiter für größere, zuverlässigere KI-Cluster. Er hebt die Verbesserungen bei Verbindungsstabilität und Energieeffizienz hervor, die zu einer höheren Beschleunigerauslastung, weniger Arbeitsunterbrechungen und einer verbesserten Gesamtzuverlässigkeit führen. Dies sind wichtige Hebel für ein schnelleres und effizienteres Modelltraining.
Interoperabilität und Standardanpassung
TH6-Davisson ist für die Integration in heterogene Umgebungen konzipiert und bietet:
- 200 Gbit/s pro Link mit IEEE 802.3-Konformität für 400G/800G-Interoperabilität.
- Kompatibilität mit DR-basierter Optik sowie NPO/CPO-Ökosystemen mit 200 Gbit/s pro Kanal.
- Vor Ort austauschbare ELSFP-Lasermodule vereinfachen die Wartung, ohne auf die Integrationsvorteile von CPO zu verzichten.
Dieser standardorientierte Ansatz ist für Beschaffungs- und Netzwerktechnikteams von entscheidender Bedeutung, die bei der Planung von Upgrade-Pfaden neue Bereitstellungen in vorhandene 400G- und 800G-Geräte integrieren müssen.
Produkt-Highlights: TH6-Davisson BCM78919
- 102.4 Tb/s Switching-Kapazität
- 16 × 6.4 Tb/s Davisson DR optische Engines
- 200 Gbit/s Verbindungsbandbreite pro Kanal
- Vor Ort austauschbare ELSFP-Lasermodule
- Skalieren Sie auf 512 XPUs pro Cluster und bis zu 100,000+ XPUs in zweistufigen Fabrics bei 200 Gbit/s pro Link
- IEEE 802.3-kompatibel; interoperabel mit aktuellen 400G/800G-Standards
Diese Spezifikationen führen zu dichteren Fabrics mit weniger Geräten pro Bandbreiteneinheit, besseren Leistungsprofilen und einer höheren erwarteten Zuverlässigkeit bei der Auftragserledigung. Diese Punkte spiegeln sich direkt in ROI/TCO-Modellen für KI-Ausbauten wider.
400 Gbit/s pro Kanal auf dem Deck
Broadcom gibt an, dass sich die vierte Generation seiner CPO-Plattform in der Entwicklung befindet. Ziel ist eine Bandbreite von 400 Gbit/s pro Kanal mit weiteren Energieeffizienzsteigerungen. Bei Realisierung dieses Ziels würde sich die Frequenz verdoppeln und gleichzeitig die Wattzahl pro Bit weiter reduzieren, was für die stromsparenden Realitäten von KI-Rechenzentren von entscheidender Bedeutung ist.
Verfügbarkeit
Broadcom stellt Kunden und Partnern mit frühzeitigem Zugriff derzeit Muster des TH6-Davisson BCM78919 zur Verfügung; die allgemeine Verfügbarkeit soll anschließend erfolgen.
Co-Packaged Optics scheinen weiterhin das richtige Werkzeug für die Vernetzung im KI-Zeitalter zu sein. Sie komprimieren den elektrischen Pfad, drosseln die Leistung und stabilisieren Verbindungen genau in dem Moment, in dem Cluster auf sechsstellige Beschleunigerzahlen skalieren. Die von TH6-Davisson versprochene Kapazität von 102.4 Tbit/s und die Reduzierung der optischen Leistung um 70 % setzen hohe Maßstäbe.
Amazon