Broadcom Jericho4: Ethernet-Routing-Silizium der nächsten Generation für KI-gesteuerte Rechenzentren

Broadcom hat mit der Auslieferung seiner Jericho4-Switch-Familie begonnen und positioniert sie als fortschrittlichstes Ethernet-Routing-Chipset für Scale-Out-KI in modernen Rechenzentren. Jericho4 wurde speziell für die steigenden Anforderungen verteilter KI-Infrastrukturen entwickelt und bietet beeindruckende 51.2 Tbit/s verlustfreies, tief gepuffertes Ethernet. Dadurch können KI-Workloads problemlos über Racks, Cluster und sogar geografisch getrennte Standorte hinweg skaliert werden, ohne dass Zuverlässigkeit oder Leistung beeinträchtigt werden.

Verteilte KI

Modelle der künstlichen Intelligenz überschreiten mit zunehmendem Wachstum und zunehmender Komplexität zunehmend die Kapazität und physischen Grenzen einzelner Rechenzentren. Zusätzliche Netzwerkherausforderungen ergeben sich durch die Notwendigkeit, XPUs (Beschleuniger wie GPUs und TPUs) auf mehrere Einrichtungen zu verteilen, die jeweils Megawatt Leistung verbrauchen. Dazu gehört die Notwendigkeit einer verlustfreien, latenzarmen und bandbreitenstarken Übertragung über städtische und sogar regionale Entfernungen.

Ram Velaga, Senior Vice President und General Manager der Core Switching Group von Broadcom, betont, dass das KI-Zeitalter Netzwerklösungen erfordert, die verteilte Computerumgebungen mit über einer Million XPUs unterstützen. Velaga erklärte, dass die Jericho4-Familie darauf ausgelegt ist, Ethernet-Fabrics im KI-Maßstab zu ermöglichen, die über die Grenzen einzelner Rechenzentren hinausgehen und RoCE-Ferntransport (RDMA over Converged Ethernet), erweiterte Überlastungskontrolle und hocheffiziente Verbindungen unterstützen.

Highlights und Unterscheidungsmerkmale

Die Jericho4-Familie ist für die Skalierung über Rechenzentren hinweg konzipiert und bietet eine Reihe von Funktionen, die den spezifischen Anforderungen von KI-Workloads gerecht werden.

• 51.2 Tbps skalierbare, tief gepufferte Kapazität: Die Jericho4-Familie bietet eine beeindruckende Switching-Kapazität von 51.2 Tbit/s – eine der höchsten der Branche. Dieser Durchsatz ist entscheidend für KI-Workloads, bei denen große Datenmengen zwischen Tausenden von GPUs oder Beschleunigern verschoben werden müssen. Dank der „Deep-Buffered“-Funktion können große Datenmengen ohne Paketverlust verarbeitet werden. Dies gewährleistet hohe Leistung und Zuverlässigkeit beim verteilten KI-Training, selbst bei Netzwerküberlastung.
• 3.2T HyperPort-Schnittstellen: HyperPort kombiniert vier 800-Gigabit-Ethernet-Ports (800GE) zu einem einzigen 3.2-Terabit-pro-Sekunde-Kanal (3.2T) und vereinfacht so Netzwerkdesign und -verwaltung. Dies reduziert die Anzahl der benötigten Verbindungen zwischen Switches und Servern und minimiert gleichzeitig die Neuordnung von Paketen und Netzwerkineffizienzen. Dadurch können Benutzer Aufgaben bis zu 40 % schneller erledigen und die Netzwerkauslastung um bis zu 70 % verbessern. Dies führt zu einem schnelleren Training von KI-Modellen und einer effizienteren Nutzung der Rechenressourcen.
• Line-Rate-MACsec mit über 200 Sicherheitsrichtlinien: MACsec (Media Access Control Security) ist ein Standard zur Verschlüsselung von Daten auf Ethernet-Ebene. Der Jericho4-Switch unterstützt MACsec bei voller Übertragungsrate und ermöglicht so Ver- und Entschlüsselung ohne Leistungseinbußen. Mit der Unterstützung von über 200,000 Sicherheitsrichtlinien ermöglicht er detaillierte Sicherheitskontrollen, die für Multi-Tenant-Umgebungen oder „Neo Clouds“ von entscheidender Bedeutung sind. Dies gewährleistet den Schutz sensibler KI-Daten, die schnell über große, gemeinsam genutzte Infrastrukturen übertragen werden.
• End-to-End-Überlastungsmanagement und verlustfreier RoCE-Transport: KI-Workloads werden durch Netzwerküberlastung und Paketverlust beeinträchtigt, was das verteilte Training verlangsamen kann. Die Deep-Buffer-Architektur und das hardwarebasierte Überlastungsmanagement von Jericho4 ermöglichen verlustfreien Transport mit RoCE (RDMA over Converged Ethernet) und gewährleisten so eine zuverlässige Datenübertragung über Entfernungen von mehr als 100 Kilometern. Diese Funktionen sind entscheidend für die Verbindung verteilter Rechenzentren oder KI-Cluster und sorgen für konstante Leistung und Zuverlässigkeit.
• 40 % Leistungsreduzierung pro Bit: Energieeffizienz ist entscheidend, da Rechenzentren wachsen, um größere KI-Modelle und mehr Nutzer zu unterstützen. Die Architektur von Jericho4 ermöglicht eine 40-prozentige Reduzierung des Stromverbrauchs pro übertragenem Datenbit im Vergleich zu früheren Generationen. Dies senkt die Betriebskosten und hilft Unternehmen, Nachhaltigkeitsziele zu erreichen. Die Skalierung der KI-Infrastruktur ist ohne signifikanten Anstieg des Energieverbrauchs möglich.
• 200G PAM4 SerDes mit branchenführender Reichweite: Die SerDes-Technologie (Serializer/Deserializer) ermöglicht Hochgeschwindigkeitsdatenübertragung über Kupfer- oder Glasfaserverbindungen. Der Jericho4-Chip unterstützt 200G PAM4 SerDes und ermöglicht damit höhere Datenübertragungsraten über größere Distanzen als bisherige Technologien. Dadurch können Switches und Server über größere Rechenzentrumsgelände oder zwischen Gebäuden hinweg ohne Einbußen bei Geschwindigkeit oder Zuverlässigkeit verbunden werden.
• Ultra-Ethernet-Konsortium Compliance: Das Ultra Ethernet Consortium fördert Ethernet-Standards für Hochleistungsrechnen und KI. Die Konformität von Jericho4 gewährleistet nahtlose Kompatibilität mit anderen Ultra Ethernet-Geräten, schützt Investitionen und macht das Netzwerk zukunftssicher für kommende KI- und Cloud-Workloads.
• Endpunkt Agnostisch: Jericho4 ist mit allen Netzwerkkarten (NICs) und XPUs kompatibel, die Ethernet verwenden, z. B. GPUs oder DPUs. Diese Flexibilität ermöglicht es Unternehmen, verschiedene Computing- und Speicherendpunkte zu integrieren und so unterschiedliche KI-Architekturen und Anbieterlösungen zu unterstützen, ohne auf ein Ökosystem beschränkt zu sein.
• KI-Netzwerk: Die Jericho4-Architektur zeichnet sich durch ihre Fähigkeit aus, persistenten KI-Verkehr mit hoher Bandbreite zu bewältigen. Durch den Einsatz der HyperPort-Technologie werden herkömmliche Engpässe und Ineffizienzen beseitigt und skalierbare KI-Netzwerke mit höherem Durchsatz und geringerer Latenz ausgestattet. Dies ist besonders wichtig, da Unternehmen KI-Workloads auf Campusgeländen, in Ballungsräumen und sogar in größeren Regionen einsetzen.

Der Einsatz im Feld hat die Zuverlässigkeit und Effektivität von Jericho4 unter Beweis gestellt und skalierbare KI-Designs über Entfernungen von mehr als 100 km unterstützt. Damit etabliert sich Jericho4 als Schlüsseltechnologie für die verteilte KI-Infrastruktur der nächsten Generation.

Ein einzelnes Jericho4-System lässt sich auf bis zu 36,000 HyperPorts skalieren, die jeweils mit 3.2 Tb/s arbeiten und Deep Buffering, Line-Rate-MACsec und RoCE-Transport über Entfernungen von mehr als 100 Kilometern bieten. Zu den Bereitstellungsoptionen gehören Chassis-basierte Systeme mit Jericho-Line Cards, Distributed Scheduled Fabrics (DSF) mit Jericho Leaves und Ramon Spines sowie feste zentralisierte Systeme, die alle die High-Radix-, Low-Latency- und energieeffiziente Architektur von Broadcom nutzen.

Teil der End-to-End-Ethernet-KI-Plattform von Broadcom

Jericho4 ist ein entscheidender Bestandteil der vollständigen Ethernet-KI-Plattform von Broadcom, die außerdem Folgendes umfasst:

• Tomahawk 6: 102.4-Tbps-Switch für AI-Scale-Out und Scale-Up.
• Tomahawk Ultra: 51.2 Tbps-Switch mit geringer Latenz für HPC- und KI-Skalierung.
• Thor-Familie: KI-optimierte Ethernet-NICs.
• Produkte der physikalischen Schicht: Einschließlich Retimer, DSPs und Co-Packaged Optics (CPO) der dritten Generation.

Zusammen bieten diese Produkte eine offene, skalierbare Plattform für die Entwicklung Ethernet-basierter KI-Infrastrukturen in jedem Maßstab – von eng miteinander verbundenen GPU-Clustern bis hin zu regionalen Bereitstellungen.

Konkurrenz

Broadcoms Jericho4 betritt einen wettbewerbsintensiven Markt, in dem Betreiber von Hyperscale-Rechenzentren und Anbieter von KI-Infrastrukturen die Einschränkungen veralteter InfiniBand- und herkömmlicher Ethernet-Lösungen überwinden wollen. NVIDIA ist mit seinen InfiniBand-basierten Quantum- und Spectrum-X-Ethernet-Switches weiterhin ein führender Anbieter im KI-Networking, insbesondere für eng gekoppelte GPU-Cluster. Die Offenheit, Erschwinglichkeit und Ökosystemunterstützung von Ethernet fördern jedoch eine Verlagerung hin zu Ethernet-basierten KI-Fabrics, insbesondere für Scale-Out- und Multi-Site-Implementierungen.

Auch andere Wettbewerber wie Cisco mit seiner Nexus-Serie und Arista Networks investieren massiv in leistungsstarkes, KI-optimiertes Ethernet-Switching. Broadcoms tiefgepufferte, verlustfreie Architektur in Kombination mit seiner führenden Position bei Siliziuminnovation und Ökosystemintegration verleiht Jericho4 jedoch ein überzeugendes Wertversprechen – insbesondere für Unternehmen, die eine offene, skalierbare und zukunftssichere KI-Infrastruktur entwickeln möchten.

Weitere Informationen finden Sie auf der Jericho4-Produktseite .