StorageReview.com

Broadcom Tomahawk Ultra Switch zielt auf KI-Skalierung mit verlustfreiem Ethernet ab

Unternehmen  ◇  Netzwerken

Broadcom hat offiziell die Auslieferung des Tomahawk Ultra Ethernet-Switches bekannt gegeben. Dieses Produkt wird die Netzwerktechnik im Bereich High-Performance Computing (HPC) und Künstliche Intelligenz (KI) revolutionieren. Der Tomahawk Ultra wurde für extrem niedrige Latenzzeiten, hohen Durchsatz und verlustfreien Betrieb entwickelt und setzt damit einen neuen Standard für Ethernet-Switching in anspruchsvollen technischen Umgebungen.

Broadcom Tomahawk Ultra

Ram Velaga, Senior Vice President und General Manager der Core Switching Group von Broadcom, betonte, dass Tomahawk Ultra das Ergebnis mehrjähriger Entwicklungsarbeit unter Beteiligung Hunderter Spezialisten sei. Die Markteinführung unterstreicht Broadcoms anhaltendes Engagement für die Weiterentwicklung der Ethernet-Technologie für die nächste Generation leistungsstarker und KI-gesteuerter Workloads.

Mythen zerstören, Ethernet neu definieren

Ethernet galt bisher als verlustbehaftete Technologie mit hoher Latenz und ungeeignet für anspruchsvolle Rechencluster. Tomahawk Ultra widerlegt diese Wahrnehmung und bietet:

  • Ultraniedrige Latenz: Erreicht eine Switch-Latenz von 250 ns bei einem vollen Durchsatz von 51.2 Tbps und ermöglicht so die Echtzeit-Datenbewegung für eng gekoppelte Rechenumgebungen.
  • Hohe Leistung: Unterstützt Line-Rate-Switching selbst für die kleinsten 64-Byte-Pakete und verarbeitet bis zu 77 Milliarden Pakete pro Sekunde.
  • Optimierte Ethernet-Header: Reduziert die Header-Größe von 46 Byte auf nur 10 Byte bei gleichzeitiger Beibehaltung der vollständigen Ethernet-Konformität, erhöht die Netzwerkeffizienz und ermöglicht anwendungsspezifische Verbesserungen.
  • Verlustfreies Fabric: Implementiert Link Layer Retry (LLR) und Credit-Based Flow Control (CBFC), um Paketverluste zu vermeiden und eine zuverlässige Datenübertragung zu gewährleisten.

Speziell für HPC und KI-Skalierung entwickelt

Tomahawk Ultra ist für die Kommunikationsmuster mit geringer Latenz und hoher Bandbreite in HPC-Systemen und KI-Clustern optimiert. Seine Architektur ist auf vorhersehbare, hocheffiziente Leistung für groß angelegte Simulationen, wissenschaftliches Rechnen sowie synchronisiertes Training und Inferenz von KI-Modellen ausgelegt.

Bei Einsatz mit Scale-Up Ethernet (SUE) erreicht Tomahawk Ultra eine XPU-zu-XPU-Kommunikationslatenz von unter 400 ns, einschließlich Switch-Transitzeit, und setzt damit einen neuen Standard für eng synchronisierte KI-Berechnungen im großen Maßstab.

Die Reduzierung des Ethernet-Header-Overheads von 46 Byte auf 10 Byte bei gleichzeitiger Einhaltung der Compliance steigert die Netzwerkeffizienz deutlich. Dieser optimierte, anpassbare Header bietet Flexibilität und Leistungsverbesserungen für eine Reihe von HPC- und KI-Workloads.

Verlustfreies Fabric für datenintensive Workloads

Die verlustfreie Fabric-Technologie des Tomahawk Ultra verhindert Paketverluste bei großen Datenübertragungen. Mithilfe von LLR erkennt der Switch Verbindungsfehler mit Forward Error Correction (FEC) und überträgt Pakete automatisch erneut, um Verluste auf physikalischer Ebene zu vermeiden. CBFC verhindert zudem Pufferüberläufe, eine häufige Ursache für Paketverluste. Zusammen bilden diese Mechanismen eine wirklich verlustfreie Ethernet-Fabric und bieten die Zuverlässigkeit, die die datenintensivsten Anwendungen von heute benötigen.

Ein erheblicher Engpass bei KI- und Machine-Learning-Workloads ist der Overhead, der mit kollektiven Operationen wie AllReduce, Broadcast und AllGather verbunden ist. Tomahawk Ultra behebt dieses Problem, indem es diese Operationen direkt im Switch-Chip ausführt. Dadurch werden die Auftragsbearbeitungszeiten verkürzt und die Nutzung teurer Rechenressourcen maximiert. Diese Funktion arbeitet unabhängig von Endpunkten und ermöglicht so eine schnelle Integration über verschiedene Systemarchitekturen und Anbieter-Ökosysteme hinweg.

Topologiebewusstes Routing und Offenheit des Ökosystems

Tomahawk Ultra ist mit fortschrittlichem, topologiebewusstem Routing ausgestattet und unterstützt HPC-Topologien wie Dragonfly, Mesh und Torus. Der Switch entspricht dem UEC-Standard und nutzt die Offenheit und das umfassende Ökosystem der Ethernet-Netzwerke. Dies gewährleistet umfassende Kompatibilität und Zukunftssicherheit für sich entwickelnde Rechenzentrumsarchitekturen.

Im Rahmen von Broadcoms Ethernet-Forward-Strategie zur KI-Skalierung hat das Unternehmen SUE-Lite eingeführt, eine optimierte Version der SUE-Spezifikation. SUE-Lite ist auf leistungs- und flächensensitive Beschleunigeranwendungen zugeschnitten und behält die Kernfunktionen der vollständigen SUE-Spezifikation mit geringer Latenz und Verlustfreiheit bei. Gleichzeitig werden der Silizium-Footprint und der Stromverbrauch der Ethernet-Schnittstellen auf KI-XPUs und -CPUs weiter reduziert. Dieser schlanke Ansatz vereinfacht die Integration standardkonformer Ethernet-Fabrics in KI-Plattformen und fördert die breitere Akzeptanz von Ethernet als bevorzugte Verbindung für Scale-up-Architekturen.

Zusammen mit dem 102.4 Tb/s Tomahawk 6 bildet Tomahawk Ultra das Rückgrat einer einheitlichen Ethernet-Architektur und ermöglicht sowohl skalierbare KI-Trainingscluster als auch umfangreiche HPC- und verteilte Workloads.

Verfügbarkeit

Der Switch wird derzeit für den Einsatz in Rack-Scale-KI-Trainingsclustern und Supercomputing-Umgebungen ausgeliefert.

Beteiligen Sie sich an StorageReview

Newsletter | YouTube | Podcast (iTunes / Spotify) | Instagram | Twitter | TikTok | RSS-Feed

Harold Fritts

Ich bin in der Technologiebranche tätig, seit IBM Selectric gegründet hat. Mein Hintergrund ist jedoch das Schreiben. Also beschloss ich, aus dem Vorverkaufsgeschäft auszusteigen und zu meinen Wurzeln zurückzukehren, ein bisschen zu schreiben, mich aber immer noch mit Technologie zu beschäftigen.