Broadcom har officiellt meddelat leveransen av Tomahawk Ultra Ethernet-switch, en produkt som ska omdefiniera högpresterande databehandling (HPC) och artificiell intelligens (AI)-nätverk. Tomahawk Ultra är designad för ultralåg latens, hög dataflöde och förlustfri drift och sätter en ny standard för Ethernet-switching i krävande tekniska miljöer.
Ram Velaga, Senior Vice President och General Manager för Broadcoms Core Switching Group, betonade att Tomahawk Ultra är resultatet av ett flerårigt ingenjörsarbete som involverar hundratals specialister. Denna lansering understryker Broadcoms fortsatta engagemang för att utveckla Ethernet-tekniken för nästa generations högpresterande och AI-drivna arbetsbelastningar.
Krossar myter, omdefinierar Ethernet
Historiskt sett har Ethernet betraktats som en teknik med hög latens och förluster, olämplig för de mest krävande beräkningsklustren. Tomahawk Ultra utmanar denna uppfattning genom att leverera:
- Ultralåg latens: Uppnår 250 ns switchlatens vid ett fullständigt dataflöde på 51.2 Tbps, vilket möjliggör dataförflyttning i realtid för tätt kopplade beräkningsmiljöer.
- Hög prestanda: Stöder linjehastighetsväxling även för de minsta 64-byte-paketen, och hanterar upp till 77 miljarder paket per sekund.
- Optimerade Ethernet-headers: Minskar headerstorleken från 46 byte till bara 10 byte samtidigt som fullständig Ethernet-kompatibilitet bibehålls, nätverkseffektiviteten ökas och applikationsspecifika förbättringar möjliggörs.
- Förlustfri struktur: Implementerar Link Layer Retry (LLR) och Credit-Based Flow Control (CBFC) för att eliminera paketförlust och säkerställa tillförlitlig dataleverans.
Specialbyggd för HPC- och AI-uppskalning
Tomahawk Ultra är optimerad för kommunikationsmönster med låg latens och hög bandbredd som finns i HPC-system och AI-kluster. Dess arkitektur är utformad för att leverera förutsägbar och högeffektiv prestanda för storskaliga simuleringar, vetenskaplig beräkning och synkroniserad AI-modellträning och inferens.
När Tomahawk Ultra distribueras med Scale-Up Ethernet (SUE) uppnår den en XPU-till-XPU-kommunikationslatens på under 400 ns, inklusive switchtransittid, vilket sätter en ny standard för tätt synkroniserad AI-beräkning i stor skala.
Minskningen av Ethernet-headeroverhead från 46 byte till 10 byte, samtidigt som efterlevnaden bibehålls, förbättrar nätverkseffektiviteten avsevärt. Denna strömlinjeformade, anpassningsbara header ger både flexibilitet och prestandaförbättringar över en rad HPC- och AI-arbetsbelastningar.
Förlustfri infrastruktur för dataintensiva arbetsbelastningar
Tomahawk Ultras förlustfria fabric-teknik är konstruerad för att förhindra paketförluster vid stora dataöverföringar. Med hjälp av LLR upptäcker switchen länkfel med Forward Error Correction (FEC) och skickar automatiskt om paket, vilket undviker fysiska förluster. CBFC förhindrar ytterligare buffertöverflöden, en vanlig orsak till paketförluster. Tillsammans skapar dessa mekanismer en verkligt förlustfri Ethernet-fabric, som ger den tillförlitlighet som krävs av dagens mest dataintensiva applikationer.
En betydande flaskhals i arbetsbelastningar inom AI och maskininlärning är den omkostnad som är förknippad med gemensamma operationer, såsom AllReduce, Broadcast och AllGather. Tomahawk Ultra åtgärdar detta genom att utföra dessa operationer direkt i switchchipet, vilket minskar slutförandetider för jobb och maximerar utnyttjandet av dyra beräkningsresurser. Det är värt att notera att denna funktion fungerar oberoende av slutpunkter, vilket möjliggör snabb integration mellan olika systemarkitekturer och leverantörsekosystem.
Topologimedveten routing och öppenhet i ekosystem
Tomahawk Ultra är utformad med avancerad, topologimedveten routing för att stödja HPC-topologier som Dragonfly, Mesh och Torus. Switchen uppfyller UEC-standarden och utnyttjar öppenheten och det rika ekosystemet i Ethernet-nätverk, vilket säkerställer bred kompatibilitet och framtidssäkring för ständigt föränderliga datacenterarkitekturer.
Som en del av Broadcoms Ethernet-forward-strategi för AI-skalning har företaget introducerat SUE-Lite, en optimerad version av SUE-specifikationen. SUE-Lite är skräddarsydd för ström- och områdeskänsliga acceleratorapplikationer och bibehåller de centrala funktionerna med låg latens och förlustfria egenskaper hos fullständig SUE, samtidigt som kiselfotavtrycket och strömförbrukningen för Ethernet-gränssnitt på AI-XPU:er och CPU:er ytterligare minskas. Denna lättviktiga metod förenklar integrationen av standardkompatibla Ethernet-strukturer i AI-plattformar, vilket främjar ett bredare införande av Ethernet som den föredragna sammankopplingen för skalbara arkitekturer.
Tillsammans med 102.4 Tb/s Tomahawk 6 utgör Tomahawk Ultra ryggraden i en enhetlig Ethernet-arkitektur, vilket möjliggör både skalbara AI-träningskluster och expansiva HPC- och distribuerade arbetsbelastningar.
Tillgänglighet
Switchen levereras för närvarande för användning i rackskaliga AI-utbildningskluster och superdatormiljöer.
Amazon