Broadcom Jericho4: Nästa generations Ethernet-routingkisel för AI-drivna datacenter

Broadcom har börjat leverera sin Jericho4-switchfamilj, vilket positionerar den som den mest avancerade Ethernet-routingkiseln som finns tillgänglig för skalbar AI över moderna datacenter. Jericho4 är specifikt utformad för att möta de ökande kraven från distribuerad AI-infrastruktur och levererar imponerande 51.2 Tbps förlustfri, djupbuffrad Ethernet. Som ett resultat kan AI-arbetsbelastningar enkelt skalas över rack, kluster och till och med geografiskt separerade platser utan att kompromissa med tillförlitlighet eller prestanda.

Distribuerad AI

Modeller för artificiell intelligens överträffar snabbt kapaciteten och de fysiska begränsningarna hos enskilda datacenter i takt med att de fortsätter att växa och bli mer komplexa. Ytterligare en uppsättning nätverksutmaningar har uppstått på grund av kravet att distribuera XPU:er (acceleratorer som GPU:er och TPU:er) över flera anläggningar, som var och en förbrukar megawatt. Dessa inkluderar behovet av förlustfri överföring med låg latens och hög bandbredd över storstads- och till och med regionala avstånd.

Ram Velaga, Senior Vice President och General Manager för Broadcoms Core Switching Group, betonar att AI-eran kräver nätverkslösningar som kan stödja distribuerade datormiljöer med över en miljon XPU:er. Velaga förklarade att Jericho4-familjen är utformad för att möjliggöra AI-skaliga Ethernet-strukturer som går bortom gränserna för enskilda datacenter, och stöder långdistanstransport av RoCE (RDMA över konvergerat Ethernet), avancerad överbelastningskontroll och mycket effektiva sammankopplingar.

Höjdpunkter och skillnader

Jericho4-familjen är byggd för skalbarhet över datacenter och erbjuder en rad funktioner som möter de specifika behoven hos AI-arbetsbelastningar.

• 51.2 Tbps skalbar, djupbuffrad kapacitet: Jericho4-familjen erbjuder en häpnadsväckande switchkapacitet på 51.2 Tbps, bland de högsta i branschen. Denna dataflödeshastighet är avgörande för AI-arbetsbelastningar som kräver att stora datavolymer flyttas mellan tusentals GPU:er eller acceleratorer. Dess "djupbuffrade" funktion gör att den kan hantera betydande datautbrott utan att förlora paket, vilket säkerställer hög prestanda och tillförlitlighet i distribuerad AI-träning, även vid nätverksöverbelastning.
• 3.2T HyperPort-gränssnitt: HyperPort kombinerar fyra 800 Gigabit Ethernet-portar (800GE) till en enda 3.2 terabit per sekund (3.2T) kanal, vilket förenklar nätverksdesign och hantering. Detta minskar antalet länkar som krävs mellan switchar och servrar samtidigt som det minimerar omordning av paket och nätverksinseffektivitet. Som ett resultat kan användare uppnå upp till 40 % snabbare jobbslutförande och upp till 70 % bättre nätverksutnyttjande, vilket leder till snabbare AI-modellträning och effektivare användning av datorresurser.
• Linjehastighets-MACsec med 200 XNUMX+ säkerhetspolicyer: MACsec (Media Access Control Security) är en standard för kryptering av data på Ethernet-lagret. Jericho4-switchen stöder MACsec med full linjehastighet, vilket möjliggör kryptering och dekryptering utan prestandaförlust. Med stöd för över 200,000 XNUMX säkerhetspolicyer möjliggör den detaljerade säkerhetskontroller, vilket är avgörande för miljöer med flera hyresgäster eller "Neo Clouds". Detta säkerställer skyddet av känslig AI-data när den flyttas snabbt över stora, delade infrastrukturer.
• Helhetshantering av trängsel och RoCE-förlustfri transport: AI-arbetsbelastningar påverkas av nätverksöverbelastning och paketförlust, vilket kan bromsa distribuerad träning. Jericho4s djupbuffrade arkitektur och hårdvarubaserade överbelastningshantering möjliggör förlustfri transport med RoCE (RDMA över konvergerat Ethernet), vilket säkerställer tillförlitlig dataöverföring över avstånd större än 100 kilometer. Dessa funktioner är avgörande för att ansluta distribuerade datacenter eller AI-kluster, vilket ger konsekvent prestanda och tillförlitlighet.
• 40 % effektreduktion per bit: Energieffektivitet är avgörande i takt med att datacenter växer för att stödja större AI-modeller och fler användare. Jericho4:s arkitektur uppnår en minskning av strömförbrukningen med 40 % per överförd databit jämfört med tidigare generationer. Detta sänker driftskostnaderna och hjälper organisationer att uppnå hållbarhetsmål, vilket möjliggör skalning av AI-infrastruktur utan en betydande ökning av energianvändningen.
• 200G PAM4 SerDes med branschledande räckvidd: SerDes-tekniken (Serializer/Deserializer) möjliggör höghastighetsdataöverföring över koppar- eller fiberlänkar. Jericho4-chippet stöder 200G PAM4 SerDes, vilket ger snabbare datahastigheter över längre avstånd än tidigare tekniker. Detta gör att switchar och servrar kan anslutas över större datacenter eller mellan byggnader utan att kompromissa med hastighet eller tillförlitlighet.
• Ultra Ethernet-konsortium ComplianceUltra Ethernet Consortium främjar Ethernet-standarder för högpresterande datoranvändning och AI. Jericho4:s efterlevnad säkerställer sömlös kompatibilitet med andra Ultra Ethernet-enheter, vilket skyddar investeringar och framtidssäkrar nätverket för kommande AI- och molnarbetsbelastningar.
• Slutpunkt Agnostiker: Jericho4 är kompatibelt med alla nätverkskort (NIC) eller XPU, såsom GPU:er eller DPU:er, som använder Ethernet. Denna flexibilitet gör det möjligt för organisationer att integrera olika beräknings- och lagringsslutpunkter, vilket stöder olika AI-arkitekturer och leverantörslösningar utan att vara begränsade till ett enda ekosystem.
• AI-nätverk: Jericho4-arkitekturen utmärker sig för sin förmåga att hantera ihållande AI-trafikflöden med hög bandbredd. Genom att använda HyperPort-teknik elimineras traditionella flaskhalsar och ineffektiviteter, vilket ger högre dataflöde och lägre latens för skalbara AI-nätverk. Detta är särskilt viktigt när organisationer distribuerar AI-arbetsbelastningar över campus, storstadsområden och även bredare geografiska områden.

Fältimplementeringar har visat Jericho4:s tillförlitlighet och effektivitet, och stöder skalbara AI-designer över avstånd större än 100 km. Detta etablerar Jericho4 som en nyckelteknik för nästa generations distribuerade AI-infrastruktur.

Ett enda Jericho4-system kan skalas upp till 36,000 3.2 HyperPorts, där var och en arbetar med 100 Tb/s, med djup buffring, linjehastighets-MACsec och RoCE-transport över avstånd större än XNUMX kilometer. Distributionsalternativen inkluderar chassibaserade system med Jericho-linjekort, distribuerade schemalagda strukturer (DSF) med Jericho-blad och Ramon-spines, och fasta centraliserade system, som alla utnyttjar Broadcoms arkitektur med hög radix, låg latens och energieffektivitet.

En del av Broadcoms heltäckande Ethernet AI-plattform

Jericho4 är en avgörande del av Broadcoms kompletta Ethernet AI-plattform, som även inkluderar:

• Tomahawk 6: 102.4 Tbps-switch för AI-skalning och -uppskalning.
• Tomahawk Ultra: 51.2 Tbps låglatens-switch för HPC- och AI-uppskalning.
• Thor-familjen: AI-optimerade Ethernet-nätverkskort.
• Produkter för fysiskt lager: Inklusive retimers, DSP:er och tredje generationens co-packaged optik (CPO).

Tillsammans erbjuder dessa produkter en öppen, skalbar plattform för att utveckla Ethernet-baserad AI-infrastruktur i alla skalor – från tätt sammankopplade GPU-kluster till regionala distributioner.

Konkurrensen

Broadcoms Jericho4 ger sig in på en konkurrensutsatt marknad där operatörer av hyperskaliga datacenter och leverantörer av AI-infrastruktur strävar efter att övervinna begränsningarna hos äldre InfiniBand- och traditionella Ethernet-lösningar. NVIDIA, med sina InfiniBand-baserade Quantum- och Spectrum-X Ethernet-switchar, fortsätter att vara en dominerande aktör inom AI-nätverk, särskilt för tätt kopplade GPU-kluster. Ethernets öppenhet, överkomliga priser och ekosystemstöd driver dock på en övergång mot Ethernet-baserade AI-strukturer, särskilt för skalbara och multisite-distributioner.

Andra konkurrenter, som Cisco med sin Nexus-serie och Arista Networks, investerar också kraftigt i högpresterande, AI-optimerad Ethernet-switching. Broadcoms djupbuffrade, förlustfria arkitektur, i kombination med deras ledarskap inom kiselinnovation och ekosystemintegration, ger dock Jericho4 ett övertygande värdeerbjudande – särskilt för organisationer som strävar efter att utveckla öppen, skalbar och framtidssäker AI-infrastruktur.

Besök Jericho4 produktsida för mer information.