Broadcom Jericho4: Ethernet-routeringssilicium van de volgende generatie voor AI-gestuurde datacenters

Broadcom is begonnen met de levering van zijn Jericho4-switchfamilie en positioneert deze als de meest geavanceerde Ethernet-routeringssilicone die beschikbaar is voor scale-out AI in moderne datacenters. Jericho4 is speciaal ontworpen om te voldoen aan de toenemende eisen van gedistribueerde AI-infrastructuur en levert een indrukwekkende 51.2 Tbps aan lossless, deep-buffered Ethernet. Hierdoor kunnen AI-workloads eenvoudig worden geschaald over racks, clusters en zelfs geografisch gescheiden locaties, zonder dat dit ten koste gaat van de betrouwbaarheid of prestaties.

Gedistribueerde AI

Modellen voor kunstmatige intelligentie (AI) overstijgen snel de capaciteit en fysieke beperkingen van individuele datacenters naarmate ze blijven groeien en complexer worden. Er zijn extra netwerkuitdagingen ontstaan door de noodzaak om XPU's (versnellers zoals GPU's en TPU's) te verdelen over meerdere faciliteiten, die elk megawatt aan stroom verbruiken. Deze uitdagingen omvatten de behoefte aan verliesvrije, lage latentie en hoge bandbreedte transmissie over grootstedelijke en zelfs regionale afstanden.

Ram Velaga, Senior Vice President en General Manager van Broadcom's Core Switching Group, benadrukt dat het AI-tijdperk netwerkoplossingen vereist die gedistribueerde computeromgevingen met meer dan een miljoen XPU's kunnen ondersteunen. Velaga legde uit dat de Jericho4-familie is ontworpen om Ethernet-netwerken op AI-schaal mogelijk te maken die de grenzen van individuele datacenters overschrijden, en RoCE-transport (RDMA over Converged Ethernet) over lange afstanden, geavanceerde congestiecontrole en zeer efficiënte interconnects ondersteunen.

Hoogtepunten en onderscheidende kenmerken

De Jericho4-familie is gebouwd voor schaalbaarheid in datacenters en biedt een reeks functies die voldoen aan de specifieke behoeften van AI-workloads.

• 51.2 Tbps schaalbare, diep gebufferde capaciteit: De Jericho4-familie biedt een verbluffende switchingcapaciteit van 51.2 Tbps, een van de hoogste in de branche. Deze doorvoer is cruciaal voor AI-workloads waarbij grote datavolumes tussen duizenden GPU's of accelerators moeten worden verplaatst. Dankzij de 'deep buffered'-functie kan de JerichoXNUMX grote datastoten verwerken zonder pakketten te verliezen. Dit garandeert hoge prestaties en betrouwbaarheid bij gedistribueerde AI-training, zelfs bij netwerkcongestie.
• 3.2T HyperPort-interfaces: HyperPort combineert vier 800 Gigabit Ethernet (800GE)-poorten tot één kanaal met een snelheid van 3.2 terabit per seconde (3.2 T), wat het netwerkontwerp en -beheer vereenvoudigt. Dit vermindert het aantal benodigde verbindingen tussen switches en servers en minimaliseert pakketherordening en netwerkinefficiënties. Hierdoor kunnen gebruikers tot 40% sneller taken voltooien en tot 70% beter netwerkgebruik realiseren, wat leidt tot snellere training van AI-modellen en efficiënter gebruik van computerbronnen.
• Line-Rate MACsec met meer dan 200 beveiligingsbeleidsregels: MACsec (Media Access Control Security) is een standaard voor het versleutelen van gegevens op Ethernet-niveau. De Jericho4-switch ondersteunt MACsec op volledige lijnsnelheid, waardoor versleuteling en ontsleuteling mogelijk zijn zonder prestatieverlies. Met ondersteuning voor meer dan 200,000 beveiligingsbeleidsregels maakt het gedetailleerde beveiligingscontroles mogelijk, die cruciaal zijn voor multi-tenantomgevingen of "Neo Clouds". Dit garandeert de bescherming van gevoelige AI-gegevens terwijl deze snel worden verplaatst over grote, gedeelde infrastructuren.
• End-to-end congestiebeheer en RoCE verliesloos transport: AI-workloads worden beïnvloed door netwerkcongestie en pakketverlies, wat gedistribueerde training kan vertragen. De diepgebufferde architectuur en hardwarematig congestiebeheer van Jericho4 maken verliesvrij transport mogelijk met RoCE (RDMA over Converged Ethernet), wat zorgt voor betrouwbare gegevensoverdracht over afstanden van meer dan 100 kilometer. Deze functies zijn cruciaal voor het verbinden van gedistribueerde datacenters of AI-clusters en zorgen voor consistente prestaties en betrouwbaarheid.
• 40% vermogensreductie per bit: Energie-efficiëntie is cruciaal naarmate datacenters groeien om grotere AI-modellen en meer gebruikers te ondersteunen. De architectuur van Jericho4 realiseert een 40% lager energieverbruik per verzonden databit ten opzichte van eerdere generaties. Dit verlaagt de operationele kosten en helpt organisaties duurzaamheidsdoelen te behalen, waardoor AI-infrastructuur kan worden opgeschaald zonder een significante toename van het energieverbruik.
• 200G PAM4 SerDes met toonaangevend bereik in de sector: SerDes-technologie (Serializer/Deserializer) maakt snelle gegevensoverdracht via koper- of glasvezelverbindingen mogelijk. De Jericho4-chip ondersteunt 200G PAM4 SerDes, wat hogere datasnelheden over langere afstanden mogelijk maakt dan eerdere technologieën. Hierdoor kunnen switches en servers verbinding maken met grotere datacenters of tussen gebouwen zonder dat dit ten koste gaat van de snelheid of betrouwbaarheid.
• Ultra Ethernet-consortium CompliantHet Ultra Ethernet Consortium promoot Ethernet-standaarden voor high-performance computing en AI. De compliance van Jericho4 garandeert naadloze compatibiliteit met andere Ultra Ethernet-apparaten, waardoor investeringen worden beschermd en het netwerk toekomstbestendig wordt gemaakt voor toekomstige AI- en cloudworkloads.
• Endpoint Agnostisch: Jericho4 is compatibel met elke netwerkinterfacekaart (NIC) of XPU, zoals GPU's of DPU's, die Ethernet gebruiken. Deze flexibiliteit stelt organisaties in staat om verschillende computer- en opslageindpunten te integreren en diverse AI-architecturen en leveranciersoplossingen te ondersteunen zonder beperkt te zijn tot één ecosysteem.
• AI-netwerken: De Jericho4-architectuur onderscheidt zich door zijn vermogen om aanhoudende AI-verkeersstromen met hoge bandbreedte te beheren. Door gebruik te maken van HyperPort-technologie worden traditionele knelpunten en inefficiënties weggenomen, wat zorgt voor een hogere doorvoer en lagere latentie voor schaalbare AI-netwerken. Dit is vooral belangrijk wanneer organisaties AI-workloads implementeren op campussen, in grootstedelijke gebieden en zelfs in bredere geografische gebieden.

Inzet in het veld heeft de betrouwbaarheid en effectiviteit van Jericho4 aangetoond en ondersteunt schaalbare AI-ontwerpen over afstanden van meer dan 100 km. Dit maakt Jericho4 tot een belangrijke technologie voor de volgende generatie gedistribueerde AI-infrastructuur.

Eén Jericho4-systeem kan worden geschaald tot 36,000 HyperPorts, elk met een snelheid van 3.2 TB/s, met diepe buffering, MACsec-linerate en RoCE-transport over afstanden van meer dan 100 kilometer. Implementatieopties omvatten chassisgebaseerde systemen met Jericho-linecards, gedistribueerde geplande fabrics (DSF) met Jericho-leafs en Ramon-spines, en vaste gecentraliseerde systemen, die allemaal gebruikmaken van Broadcoms architectuur met hoge radix, lage latentie en energiezuinigheid.

Onderdeel van Broadcom's End-to-End Ethernet AI-platform

Jericho4 is een cruciaal onderdeel van het complete Ethernet AI-platform van Broadcom, dat ook het volgende omvat:

• Tomahawk 6: 102.4 Tbps-switch voor AI-opschaling en -uitschaling.
• Tomahawk Ultra: 51.2 Tbps switch met lage latentie voor HPC- en AI-opschaling.
• Familie Thor: AI-geoptimaliseerde Ethernet-netwerkkaarten.
• Fysieke laagproducten: Inclusief retimers, DSP's en derde generatie Co-Packaged Optics (CPO).

Samen bieden deze producten een open, schaalbaar platform voor de ontwikkeling van op Ethernet gebaseerde AI-infrastructuur op elke schaal: van nauw met elkaar verbonden GPU-clusters tot regionale implementaties.

Competitie

Broadcom's Jericho4 betreedt een competitieve markt waar hyperscale datacenterbeheerders en aanbieders van AI-infrastructuur de beperkingen van oudere InfiniBand- en traditionele Ethernet-oplossingen proberen te overwinnen. NVIDIA blijft met zijn op InfiniBand gebaseerde Quantum- en Spectrum-X Ethernet-switches een dominante speler op het gebied van AI-netwerken, met name voor nauw gekoppelde GPU-clusters. De openheid, betaalbaarheid en ecosysteemondersteuning van Ethernet stimuleren echter een verschuiving naar op Ethernet gebaseerde AI-fabrics, met name voor scale-out en multi-site implementaties.

Andere concurrenten, zoals Cisco met zijn Nexus-serie, en Arista Networks, investeren ook fors in hoogwaardige, AI-geoptimaliseerde Ethernet-switching. De diepgebufferde, verliesvrije architectuur van Broadcom, gecombineerd met zijn leiderschap in siliciuminnovatie en ecosysteemintegratie, geeft Jericho4 echter een aantrekkelijke waardepropositie – met name voor organisaties die streven naar de ontwikkeling van een open, schaalbare en toekomstbestendige AI-infrastructuur.

Bezoek de productpagina van Jericho4 voor meer informatie.