Broadcom Jericho4: Síťový router Ethernet nové generace pro datová centra řízená umělou inteligencí

Společnost Broadcom zahájila dodávky své řady přepínačů Jericho4, které se tak prezentují jako nejpokročilejší ethernetový směrovací křemík dostupný pro škálování umělé inteligence v moderních datových centrech. Přepínač Jericho4, navržený speciálně pro splnění rostoucích požadavků distribuované infrastruktury umělé inteligence, poskytuje působivých 51.2 Tb/s bezztrátového Ethernetu s hlubokou vyrovnávací pamětí. Díky tomu lze úlohy umělé inteligence snadno škálovat napříč racky, clustery a dokonce i geograficky oddělenými lokalitami bez kompromisů ve spolehlivosti nebo výkonu.

Distribuovaná AI

Modely umělé inteligence s tím, jak rostou a stávají se složitějšími, rychle překračují kapacitu a fyzická omezení jednotlivých datových center. Další sada síťových výzev vznikla v důsledku požadavku na distribuci XPU (akcelerátorů, jako jsou GPU a TPU) do více zařízení, z nichž každé spotřebovává megawatty energie. Patří mezi ně potřeba bezztrátového, nízkolatenčního a vysokorychlostního přenosu napříč metropolitními a dokonce i regionálními vzdálenostmi.

Ram Velaga, senior viceprezident a generální ředitel skupiny Core Switching Group společnosti Broadcom, zdůrazňuje, že éra umělé inteligence vyžaduje síťová řešení schopná podporovat distribuovaná výpočetní prostředí s více než milionem XPU. Velaga vysvětlil, že rodina Jericho4 je navržena tak, aby umožňovala ethernetové struktury v měřítku umělé inteligence, které přesahují hranice jednotlivých datových center, a podporovala tak dálkový transport RoCE (RDMA over Converged Ethernet), pokročilé řízení přetížení a vysoce efektivní propojení.

Hlavní vlastnosti a odlišnosti

Řada Jericho4 je navržena pro horizontální škálování napříč datovými centry a poskytuje řadu funkcí, které splňují specifické potřeby úloh umělé inteligence.

• Škálovatelná kapacita 51.2 Tb/s s hlubokou vyrovnávací pamětí: Řada Jericho4 nabízí ohromující přepínací kapacitu 51.2 Tb/s, která patří k nejvyšším v oboru. Tato propustnost je klíčová pro úlohy umělé inteligence, které vyžadují přesun velkých objemů dat mezi tisíci GPU nebo akcelerátory. Funkce „hlubokého ukládání do vyrovnávací paměti“ umožňuje zvládat významné objemy dat bez ztráty paketů, což zajišťuje vysoký výkon a spolehlivost při distribuovaném trénování umělé inteligence, a to i v případě přetížení sítě.
• Rozhraní 3.2T HyperPort: HyperPort kombinuje čtyři 800gigabitové ethernetové (800GE) porty do jediného 3.2terabitového (3.2T) kanálu, což zjednodušuje návrh a správu sítě. Tím se snižuje počet potřebných spojení mezi přepínači a servery a zároveň se minimalizuje přeskupování paketů a neefektivita sítě. Výsledkem je, že uživatelé mohou dosáhnout až o 40 % rychlejšího dokončení úloh a až o 70 % lepšího využití sítě, což vede k rychlejšímu trénování modelů umělé inteligence a efektivnějšímu využívání výpočetních zdrojů.
• MACsec s linkovou rychlostí a více než 200 tisíci bezpečnostními politikami: MACsec (Media Access Control Security) je standard pro šifrování dat na ethernetové vrstvě. Přepínač Jericho4 podporuje MACsec při plné rychlosti linky, což umožňuje šifrování a dešifrování bez ztráty výkonu. Díky podpoře více než 200 000 bezpečnostních politik umožňuje detailní bezpečnostní kontroly, které jsou klíčové pro prostředí s více nájemci neboli „NeoCloudy“. To zajišťuje ochranu citlivých dat umělé inteligence při jejich rychlém pohybu napříč rozsáhlými sdílenými infrastrukturami.
• Komplexní řízení přetížení a bezztrátová doprava RoCE: Na pracovní zátěž umělé inteligence má vliv přetížení sítě a ztráta paketů, což může zpomalit distribuované trénování. Architektura Jericho4 s hlubokou vyrovnávací pamětí a hardwarové řízení přetížení umožňují bezztrátový přenos pomocí RoCE (RDMA over Converged Ethernet), což zajišťuje spolehlivý přenos dat na vzdálenosti větší než 100 kilometrů. Tyto funkce jsou klíčové pro propojení distribuovaných datových center nebo clusterů umělé inteligence a poskytují konzistentní výkon a spolehlivost.
• 40% snížení výkonu na bit: Energetická účinnost je klíčová, protože datová centra se rozrůstají, aby podporovala větší modely umělé inteligence a více uživatelů. Architektura Jericho4 dosahuje 40% snížení spotřeby energie na bit přenesených dat ve srovnání s předchozími generacemi. To snižuje provozní náklady a pomáhá organizacím plnit cíle udržitelnosti, což umožňuje škálování infrastruktury umělé inteligence bez výrazného zvýšení spotřeby energie.
• 200G PAM4 SerDes s dosahem špičky v oboru: Technologie SerDes (Serializer/Deserializer) umožňuje vysokorychlostní přenos dat přes měděné nebo optické linky. Čip Jericho4 podporuje technologii SerDes 200G PAM4, což umožňuje rychlejší přenos dat na delší vzdálenosti než předchozí technologie. To umožňuje propojení přepínačů a serverů napříč většími kampusy datových center nebo mezi budovami bez kompromisů v rychlosti nebo spolehlivosti.
• Konsorcium Ultra Ethernet DodržováníKonsorcium Ultra Ethernet propaguje ethernetové standardy pro vysoce výkonné výpočty a umělou inteligenci. Soulad Jericho4 s normami zajišťuje bezproblémovou kompatibilitu s dalšími zařízeními Ultra Ethernet, chrání investice a připravuje síť na budoucí úlohy umělé inteligence a cloudu.
• Konečný bod Agnostik: Jericho4 je kompatibilní s jakoukoli síťovou kartou (NIC) nebo XPU, jako jsou GPU nebo DPU, které používají Ethernet. Tato flexibilita umožňuje organizacím integrovat různé výpočetní a úložné koncové body a podporovat tak rozmanité architektury umělé inteligence a řešení od dodavatelů, aniž by byly omezeny na jeden ekosystém.
• Sítě umělé inteligence: Architektura Jericho4 vyniká svou schopností spravovat perzistentní, vysokorychlostní datové toky s využitím umělé inteligence. Využitím technologie HyperPort odstraňuje tradiční úzká hrdla a neefektivitu a poskytuje vyšší propustnost a nižší latenci pro škálovatelné sítě s umělou inteligencí. To je obzvláště důležité, protože organizace nasazují úlohy umělé inteligence napříč kampusy, metropolitními oblastmi a dokonce i širšími geografickými oblastmi.

Nasazení v terénu prokázala spolehlivost a efektivitu technologie Jericho4, která podporuje škálovatelné návrhy umělé inteligence na vzdálenosti větší než 100 km. To etablovalo Jericho4 jako klíčovou technologii pro distribuovanou infrastrukturu umělé inteligence nové generace.

Jeden systém Jericho4 lze škálovat až na 36 000 HyperPortů, z nichž každý pracuje s rychlostí 3.2 Tb/s, s hlubokým ukládáním do vyrovnávací paměti, MACsec s linkovou rychlostí a přenosem RoCE na vzdálenosti větší než 100 kilometrů. Možnosti nasazení zahrnují systémy založené na šasi s linkovými kartami Jericho, distribuované plánované sítě (DSF) s listy Jericho a páteřmi Ramon a pevné centralizované systémy, přičemž všechny využívají architekturu Broadcomu s vysokým radixem, nízkou latencí a energetickou úsporností.

Součást komplexní ethernetové platformy umělé inteligence společnosti Broadcom

Jericho4 je klíčovou součástí kompletní platformy Broadcom pro ethernetovou umělou inteligenci, která zahrnuje také:

• Tomahawk 6: Přepínač 102.4 Tb/s pro horizontální škálování s využitím umělé inteligence.
• Tomahawk Ultra: Přepínač s nízkou latencí 51.2 Tb/s pro škálování HPC a umělé inteligence.
• Thorova rodina: Ethernetové síťové karty optimalizované pro umělou inteligenci.
• Produkty fyzické vrstvy: Včetně časovačů, DSP a třetí generace optiky Co-Packaged Optics (CPO).

Tyto produkty společně nabízejí otevřenou a škálovatelnou platformu pro vývoj infrastruktury umělé inteligence založené na Ethernetu v jakémkoli měřítku – od úzce propojených clusterů GPU až po regionální nasazení.

Soutěž

Broadcom Jericho4 vstupuje na konkurenční trh, kde provozovatelé hyperscale datových center a poskytovatelé infrastruktury umělé inteligence usilují o překonání omezení starších řešení InfiniBand a tradičních ethernetových řešení. NVIDIA se svými ethernetovými přepínači Quantum a Spectrum-X založenými na InfiniBandu zůstává dominantním hráčem v oblasti sítí s umělou inteligencí, zejména pro pevně propojené clustery GPU. Otevřenost, cenová dostupnost a podpora ekosystému Ethernetu však podporují posun směrem k ethernetovým sítím umělé inteligence, zejména pro škálovatelná a vícemístná nasazení.

Další konkurenti, jako například Cisco s řadou Nexus a Arista Networks, také výrazně investují do vysoce výkonného ethernetového přepínání optimalizovaného pro umělou inteligenci. Nicméně architektura Broadcomu s hlubokou vyrovnávací pamětí a bezztrátovou architekturou v kombinaci s jeho vedoucím postavením v oblasti inovací v oblasti křemíku a integrace ekosystémů dává Jericho4 přesvědčivou hodnotu – zejména pro organizace, které se snaží vyvinout otevřenou, škálovatelnou a na budoucnost připravenou infrastrukturu umělé inteligence.

Pro více informací navštivte stránku produktu Jericho4 .