Broadcom Jericho4: krzemowy układ routingu Ethernet nowej generacji dla centrów danych opartych na sztucznej inteligencji

Firma Broadcom rozpoczęła sprzedaż rodziny przełączników Jericho4, pozycjonując je jako najbardziej zaawansowany układ routingu Ethernet dostępny dla skalowalnej infrastruktury AI w nowoczesnych centrach danych. Zaprojektowany specjalnie z myślą o rosnących wymaganiach rozproszonej infrastruktury AI, Jericho4 oferuje imponującą przepustowość 51.2 Tb/s bezstratnego, głęboko buforowanego Ethernetu. Dzięki temu obciążenia AI można łatwo skalować w szafach rack, klastrach, a nawet w lokalizacjach oddalonych geograficznie, bez utraty niezawodności i wydajności.

Rozproszona sztuczna inteligencja

Modele sztucznej inteligencji szybko przewyższają pojemność i ograniczenia fizyczne poszczególnych centrów danych, ponieważ stale się rozwijają i stają się coraz bardziej złożone. Pojawił się dodatkowy zestaw wyzwań sieciowych ze względu na konieczność dystrybucji jednostek XPU (akceleratorów, takich jak GPU i TPU) w wielu obiektach, z których każdy pobiera megawaty mocy. Należą do nich: bezstratna transmisja o niskim opóźnieniu i dużej przepustowości na odległościach miejskich, a nawet regionalnych.

Ram Velaga, starszy wiceprezes i dyrektor generalny grupy Core Switching Group w Broadcom, podkreśla, że ​​era sztucznej inteligencji wymaga rozwiązań sieciowych zdolnych do obsługi rozproszonych środowisk obliczeniowych z ponad milionem jednostek XPU. Velaga wyjaśnił, że rodzina Jericho4 została zaprojektowana z myślą o umożliwieniu tworzenia struktur Ethernet na skalę AI, wykraczających poza granice poszczególnych centrów danych, obsługujących dalekosiężny transport RoCE (RDMA over Converged Ethernet), zaawansowaną kontrolę przeciążenia oraz wysoce wydajne połączenia międzysieciowe.

Najważniejsze cechy i wyróżniki

Rodzina Jericho4 została stworzona z myślą o skalowaniu w centrach danych i zapewnia szereg funkcji, które spełniają specyficzne potrzeby obciążeń związanych ze sztuczną inteligencją.

• Skalowalna, głęboko buforowana pojemność 51.2 Tbps: Rodzina Jericho4 oferuje imponującą przepustowość przełączania 51.2 Tb/s, jedną z najwyższych w branży. Ta przepustowość ma kluczowe znaczenie dla obciążeń AI wymagających przesyłania dużych wolumenów danych między tysiącami procesorów graficznych lub akceleratorów. Funkcja „głębokiego buforowania” pozwala na zarządzanie znacznymi ilościami danych bez utraty pakietów, gwarantując wysoką wydajność i niezawodność w rozproszonym szkoleniu AI, nawet w przypadku przeciążenia sieci.
• Interfejsy HyperPort 3.2T: HyperPort łączy cztery porty 800 Gigabit Ethernet (800GE) w jeden kanał o przepustowości 3.2 terabita na sekundę (3.2 T), upraszczając projektowanie i zarządzanie siecią. Zmniejsza to liczbę połączeń wymaganych między przełącznikami a serwerami, minimalizując jednocześnie reorganizację pakietów i nieefektywność sieci. W rezultacie użytkownicy mogą osiągnąć nawet o 40% szybsze wykonywanie zadań i nawet o 70% lepsze wykorzystanie sieci, co przekłada się na szybsze szkolenie modelu sztucznej inteligencji i efektywniejsze wykorzystanie zasobów obliczeniowych.
• MACsec o przepływności linii z ponad 200 tys. zasad bezpieczeństwa: MACsec (Media Access Control Security) to standard szyfrowania danych w warstwie Ethernet. Przełącznik Jericho4 obsługuje MACsec z pełną przepustowością łącza, umożliwiając szyfrowanie i deszyfrowanie bez utraty wydajności. Dzięki obsłudze ponad 200 000 polityk bezpieczeństwa, umożliwia on szczegółową kontrolę bezpieczeństwa, co jest kluczowe w środowiskach wielodostępnych, czyli „neo cloudach”. Zapewnia to ochronę wrażliwych danych AI podczas ich szybkiego przesyłania w dużych, współdzielonych infrastrukturach.
• Kompleksowe zarządzanie przeciążeniem i bezstratny transport RoCE: Obciążenia AI są narażone na przeciążenie sieci i utratę pakietów, co może spowolnić rozproszone szkolenie. Głęboko buforowana architektura Jericho4 i sprzętowe zarządzanie przeciążeniem umożliwiają bezstratny transport z wykorzystaniem RoCE (RDMA over Converged Ethernet), zapewniając niezawodną transmisję danych na odległościach przekraczających 100 kilometrów. Funkcje te są kluczowe dla łączenia rozproszonych centrów danych lub klastrów AI, zapewniając spójną wydajność i niezawodność.
• 40% redukcji mocy na bit: Efektywność energetyczna ma kluczowe znaczenie w miarę rozwoju centrów danych, które muszą obsługiwać coraz większe modele AI i większą liczbę użytkowników. Architektura Jericho4 pozwala na redukcję zużycia energii na bit przesyłanych danych o 40% w porównaniu z poprzednimi generacjami. Obniża to koszty operacyjne i pomaga organizacjom w osiąganiu celów zrównoważonego rozwoju, umożliwiając skalowanie infrastruktury AI bez znaczącego wzrostu zużycia energii.
• Moduły pamięci 200G PAM4 SerDes o wiodącym w branży zasięgu: Technologia SerDes (Serializer/Deserializer) umożliwia szybką transmisję danych przez łącza miedziane lub światłowodowe. Układ Jericho4 obsługuje technologię 200G PAM4 SerDes, co pozwala na szybszą transmisję danych na większe odległości niż w przypadku poprzednich technologii. Dzięki temu przełączniki i serwery mogą łączyć się w obrębie większych kampusów centrów danych lub między budynkami bez utraty szybkości i niezawodności.
• Konsorcjum Ultra Ethernet ZgodnośćKonsorcjum Ultra Ethernet promuje standardy Ethernet dla obliczeń o wysokiej wydajności i sztucznej inteligencji. Zgodność Jericho4 z normami zapewnia bezproblemową kompatybilność z innymi urządzeniami Ultra Ethernet, chroniąc inwestycje i zabezpieczając sieć przed przyszłymi obciążeniami związanymi ze sztuczną inteligencją i chmurą.
• Punkt końcowy Agnostyk: Jericho4 jest kompatybilny z dowolną kartą sieciową (NIC) lub XPU, taką jak GPU lub DPU, obsługującą Ethernet. Ta elastyczność pozwala organizacjom integrować różne punkty końcowe obliczeniowe i pamięci masowej, obsługując różnorodne architektury AI i rozwiązania innych dostawców, bez konieczności ograniczania się do jednego ekosystemu.
• Sieciowanie AI: Architektura Jericho4 wyróżnia się możliwością zarządzania ciągłym, wysokoprzepustowym ruchem AI. Wykorzystując technologię HyperPort, eliminuje tradycyjne wąskie gardła i nieefektywności, zapewniając wyższą przepustowość i niższe opóźnienia w skalowalnych sieciach AI. Jest to szczególnie ważne, gdy organizacje wdrażają obciążenia AI w kampusach, obszarach metropolitalnych, a nawet na szerszym obszarze geograficznym.

Wdrożenia terenowe wykazały niezawodność i skuteczność Jericho4, wspierając skalowalne projekty AI na dystansach przekraczających 100 km. To ugruntowuje pozycję Jericho4 jako kluczowej technologii dla rozproszonej infrastruktury AI nowej generacji.

Pojedynczy system Jericho4 może skalować się do 36 000 portów HyperPort, z których każdy działa z przepustowością 3.2 Tb/s, z głębokim buforowaniem, protokołem MACsec o przepływności liniowej i transmisją RoCE na odległości ponad 100 kilometrów. Opcje wdrożenia obejmują systemy oparte na obudowach z kartami liniowymi Jericho, rozproszone struktury planowe (DSF) z liniami Jericho i szkieletami Ramon oraz stałe systemy scentralizowane, wszystkie wykorzystujące architekturę Broadcom o wysokiej rozdzielczości, niskich opóźnieniach i energooszczędności.

Część platformy AI Ethernet typu end-to-end firmy Broadcom

Jericho4 jest kluczowym elementem kompletnej platformy Ethernet AI firmy Broadcom, która obejmuje również:

• Tomahawk 6: Przełącznik o przepustowości 102.4 Tbps umożliwiający skalowanie sztucznej inteligencji w poziomie i w górę.
• Tomahawk Ultra: Przełącznik o niskim opóźnieniu 51.2 Tbps do skalowania rozwiązań HPC i AI.
• Rodzina Thor: Karty sieciowe Ethernet zoptymalizowane pod kątem sztucznej inteligencji.
• Produkty warstwy fizycznej: W tym retimery, procesory DSP i układy optyczne Co-Packaged Optics (CPO) trzeciej generacji.

Razem produkty te oferują otwartą, skalowalną platformę do tworzenia infrastruktury AI opartej na sieci Ethernet w dowolnej skali — od ściśle połączonych klastrów GPU po wdrożenia regionalne.

Konkurs

Jericho4 firmy Broadcom wkracza na konkurencyjny rynek, na którym operatorzy centrów danych o dużej skali i dostawcy infrastruktury AI dążą do pokonania ograniczeń starszych rozwiązań InfiniBand i tradycyjnego Ethernetu. NVIDIA, z przełącznikami Quantum i Spectrum-X opartymi na InfiniBand, nadal jest dominującym graczem w dziedzinie sieci AI, szczególnie w przypadku ściśle powiązanych klastrów GPU. Jednak otwartość, przystępność cenowa i wsparcie ekosystemu Ethernetu napędzają przesunięcie w kierunku struktur AI opartych na Ethernetu, szczególnie w przypadku wdrożeń skalowalnych i obejmujących wiele lokalizacji.

Inni konkurenci, tacy jak Cisco z serią Nexus i Arista Networks, również intensywnie inwestują w wydajne, zoptymalizowane pod kątem sztucznej inteligencji przełączanie Ethernet. Jednak głęboko buforowana, bezstratna architektura Broadcom, w połączeniu z wiodącą pozycją w dziedzinie innowacji krzemowych i integracji ekosystemów, sprawia, że ​​Jericho4 stanowi atrakcyjną propozycję wartości – szczególnie dla organizacji dążących do rozwoju otwartej, skalowalnej i przyszłościowej infrastruktury AI.

Więcej informacji znajdziesz na stronie produktu Jericho4 .