Firma Broadcom oficjalnie ogłosiła dostawę przełącznika Tomahawk Ultra Ethernet, produktu, który ma na nowo zdefiniować sieci obliczeniowe o wysokiej wydajności (HPC) i sztuczną inteligencję (AI). Zaprojektowany z myślą o ultraniskich opóźnieniach, wysokiej przepustowości i bezstratnym działaniu, przełącznik Tomahawk Ultra wyznacza nowy standard przełączania Ethernet w wymagających środowiskach technicznych.
Ram Velaga, starszy wiceprezes i dyrektor generalny działu przełączników głównych w Broadcom, podkreślił, że Tomahawk Ultra to efekt wieloletnich prac inżynieryjnych, w które zaangażowano setki specjalistów. Premiera urządzenia podkreśla stałe zaangażowanie firmy Broadcom w rozwój technologii Ethernet dla kolejnej generacji wysokowydajnych i opartych na sztucznej inteligencji obciążeń.
Rozbijanie mitów, redefinicja Ethernetu
Tradycyjnie Ethernet był postrzegany jako technologia o wysokich opóźnieniach i stratach, nieodpowiednia dla najbardziej wymagających klastrów obliczeniowych. Tomahawk Ultra podważa tę opinię, oferując:
- Bardzo niskie opóźnienie: osiąga opóźnienie przełączania na poziomie 250 ns przy pełnej przepustowości 51.2 Tbps, co pozwala na przesyłanie danych w czasie rzeczywistym w ściśle powiązanych środowiskach obliczeniowych.
- Wysoka wydajność: obsługuje przełączanie z szybkością łącza nawet dla najmniejszych pakietów 64-bajtowych, obsługując do 77 miliardów pakietów na sekundę.
- Zoptymalizowane nagłówki Ethernet: rozmiar nagłówka został zmniejszony z 46 bajtów do zaledwie 10 bajtów, przy jednoczesnym zachowaniu pełnej zgodności ze standardem Ethernet, zwiększeniu wydajności sieci i umożliwieniu udoskonaleń specyficznych dla danej aplikacji.
- Struktura bezstratna: wdraża funkcję Link Layer Retry (LLR) i Credit-Based Flow Control (CBFC) w celu wyeliminowania utraty pakietów i zagwarantowania niezawodnego dostarczania danych.
Zaprojektowane specjalnie do skalowania HPC i AI
Tomahawk Ultra jest zoptymalizowany pod kątem wzorców komunikacji o niskim opóźnieniu i wysokiej przepustowości, spotykanych w systemach HPC i klastrach AI. Jego architektura została zaprojektowana z myślą o zapewnieniu przewidywalnej i wysokiej wydajności w symulacjach na dużą skalę, obliczeniach naukowych oraz zsynchronizowanym szkoleniu i wnioskowaniu modeli AI.
W przypadku wdrożenia z technologią Scale-Up Ethernet (SUE) urządzenie Tomahawk Ultra osiąga opóźnienie komunikacji XPU-XPU poniżej 400 ns, wliczając w to czas przesyłania sygnału przełączającego, ustanawiając nowy standard ściśle zsynchronizowanych obliczeń AI na dużą skalę.
Zmniejszenie narzutu nagłówka Ethernet z 46 bajtów do 10 bajtów, przy jednoczesnym zachowaniu zgodności, znacząco zwiększa wydajność sieci. Ten usprawniony, adaptowalny nagłówek zapewnia zarówno elastyczność, jak i poprawę wydajności w szerokim zakresie obciążeń HPC i AI.
Bezstratna struktura dla obciążeń intensywnie wykorzystujących dane
Technologia bezstratnej struktury sieciowej Tomahawk Ultra została opracowana w celu zapobiegania utracie pakietów podczas przesyłania dużych ilości danych. Korzystając z funkcji LLR, przełącznik wykrywa błędy łącza za pomocą funkcji Forward Error Correction (FEC) i automatycznie retransmituje pakiety, unikając strat na poziomie fizycznym. Technologia CBFC dodatkowo zapobiega przepełnieniom bufora, które są częstą przyczyną utraty pakietów. Razem te mechanizmy tworzą prawdziwie bezstratną strukturę sieci Ethernet, zapewniając niezawodność wymaganą przez współczesne aplikacje intensywnie przetwarzające dane.
Istotnym wąskim gardłem w obciążeniach AI i uczenia maszynowego jest obciążenie związane z operacjami zbiorczymi, takimi jak AllReduce, Broadcast i AllGather. Tomahawk Ultra rozwiązuje ten problem, wykonując te operacje bezpośrednio w układzie przełącznika, skracając czas realizacji zadań i maksymalizując wykorzystanie kosztownych zasobów obliczeniowych. Co istotne, funkcja ta działa niezależnie od punktów końcowych, umożliwiając szybką integrację w różnych architekturach systemowych i ekosystemach dostawców.
Trasowanie uwzględniające topologię i otwartość ekosystemu
Przełącznik Tomahawk Ultra został zaprojektowany z zaawansowanym routingiem uwzględniającym topologię, aby obsługiwać topologie HPC, takie jak Dragonfly, Mesh i Torus. Przełącznik jest zgodny ze standardem UEC i wykorzystuje otwartość oraz bogaty ekosystem sieci Ethernet, zapewniając szeroką kompatybilność i gotowość na przyszłość dla ewoluujących architektur centrów danych.
W ramach strategii Broadcom, opartej na technologii Ethernet i skalowaniu AI, firma wprowadziła SUE-Lite, zoptymalizowaną wersję specyfikacji SUE. SUE-Lite jest dostosowany do aplikacji akceleracyjnych wrażliwych na zużycie energii i zajmowaną przestrzeń, zachowując podstawowe funkcje pełnego SUE, takie jak niskie opóźnienia i bezstratność, a jednocześnie dodatkowo zmniejszając rozmiar układu scalonego i pobór mocy interfejsów Ethernet w procesorach i jednostkach obliczeniowych AI XPU. To lekkie podejście upraszcza integrację zgodnych ze standardami struktur Ethernet z platformami AI, promując szersze zastosowanie Ethernetu jako preferowanego połączenia międzysystemowego w architekturach skalowalnych.
Razem z Tomahawk 6 o przepustowości 102.4 Tb/s, Tomahawk Ultra tworzy szkielet zunifikowanej architektury Ethernet, umożliwiając zarówno skalowalne klastry szkoleniowe AI, jak i rozbudowane obliczenia HPC i obciążenia rozproszone.
Dostępność:
Przełącznik jest obecnie przeznaczony do stosowania w klastrach szkoleniowych AI o wielkości szafy oraz w środowiskach superkomputerowych.
Amazon