Szkolenia i wnioskowanie AI na dużą skalę zmieniają sieci centrów danych. Ruch wschód-zachód między GPU/XPU znacznie wzrósł, a starsze, podłączane urządzenia optyczne borykają się z poborem mocy, opóźnieniami i złożonością fizyczną, ponieważ klastry skalują się do dziesiątek tysięcy akceleratorów. Platforma trzeciej generacji Co-Packaged Optics (CPO) firmy Broadcom, Tomahawk 6-Davisson (TH6-Davisson), jest już dostępna, oferując przepustowość przełączania optycznego na poziomie 102.4 Tb/s, podwajając przepustowość dowolnego dostępnego obecnie przełącznika CPO. Dla architektów budujących infrastruktury AI nowej generacji oznacza to znaczną poprawę przepustowości, wydajności i niezawodności łączy.
Zbudowany specjalnie dla sieci AI
TH6-Davisson został zaprojektowany z myślą o realiach współczesnych klastrów AI. Oznacza to stałe, szybkie przepływy w kierunku wschód-zachód, wrażliwość na zakłócenia na łączach oraz konieczność maksymalizacji wykorzystania akceleratorów. Działając z przepustowością 200 Gb/s na kanał, TH6-Davisson podwaja przepustowość łącza na tor i całkowitą przepustowość w porównaniu z poprzednią generacją TH5-Bailly. Zapewnia płynną interoperacyjność z transceiverami opartymi na technologii DR oraz połączeniami optycznymi typu Near-Package (NPO) i CPO z przepustowością 200 Gb/s na kanał. Rezultatem jest proste skalowanie w górę i w dół w przypadku dzisiejszych najnowocześniejszych kart sieciowych, XPU i przełączników strukturalnych.
Z perspektywy wdrażania oznacza to:
- Wyższe efektywne wykorzystanie FLOP-ów dzięki zmniejszeniu przestojów wywołanych przez łącza i przerw w zadaniach.
- Mniejsze opóźnienia między końcami w porównaniu z tradycyjnymi rozwiązaniami typu plug-in dzięki skróceniu ścieżek elektrycznych i minimalizacji kondycjonowania.
- Czystsza obudowa mechaniczna i termiczna przełącznika, ułatwiająca integrację systemu na poziomie szafy i rzędu.
Optyka w opakowaniu zbiorczym: zalety w zakresie mocy i stabilności
Wtykowe układy optyczne generują straty mocy i wprowadzają więcej punktów zmienności wraz ze wzrostem prędkości. TH6-Davisson osadza silniki optyczne bezpośrednio w obudowie współdzielonej z przełącznikiem Ethernet, łącząc technologię Compact Universal Photonic Engine (COUPE) firmy TSMC z zaawansowaną obudową wieloprocesorową na poziomie podłoża. Ta heterogeniczna integracja zmniejsza potrzebę kondycjonowania sygnału, minimalizując straty sygnału i odbicia.
Według Broadcom korzyści obejmują:
- Około 70% mniejsze zużycie energii w połączeniach optycznych w porównaniu z tradycyjnymi złączami typu plug-in. To ponad 3.5-krotnie mniej, co przekłada się na znaczące korzyści w zakresie całkowitego kosztu posiadania (TCO) i zrównoważonego rozwoju dla centrów danych o dużej skali i sztucznej inteligencji.
- Poprawa stabilności łącza poprzez wyeliminowanie zmienności produkcyjnej i testowej, typowej dla transceiverów wtykowych. Jako dowód przytaczane jest wcześniejsze badanie nad trzepotaniem łącza TH5-Bailly; ściślejsza integracja TH6 dodatkowo redukuje liczbę trzepotań, co ma kluczowe znaczenie dla długotrwałych przebiegów szkoleniowych sztucznej inteligencji.
Near Margalit, wiceprezes i dyrektor generalny działu systemów optycznych w firmie Broadcom, przedstawia TH6-Davisson jako czynnik umożliwiający budowę większych i bardziej niezawodnych klastrów AI. Podkreśla korzyści w zakresie stabilności łącza i efektywności energetycznej, które przekładają się na lepsze wykorzystanie akceleratorów, mniej zakłóceń w zadaniach i lepszą ogólną niezawodność. Są to kluczowe czynniki umożliwiające szybsze i bardziej wydajne trenowanie modeli.
Interoperacyjność i dostosowanie standardów
TH6-Davisson został zaprojektowany do pracy w środowiskach heterogenicznych, zapewniając:
- 200 Gbps na łącze, zgodność ze standardem IEEE 802.3, umożliwiająca współpracę 400G/800G.
- Zgodność z optyką DR oraz ekosystemami NPO/CPO z przepustowością 200 Gb/s na kanał.
- Możliwość wymiany w terenie modułów laserowych ELSFP pozwala na uproszczenie serwisowania bez utraty korzyści integracyjnych CPO.
Takie podejście skoncentrowane na standardach jest niezbędne dla zespołów ds. zaopatrzenia i inżynierii sieciowej, które muszą integrować nowe wdrożenia z istniejącym sprzętem 400G i 800G, planując jednocześnie ścieżki modernizacji.
Najważniejsze cechy produktu: TH6-Davisson BCM78919
- 102.4 Tb/s przepustowości przełączania
- 16 silników optycznych Davisson DR o przepustowości 6.4 Tb/s
- Przepustowość łącza 200 Gbps na kanał
- Moduły laserowe ELSFP z możliwością wymiany w terenie
- Skalowanie do 512 jednostek XPU na klaster i do ponad 100 000 jednostek XPU w strukturach dwuwarstwowych przy przepustowości 200 Gb/s na łącze
- Zgodność ze standardem IEEE 802.3; współpraca z obecnymi standardami 400G/800G
Te specyfikacje przekładają się na gęstsze struktury z mniejszą liczbą urządzeń na jednostkę przepustowości, lepsze profile mocy i wyższą oczekiwaną niezawodność realizacji zadań. Te argumenty mają bezpośrednie przełożenie na modele zwrotu z inwestycji (ROI)/całkowitego kosztu posiadania (TCO) w przypadku wdrażania sztucznej inteligencji (AI).
400 Gbps na kanał na pokładzie
Broadcom informuje, że jego platforma CPO czwartej generacji jest w fazie rozwoju, dążąc do przepustowości 400 Gb/s na kanał i dalszego wzrostu efektywności energetycznej. Jeśli uda się zrealizować tę strategię, utrzyma się podwojenie częstotliwości transmisji, przy jednoczesnym dalszym zmniejszaniu liczby watów na bit, co ma kluczowe znaczenie w ograniczonych energetycznie centrach danych o skali AI.
Dostępność:
Broadcom udostępnia obecnie testowe wersje modułu TH6-Davisson BCM78919 klientom i partnerom w ramach wczesnego dostępu, a ogólna dostępność urządzenia zostanie wkrótce ogłoszona.
Optyka w obudowach nadal wydaje się być odpowiednim narzędziem dla sieci ery sztucznej inteligencji. Kompresuje ona ścieżkę elektryczną, odcina zasilanie i stabilizuje łącza dokładnie w momencie, gdy klastry skalują się do sześciocyfrowej wydajności akceleratorów. Deklarowana przez TH6-Davisson przepustowość 102.4 Tb/s i 70% redukcja mocy optycznej wyznaczają ambitne cele.
Amazon