NVIDIA uruchomiła pełną produkcję Spectrum-X Ethernet Photonics, swojej platformy przełączników Ethernet z optyką pakietową (CPO). Firma deklaruje korzyści w postaci czterokrotnie mniejszej liczby laserów, pięciokrotnie niższego zużycia energii i dziesięciokrotnie dłuższego średniego czasu między awariami. Na każdym etapie łańcucha dostaw wymieniono pięciu partnerów produkcyjnych odpowiedzialnych za budowę przełącznika. Ten kamień milowy został osiągnięty, gdy platforma obliczeniowa Vera Rubin, dla której została zaprojektowana, zostanie wdrożona do produkcji jeszcze tej jesieni.
Wewnątrz przełącznika optycznego w opakowaniu zbiorczym
Konwencjonalne przełączniki opierają się na wtykowych transceiverach optycznych – dyskretnych modułach, z których każdy posiada własny laser i jest podłączany do panelu przełącznika. Spectrum-X Ethernet Photonics integruje silniki optyczne bezpośrednio przylegające do krzemu przełączającego, zbudowane na współpakietowej optyce z SerDes 200 Gb/s. Usunięcie warstwy wtykowej powoduje czterokrotne zmniejszenie liczby laserów, a mniejsza liczba laserów oznacza mniej dyskretnych komponentów, które mogą ulec awarii w strukturze obejmującej setki tysięcy łączy.
Te punkty awarii sprawiają, że dla większości operatorów wskaźnik niezawodności ma większe znaczenie niż wskaźnik poboru mocy. Dziesięciokrotnie dłuższy średni czas między awariami firmy NVIDIA to deklaracja dotycząca częstotliwości awarii łącza na ścieżce optycznej, a nie przepustowości. Obniżenie zużycia energii cieplnej i elektrycznej w warstwie sieciowej uwalnia również rezerwę mocy w obudowie centrum danych na potrzeby obliczeń akceleracyjnych, co stanowi również podstawę architektury zasilania 800 VDC firmy NVIDIA . Kiedy NVIDIA po raz pierwszy szczegółowo opisała platformę, przedstawiła te same zalety w porównaniu z sieciami wykorzystującymi tradycyjne transceivery, takie jak 5-krotnie lepsza efektywność energetyczna, 5-krotnie dłuższy czas sprawności sztucznej inteligencji i 1.3-krotnie krótszy czas wdrożenia.
Łańcuch dostaw CPO, nazwany etap po etapie
Bardziej nietypowym ujawnieniem jest sam łańcuch produkcyjny, który NVIDIA rozdzielała etapami. TSMC zajmuje się produkcją fotoniki krzemowej. SPIL zajmuje się pakowaniem i testowaniem układów scalonych. Lumentum wytwarza układy laserowe, a TFC Communication buduje podzespoły modułów laserowych. Foxconn zajmuje się ostatecznym montażem systemów przełączających. Optyka w obudowach od lat sprawdza się jako technologia, która dobrze wyglądała w demonstracjach i okazała się trudna do wdrożenia w dużych ilościach, więc nazwany łańcuch pięciu dostawców działający w produkcji jest konkretnym sygnałem dojrzałości.
Dostawcy usług chmurowych, m.in. CoreWeave, Lambda, Oracle Cloud Infrastructure, Microsoft Azure, IBM Cloud i Nebius, należą do pierwszych użytkowników integrujących strukturę CPO.
Vera Rubin, platforma będąca siecią
Przełącznik istnieje, aby zasilać Vera Rubin , który, jak NVIDIA powiedziała na GTC Taipei pod koniec maja, wszedł w fazę produkcji na pełną skalę, a dostawy produkcyjne mają rozpocząć się tej jesieni. Reprezentując trzecią generację konstrukcji rackowej NVIDIA MGX, platforma jest zaprojektowana tak, aby zapewnić do 10 razy wyższą przepustowość agentowej AI na dużą skalę w porównaniu z poprzednią generacją architektury Grace Blackwell. Produkcja systemów obejmuje dostawców serwerów Tier 1, w tym Dell Technologies, HPE, Lenovo i Supermicro, a także ASUS, ASRock Rack, Compal, Foxconn, GIGABYTE, Inventec, MSI, Pegatron, Quanta Cloud Technology, Wistron i Wiwynn. Po stronie oprogramowania do przechowywania i infrastruktury, NVIDIA wymienia Cloudian, DDN, Hitachi Vantara, IBM, MinIO, NetApp, Nutanix, VAST Data i WEKA wśród partnerów w produkcji na pełną skalę na platformie.
Na poziomie szafy rack, Vera Rubin NVL72 integruje procesory Vera, procesory graficzne Rubin oraz sieć NVLink szóstej generacji w ujednoliconą kopertę obliczeniową. Aby zapewnić zgodność z wieloma dzierżawcami i ochronę danych korporacyjnych, architektura wykorzystuje pełny stos technologii NVIDIA Confidential Computing. Ta implementacja tworzy środowisko Trusted Execution Environment (TEE) w skali szaf rack, oferujące atestację na poziomie sprzętowym i kompleksowe szyfrowanie z prędkością łącza w szybkich połączeniach, aby zapobiec manipulacjom fizycznym i na poziomie oprogramowania sprzętowego.
„Agentna sztuczna inteligencja to nowy rodzaj obciążenia. Jeden komunikat może rozpocząć tysiącetapową podróż rozumowania, wyszukiwania informacji, korzystania z narzędzi i generowania odpowiedzi” – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. „Vera Rubin została stworzona z myślą o tym momencie” – dodał, opisując ją jako „fabryczny silnik AI, który dostarcza inteligencję na dużą skalę, z wydajnością, efektywnością i bezpieczeństwem niezbędnymi do napędzania kolejnej rewolucji przemysłowej”.
Integracja BlueField-4 DPU dla izolacji wielu najemców
Architektura Vera Rubin wykorzystuje również jednostki przetwarzania danych (DPU) NVIDIA BlueField-4, aby odciążyć główne procesory hosta z obciążeń infrastruktury. Działając z przepustowością łącza sieciowego definiowanego programowo do 800 Gb/s, BlueField-4 zapewnia izolowaną sprzętowo obsługę sieci wielodostępnych, telemetrię i wirtualizację pamięci masowej. Wykorzystując architekturę BlueField-4 Advanced Secure Trusted Resource Architecture, operatorzy klastrów mogą egzekwować szczegółową izolację ruchu, automatyzować egzekwowanie zasad i zarządzać płaszczyznami sterowania w rozproszonych środowiskach na dużą skalę.
Biorąc pod uwagę, że produkcja optyki rozpoczęła się już masowo, a dostawy Rubina mają rozpocząć się jesienią tego roku, praktyczne pytanie przesuwa się z tego, czy sprzęt jest prawdziwy, na to, jak szybko operatorzy będą mogli się na niego przygotować.
Amazon