IBM ogłosił przełomowe badania w dziedzinie technologii optycznej, które obiecują zrewolucjonizować sposób, w jaki centra danych trenują i uruchamiają generatywne modele sztucznej inteligencji. Firma jest pionierem nowatorskiego podejścia do optyki w pakietach (CPO) – technologii nowej generacji, która wykorzystuje łączność opartą na świetle w centrach danych. Projektując i montując pierwszy publicznie zaprezentowany polimerowy falowód optyczny (PWG), który ma napędzać tę innowację, naukowcy IBM dążą do redefinicji sposobu przesyłania danych o dużej przepustowości między układami scalonymi, płytkami drukowanymi i serwerami.
Zdjęcie dzięki uprzejmości Ranovusa
Technologia światłowodowa przesyła ogromne ilości danych na duże odległości, umożliwiając zarządzanie globalnym handlem i komunikacją. Jednak w centrach danych szafy rackowe wymagają miedzianego okablowania sieciowego DAC do zapewnienia łączności. IBM uważa, że taka konfiguracja może tworzyć wąskie gardła, ograniczając prędkość i przepustowość, pozostawiając akceleratory GPU bezczynne przez dłuższy czas podczas rozproszonych procesów szkolenia sztucznej inteligencji. Przełomowe rozwiązanie IBM ma na celu wprowadzenie szybkości i wydajności światłowodów do tych połączeń wewnętrznych, co radykalnie poprawi wydajność i energooszczędność.
Firma IBM zaprezentowała nowy prototyp modułu CPO, wprowadzający szybką łączność optyczną w centrach danych. Badania opublikowane w artykule na portalu arXiv podkreślają, jak ta technologia może radykalnie zwiększyć przepustowość, skrócić przestoje GPU i przyspieszyć trenowanie modeli AI, jednocześnie odpowiadając na rosnące zapotrzebowanie na energię w centrach danych.
Główne zalety optyki w opakowaniach łączonych (CPO)
Zwiększona efektywność energetyczna i redukcja kosztów
Technologia CPO pozwala na ponad pięciokrotne zmniejszenie zużycia energii w porównaniu ze średniej klasy połączeniami elektrycznymi. Ten postęp pozwala również na wydłużenie kabli połączeniowych centrów danych z zaledwie kilku do setek metrów, co znacząco obniża koszty operacyjne.
- Przyspieszone szkolenie AI: Zastępując tradycyjne okablowanie elektryczne łącznością optyczną, CPO może zwiększyć prędkość szkolenia dużych modeli językowych (LLM) nawet pięciokrotnie. Na przykład, może skrócić czas szkolenia LLM z trzech miesięcy do trzech tygodni, a wraz ze skalowaniem modeli i zasobów GPU, zapewnić jeszcze większy wzrost wydajności.
- Bezkonkurencyjne oszczędności energii: IBM szacuje, że każdy model sztucznej inteligencji trenowany przy użyciu CPO może zaoszczędzić równowartość roczne zużycie energii w 5,000 amerykańskich domach, podkreślając transformacyjny wpływ na efektywność energetyczną.
- Bezkonkurencyjna gęstość przepustowości: Moduły CPO oferują do 80 razy większa przepustowość między chipami w porównaniu z połączeniami elektrycznymi. Innowacja IBM pozwala producentom chipów na dodanie sześciokrotnie większej liczby światłowodów na krawędzi krzemowych chipów fotonicznych, co określa się mianem „gęstości nabrzeżnej”, zwiększając ogólną przepustowość centrum danych.
Pionierska technologia światłowodów polimerowych (PWG)
Zespół badawczy IBM zaprojektował układ PWG o wysokiej gęstości z kanałami optycznymi o rozstawie 50 mikrometrów, sprzężonymi adiabatycznie z krzemowymi falowodami fotonicznymi. Ten układ, wykonany z wykorzystaniem standardowych procesów pakowania, jako pierwszy przeszedł rygorystyczne testy wytrzymałościowe, obejmujące wysoką wilgotność, ekstremalne temperatury od -40°C do 125°C oraz wytrzymałość mechaniczną. Układy PWG w stos umożliwiają obsługę do 128 kanałów łączności, oferując niespotykaną dotąd skalowalność.
Ta innowacja wpisuje się w wiodącą pozycję IBM w technologii półprzewodników, bazując na takich osiągnięciach, jak pierwszy układ węzłowy 2 nm, tranzystory nanoarkuszkowe i tranzystory pionowe (VTFET). Technologia CPO wprowadza nowy sposób na zaspokojenie rosnących potrzeb sztucznej inteligencji, przekształcając komunikację pozamodułową z elektrycznej na optyczną i umożliwiając zrównoważone i skalowalne działanie centrów danych.
Wspieranie generatywnego wzrostu AI
Starszy wiceprezes i dyrektor ds. badań IBM, Dario Gil, podkreślił potencjał transformacyjny CPO:
„Ponieważ generatywna sztuczna inteligencja wymaga coraz większej energii i mocy obliczeniowej, centra danych muszą ewoluować – a współpakietowana optyka może sprawić, że te centra danych będą odporne na wyzwania przyszłości. Dzięki temu przełomowi układy scalone przyszłości będą komunikować się w sposób podobny do tego, w jaki światłowody przesyłają dane do i z centrów danych, zapoczątkowując nową erę szybszej i bardziej zrównoważonej komunikacji, która poradzi sobie z obciążeniami sztucznej inteligencji przyszłości”.
Prace IBM nad CPO były prowadzone w Albany w stanie Nowy Jork, gdzie znajduje się niedawno ogłoszone Narodowe Centrum Technologii Półprzewodników (NSTC). Montaż prototypów i testy modułów odbywały się w zakładzie IBM w Bromont w prowincji Quebec, będącym liderem w dziedzinie pakowania układów scalonych. Współpraca ta jest częścią inicjatywy Northeast Semiconductor Corridor, której celem jest wzmocnienie innowacji w dziedzinie półprzewodników w Stanach Zjednoczonych i Kanadzie.
Innowacyjna technologia optyczna IBM w pakiecie stanowi znaczący krok naprzód w rozwoju komunikacji w centrach danych. Dzięki integracji łączności z prędkością światła w szafach rack, technologia CPO obiecuje zapewnić niezrównaną wydajność, przepustowość i oszczędność energii, redefiniując możliwości centrów danych i przygotowując je na rosnące wymagania generatywnej sztucznej inteligencji i nie tylko.
Amazon