Qualcomm Technologies i Amazon nawiązały wielopokoleniową współpracę, aby dostarczać dostosowane do potrzeb skalowalności rozwiązania krzemowe dla centrów danych AI AWS, z inferencją AI jako głównym celem. Umowa łączy energooszczędne przetwarzanie Qualcomm, projekt krzemu i integrację na poziomie systemowym z infrastrukturą AI Amazon i jest ukierunkowana na ograniczenia obliczeniowe, przepustowość pamięci, sieci i zużycie energii, które wynikają z uruchamiania inferencji na ogromną skalę. Żadna z firm nie ujawniła konkretnych części, dat dostaw ani warunków finansowych.
Niestandardowy krzem i łączność optyczna 1.6T
Poza krzemem obliczeniowym, obie firmy wspólnie opracowują wysokowydajną łączność optyczną dla sieci centrów danych Amazon, a rozwiązania sięgają 1.6 T, a na mapie drogowej znajdują się przyszłe generacje. Prace te opierają się na szybkich technologiach SerDes i optycznych DSP firmy Qualcomm – tym samym portfolio rozwiązań łączności, które firma zaprezentowała podczas czerwcowego Dnia Inwestora, obok procesora Dragonfly C1000 i akceleratora AI300. Celem jest zapobieżenie sytuacji, w której przepustowość sieci stanie się wąskim gardłem w miarę skalowania klastrów inferencyjnych w szafach.
Relacja ta działa również w drugą stronę. Qualcomm planuje pogłębić wykorzystanie infrastruktury sztucznej inteligencji AWS, w tym Amazon Bedrock, do obsługi obciążeń automatyzacji projektowania elektronicznego (EDA), mając na celu skrócenie cykli projektowania układów scalonych. Dzięki temu zasoby obliczeniowe AWS będą podstawą prac modelowania i weryfikacji dla samego układu scalonego, który Qualcomm będzie budował dla Amazon.
Co sygnalizuje umowa
Kadra kierownicza obu stron sformułowała porozumienie wokół wspólnego rozwoju obliczeń i łączności. „Wraz ze wzrostem zapotrzebowania na sztuczną inteligencję, infrastruktura centrów danych będzie wymagała postępów zarówno w obliczeniach, jak i łączności, aby zapewnić większą wydajność i efektywność” – powiedział Cristiano Amon, prezes i dyrektor generalny Qualcomm Incorporated. Prasad Kalyanaraman, wiceprezes AWS, powiedział, że współpraca „opiera się na silnym fundamencie partnerstwa” i że „dzięki współpracy nad dostosowanymi układami scalonymi i zaawansowaną łącznością, dostarczamy naszym klientom wydajniejszą, bardziej efektywną i ekonomiczną infrastrukturę”.
Ogłoszenie pojawia się w momencie, gdy Qualcomm intensywnie pracuje nad rozwojem centrów danych. Podczas czerwcowego Dnia Inwestora przedstawiono procesor, plan rozwoju akceleratorów inferencyjnych AI200, AI250 i AI300 oraz portfolio rozwiązań łączności, a firma sfinalizowała w lipcu przejęcie Modular, aby zapewnić temu układowi scalonemu stos oprogramowania niezależny od CUDA. AWS projektuje już własne akceleratory Trainium i Inferentia w Annapurna Labs, więc otwarte pozostaje pytanie, gdzie układ scalony stworzony przez Qualcomma pasuje do tych komponentów. Komunikat nie precyzuje tego, ale wielogeneracyjne zaangażowanie największego dostawcy usług chmurowych to najsilniejszy sygnał dla klientów, jaki Qualcomm pokazał do tej pory w segmencie centrów danych.
Amazon