Astera Labs ogłosiła projekt Orion, referencyjny projekt o skali rack, który pozwala neocloud lub przedsiębiorstwu wybrać procesory graficzne i CPU po zbudowaniu szafy. Akceleratory są dostarczane jako karty PCIe, a 320-liniowa struktura przełączników PCIe skaluje moduł z 8 do 160, dzięki czemu operator może wdrożyć szafę raz i wymieniać moc obliczeniową w miarę zmian cen, terminów realizacji i obciążeń. Astera Labs nie buduje szaf samodzielnie; partnerzy OEM i ODM będą je produkować i sprzedawać, a pierwsze projekty mają pojawić się w pierwszym kwartale 2027 roku.
Modułowe topologie modułów i zarządzanie COSMOS
Orion jest dostępny w sześciu projektach referencyjnych, które można kupić w kompletnych szafach rack lub pojedynczo: tacka obliczeniowa Orion-CT z ośmioma akceleratorami i opcjami CPU, GPU lub XPU; tacka Orion-FT, która łączy tacki w topologiach skalowania w górę i w dół; płyta obliczeniowa Orion-CB, która łączy osiem akceleratorów i ich urządzenia peryferyjne pod jednym przełącznikiem strukturalnym; płytka łącząca Orion-LB, która łączy strukturę między płytami, tackami i szafami rack; oraz tacka pamięci Orion-MT, która ma być wkrótce dostępna do odciążania pamięci podręcznej KV podłączonej do struktury w pobliżu GPU. Struktura skalowania działa już teraz na PCIe 6, a Astera Labs twierdzi, że UALink jest na etapie planowania.
Prezentacja ma na celu analizę ekonomii wnioskowania, gdzie Astera Labs argumentuje, że operatorzy muszą zobowiązać się do wykorzystania mocy akceleratora na długo przed tym, zanim dowiedzą się, która część będzie dostępna lub przystępna cenowo, a szafa rack powiązana z jedną platformą niesie ze sobą to ryzyko przez cały okres użytkowania. Struktura Oriona dodaje In-Network Compute i Hypercast do obsługi ruchu zbiorczego, a firma twierdzi, że komponowalna konstrukcja PCIe pomaga temu samemu akceleratorowi dostarczać więcej tokenów na sekundę, utrzymując go w ciągłym ruchu, chociaż nie opublikowała żadnych danych dotyczących przepustowości dla zbudowanej szafy rack.
COSMOS Rack Manager i COSMOS Fabric Manager obsługują wykrywanie, telemetrię, diagnostykę, RAS, routing w strukturze, zarządzanie oprogramowaniem sprzętowym i cyklem życia oraz interfejsy API optymalizacji dla każdego łącza w szafie. „Wkraczamy w nową erę wnioskowania AI, w której operatorzy są oceniani na podstawie tokenów, które dostarczają za dolara, a nie sprzętu w swoich szafach” – powiedział Pravin Patel, wiceprezes i dyrektor generalny AI Platform Solutions Group w Astera Labs. „Orion zapewnia dostawcom chmury obliczeniowej wnioskowania AI architekturę klasy produkcyjnej, niezależną od mocy obliczeniowej, dzięki czemu mogą oni szybko uruchomić możliwości wnioskowania, oferować klientom ceny oparte na wynikach i dostosowywać się do ewolucji branży i środowiska obliczeniowego”.
Zasilana szafa Orion z wymiennymi, wstępnie sprawdzonymi tackami obliczeniowymi w różnych konfiguracjach procesorów i akceleratorów będzie prezentowana na stoisku B34 podczas OCP Global Summit w San Jose do 15 października. To ta sama impreza, na której AMD zaprezentowało swój projekt szafy Helion na OCP.
Portfolio produktów do kondycjonowania sygnału Aries PCIe 7
Cztery dni wcześniej, 8 października, Astera Labs ogłosiła wprowadzenie na rynek Aries 7, pierwszego w branży portfolio kondycjonerów sygnału PCIe 7, obejmującego łącza miedziane i optyczne. Rodzina produktów obejmuje inteligentne retimery, inteligentne redrivery, inteligentne moduły kablowe, inteligentne sterowniki optyczne oraz optyczne wzmacniacze transimpedancyjne, oferując zasięg od centymetrów ścieżki PCB do ponad 50 metrów w kablu optycznym między szafami. Każde podwojenie przepustowości PCIe zmniejsza margines sygnału, a pojedyncze niestabilne łącze może spowodować zatrzymanie akceleratora, co jest problemem, który dział retimerów zawsze rozwiązywał, generacja po generacji.
Retimery i redrivery Aries 7 są zgodne ze standardem OCP Signal Conditioner Standard Footprint, dzięki czemu płyta zaprojektowana dla jednego z nich może później dostosować się do drugiego, gdy straty sygnału, opóźnienia i budżety mocy się ustabilizują. Sterowniki optyczne i układy TIA obsługują optykę zbliżoną do obudowy (near-package) i liniową optykę wtykową w strukturach wielo-rackowych, a cała rodzina układów raportuje do tego samego oprogramowania COSMOS w celu monitorowania i dostrajania. AMD i Intel zatwierdziły retimery Aries w produkcji od PCIe 4 do PCIe 6 i obie firmy deklarują współpracę z Astera Labs nad przejściem na PCIe 7.
„Prawdziwym pytaniem dla architektów nie jest wybór między retimerem a redriverem, ani między miedź a światłowód: chodzi o to, czy dysponują jednym, kompleksowym zestawem narzędzi, z możliwością wyboru odpowiedniego narzędzia do zmieniających się wymagań w zakresie zasięgu, gęstości i mocy” – powiedział Adit Narasimha, starszy wiceprezes ds. łączności sygnałowej w Astera Labs. Oczekuje się, że retimery, redrivery, moduły kablowe oraz sterowniki optyczne i TIA Aries 7 zostaną udostępnione wybranym klientom z sektora hiperskalowalnego, OEM i NPO w czwartym kwartale 2026 roku, a szersza dostępność nastąpi po kwalifikacji platformy. Astera Labs nie opublikowała danych na pasmo, mocy ani cen komponentów Aries 7.
Amazon