Společnost Astera Labs oznámila Orion, referenční návrh pro škálování v racku, který umožňuje neocloudovým společnostem nebo podnikům vybrat si grafické a procesorové karty (GPU) a procesory (CPU) po sestavení racku. Akcelerátory jsou dodávány jako zásuvné karty PCIe a 320-pásmová přepínací struktura PCIe škáluje pod z 8 na 160 karet, takže operátor může rack nasadit jednou a měnit výpočetní výkon podle změn cen, dodacích lhůt a pracovních zátěží. Astera Labs si racky sama nestaví; vyrábět a prodávat je budou OEM a ODM partneři, přičemž první návrhy by měly být k dispozici v prvním čtvrtletí roku 2027.
Modulární topologie podů a správa COSMOS
Orion se dodává v šesti referenčních designech, které lze zakoupit jako kompletní rack nebo jednotlivě: výpočetní tray Orion-CT s osmi akcelerátory a možnostmi CPU, GPU nebo XPU; fabric tray Orion-FT, který propojuje trayy napříč topologií scale-up a scale-out; výpočetní deska Orion-CB, která umisťuje osm akcelerátorů a jejich periferie pod jeden fabric přepínač; propojovací deska Orion-LB, která přenáší fabric mezi deskami, trayy a racky; a paměťový tray Orion-MT, který je uveden jako brzy dostupný pro odlehčení mezipaměti KV připojené k fabric poblíž GPU. Škálovatelný fabric v současnosti běží na PCIe 6 a společnost Astera Labs uvádí, že UALink je na plánu.
Prezentace je zaměřena na inferenční ekonomii, kde Astera Labs tvrdí, že operátoři se musí zavázat ke kapacitě akcelerátoru dlouho předtím, než vědí, která část bude k dispozici nebo cenově dostupná, a že rack vázaný na jednu platformu nese toto riziko po celou dobu své životnosti. Orionova fabric přidává In-Network Compute a Hypercast pro kolektivní provoz a společnost tvrdí, že kompozibilní design PCIe pomáhá stejnému akcelerátoru dodávat více tokenů za sekundu tím, že ho udržuje vytíženého, ačkoli nezveřejnila žádné údaje o propustnosti pro sestavený rack.
Řešení COSMOS Rack Manager a COSMOS Fabric Manager zvládají vyhledávání, telemetrii, diagnostiku, RAS, směrování fabric, správu firmwaru a životního cyklu a optimalizační API napříč každým spojem v racku. „Vstupujeme do nové éry inference s využitím umělé inteligence, kde jsou operátoři hodnoceni podle tokenů, které dodají za dolar, nikoli podle hardwaru uvnitř jejich racků,“ řekl Pravin Patel, viceprezident a generální ředitel skupiny AI Platform Solutions Group ve společnosti Astera Labs. „Orion poskytuje poskytovatelům cloudových inferencí s využitím umělé inteligence produkční architekturu, která nezávisí na výpočetním výkonu, takže mohou rychle zprovoznit inferenční kapacitu, poskytovat svým zákazníkům ceny založené na výsledcích a přizpůsobovat se vývoji odvětví a výpočetní krajiny.“
Napájený rack Orion s vyměnitelnými, předem ověřenými výpočetními přihrádkami v různých konfiguracích CPU a akcelerátoru bude k vidění na stánku B34 na summitu OCP Global Summit v San Jose do 15. října, což je ta samá akce, na které společnost AMD představila svůj plán racku Helion pro OCP.
Portfolio pro úpravu signálu Aries PCIe 7
O čtyři dny dříve, 8. října, společnost Astera Labs oznámila Aries 7, který označuje za první portfolio úpravy signálu PCIe 7 v oboru, které zahrnuje měděné i optické linky. Řada zahrnuje inteligentní retimery, inteligentní redrivery, inteligentní kabelové moduly, inteligentní optické ovladače a optické transimpedanční zesilovače s dosahem od centimetrů trasy plošných spojů až po více než 50 metrů přes optický kabel mezi racky. Každé zdvojnásobení přenosové rychlosti PCIe snižuje signálovou rezervu a jediná nestabilní linka může vyřadit z provozu akcelerátor, což je problém, který divize retimerů vždy řešila generaci po generaci.
Retimery a redrivery Aries 7 splňují standard OCP Signal Conditioner, takže deska navržená pro jeden typ může později nahradit druhý, jakmile se vyrovnají ztráty signálu, latence a spotřeba energie. Optické budiče a TIA se zaměřují na optiku téměř v pouzdře a lineární zásuvnou optiku napříč vícerackovými sítěmi a celá rodina se reportuje do stejného softwaru COSMOS pro monitorování a ladění. Společnosti AMD a Intel ověřily retimery Aries ve výrobě od PCIe 4 do PCIe 6 a obě společnosti uvádějí, že spolupracují s Astera Labs na přechodu na PCIe 7.
„Skutečnou otázkou pro architekty není mezi retimerem a redriverem, nebo mědí a optickými kabely: jde o to, zda mají k dispozici jednu komplexní sadu nástrojů s možností vybrat si ten správný nástroj pro své vyvíjející se požadavky na dosah, hustotu a výkon,“ řekl Adit Narasimha, senior viceprezident skupiny Signal Connectivity Group ve společnosti Astera Labs. Očekává se, že retimery, redrivery, kabelové moduly, optické ovladače a TIA pro Aries 7 budou ve čtvrtém čtvrtletí roku 2026 otestovány u vybraných zákazníků z řad hyperscale, OEM a NPO, přičemž širší dostupnost bude stanovena na základě kvalifikace platformy. Společnost Astera Labs nezveřejnila datové rychlosti na kanál, výkon ani ceny součástí Aries 7.
Amazon