Astera Labs heeft Orion aangekondigd, een referentieontwerp op rackschaal waarmee een neocloud of onderneming de GPU's en CPU's kan kiezen nadat het rack is gebouwd. Accelerators worden geleverd als PCIe-insteekkaarten en een PCIe-switchfabric met 320 lanes schaalt een pod van 8 tot 160 van deze kaarten, zodat een operator het rack eenmalig kan implementeren en de rekenkracht kan aanpassen aan veranderende prijzen, levertijden en workloads. Astera Labs bouwt de racks niet zelf; OEM- en ODM-partners zullen ze produceren en verkopen, waarbij de eerste ontwerpen in het eerste kwartaal van 2027 worden verwacht.
Modulaire podtopologieën en COSMOS-beheer
Orion wordt geleverd als zes referentieontwerpen die als compleet rack of afzonderlijk kunnen worden aangeschaft: de Orion-CT compute tray met acht accelerators en CPU-, GPU- of XPU-opties; de Orion-FT fabric tray die trays verbindt in zowel scale-up als scale-out topologieën; het Orion-CB compute board, dat acht accelerators en hun randapparatuur onder één fabric switch plaatst; het Orion-LB link board dat de fabric tussen boards, trays en racks transporteert; en de Orion-MT memory tray, die naar verwachting binnenkort beschikbaar komt voor fabric-attached KV cache offload nabij de GPU. De scale-up fabric draait momenteel op PCIe 6 en Astera Labs geeft aan dat UALink op de roadmap staat.
De presentatie is gericht op de economische aspecten van inferentie, waarbij Astera Labs betoogt dat operators zich moeten vastleggen op acceleratorcapaciteit lang voordat ze weten welke onderdelen beschikbaar of betaalbaar zullen zijn, en dat een rack dat aan één platform is gekoppeld, dat risico gedurende zijn hele levensduur met zich meedraagt. De fabric van Orion voegt In-Network Compute en Hypercast toe voor collectief verkeer, en het bedrijf zegt dat het combineerbare PCIe-ontwerp ervoor zorgt dat dezelfde accelerator meer tokens per seconde kan leveren door hem constant bezig te houden, hoewel er nog geen doorvoercijfers voor een gebouwd rack zijn gepubliceerd.
COSMOS Rack Manager en COSMOS Fabric Manager verzorgen de ontdekking, telemetrie, diagnostiek, RAS, fabric routing, firmware- en lifecyclemanagement en optimalisatie-API's voor elke link in het rack. "We betreden een nieuw tijdperk van AI-inferentie, waarin operators worden beoordeeld op de waarde die ze leveren per dollar, niet op de hardware in hun racks", aldus Pravin Patel, vicepresident en algemeen directeur van de AI Platform Solutions Group bij Astera Labs. "Orion biedt cloudproviders voor AI-inferentie een productieklare, rekenkracht-onafhankelijke architectuur, zodat ze snel inferentiecapaciteit online kunnen brengen, resultaatgerichte prijzen kunnen aanbieden aan hun klanten en zich kunnen aanpassen aan de evolutie van de industrie en het computerlandschap."
Een Orion-rack met verwisselbare, vooraf gevalideerde rekenmodules in verschillende CPU- en acceleratorconfiguraties staat tot en met 15 oktober op stand B34 van de OCP Global Summit in San Jose. Op dezelfde beurs presenteerde AMD ook zijn Helion-rackontwerp.
Aries PCIe 7 signaalconditioneringsportfolio
Vier dagen eerder, op 8 oktober, kondigde Astera Labs Aries 7 aan, naar eigen zeggen het eerste PCIe 7-signaalconditioneringsportfolio in de branche dat zowel koperen als optische verbindingen omvat. De productfamilie omvat slimme retimers, slimme redrivers, slimme kabelmodules, slimme optische drivers en optische transimpedantieversterkers, met een bereik van centimeters printplaatsporen tot meer dan 50 meter over optische kabel tussen racks. Elke verdubbeling van de PCIe-datasnelheid verkleint de signaalmarge, en een enkele instabiele verbinding kan een accelerator uitschakelen. Dit is precies het probleem dat de retimer-markt altijd, generatie na generatie, heeft opgelost.
De Aries 7 retimers en redrivers volgen de OCP Signal Conditioner Standard Footprint, waardoor een printplaat die voor de ene is ontworpen, later ook de andere kan ondersteunen wanneer de vereisten voor traceverlies, latentie en stroomverbruik zijn gestabiliseerd. De optische drivers en TIA's zijn gericht op optische modules die dicht bij de behuizing passen en op lineaire pluggable optische modules in multi-rack-netwerken. De gehele productfamilie rapporteert aan dezelfde COSMOS-software voor monitoring en tuning. AMD en Intel hebben de Aries retimers in productie gevalideerd voor PCIe 4 tot en met PCIe 6, en beide bedrijven geven aan samen te werken met Astera Labs aan de overgang naar PCIe 7.
"De echte vraag voor architecten is niet retimer versus redriver, of koper versus optisch: het gaat erom of ze beschikken over één complete gereedschapskist met de mogelijkheid om het juiste instrument te kiezen voor hun veranderende behoeften op het gebied van bereik, dichtheid en stroomverbruik", aldus Adit Narasimha, senior vice president van de Signal Connectivity Group bij Astera Labs. De Aries 7 retimers, redrivers, kabelmodules, optische drivers en TIA's zullen naar verwachting in het vierde kwartaal van 2026 beschikbaar komen voor geselecteerde hyperscale-, OEM- en NPO-klanten, met een bredere beschikbaarheid na platformkwalificatie. Astera Labs heeft nog geen gegevens gepubliceerd over de datasnelheden per lane, het stroomverbruik of de prijzen van de Aries 7-onderdelen.
Amazon