Astera Labs hat Orion angekündigt, ein Rack-Scale-Referenzdesign, mit dem Neocloud- oder Enterprise-Anbieter GPUs und CPUs erst nach dem Rackaufbau auswählen können. Die Beschleuniger werden als PCIe-Steckkarten bereitgestellt, und ein PCIe-Switch-Fabric mit 320 Lanes skaliert einen Pod von 8 auf 160 Einheiten. So kann ein Betreiber das Rack einmalig bereitstellen und die Rechenleistung je nach Preis, Lieferzeiten und Workloads anpassen. Astera Labs fertigt die Racks nicht selbst; OEM- und ODM-Partner übernehmen die Produktion und den Vertrieb. Die ersten Designs werden im ersten Quartal 2027 erwartet.
Modulare Pod-Topologien und COSMOS-Management
Orion wird in sechs Referenzdesigns angeboten, die als komplettes Rack oder einzeln erworben werden können: das Orion-CT Compute Tray mit acht Beschleunigern und CPU-, GPU- oder XPU-Optionen; das Orion-FT Fabric Tray zur Verbindung von Trays in Scale-up- und Scale-out-Topologien; das Orion-CB Compute Board, das acht Beschleuniger und deren Peripheriegeräte unter einem Fabric Switch vereint; das Orion-LB Link Board, das die Fabric zwischen Boards, Trays und Racks überträgt; und das Orion-MT Memory Tray, das für Fabric-basiertes KV-Cache-Offloading in GPU-Nähe demnächst verfügbar sein soll. Die Scale-up-Fabric läuft aktuell auf PCIe 6, und Astera Labs gibt an, dass UALink in der Roadmap enthalten ist.
Der Ansatz zielt auf die Wirtschaftlichkeitsanalyse ab. Astera Labs argumentiert, dass Betreiber sich lange vor der Verfügbarkeit und Bezahlbarkeit einzelner Komponenten auf Beschleunigerkapazitäten festlegen müssen und dass ein an eine Plattform gebundenes Rack dieses Risiko über seine gesamte Lebensdauer birgt. Orions Fabric bietet In-Network Compute und Hypercast für kollektiven Datenverkehr. Laut Unternehmen trägt das flexible PCIe-Design dazu bei, dass derselbe Beschleuniger durch höhere Auslastung mehr Token pro Sekunde verarbeiten kann. Allerdings wurden keine Durchsatzwerte für ein fertiges Rack veröffentlicht.
COSMOS Rack Manager und COSMOS Fabric Manager übernehmen die Erkennung, Telemetrie, Diagnose, RAS, Fabric-Routing, Firmware- und Lebenszyklusverwaltung sowie Optimierungs-APIs für jede Verbindung im Rack. „Wir treten in eine neue Ära der KI-Inferenz ein, in der Betreiber nicht mehr an der Hardware in ihren Racks, sondern an den erzielten Ergebnissen pro investiertem Dollar gemessen werden“, so Pravin Patel, Vice President und General Manager der AI Platform Solutions Group bei Astera Labs. „Orion bietet Cloud-Anbietern für KI-Inferenz eine produktionsreife, rechenunabhängige Architektur. So können sie Inferenzkapazität schnell bereitstellen, ihren Kunden ergebnisorientierte Preise anbieten und sich an die Weiterentwicklung der Branche und der Rechenlandschaft anpassen.“
Ein Orion-Rack mit Stromversorgung, austauschbaren, vorvalidierten Recheneinschüben in verschiedenen CPU- und Beschleunigerkonfigurationen ist bis zum 15. Oktober am Stand B34 auf dem OCP Global Summit in San Jose zu sehen, derselben Messe, auf der AMD seinen Helion-Rack-Entwurf auf der OCP präsentierte.
Aries PCIe 7 Signalaufbereitungsportfolio
Vier Tage zuvor, am 8. Oktober, kündigte Astera Labs Aries 7 an, das branchenweit erste Portfolio für PCIe-7-Signalaufbereitung, das sowohl Kupfer- als auch Glasfaserverbindungen unterstützt. Die Produktfamilie umfasst intelligente Retimer, intelligente Redriver, intelligente Kabelmodule, intelligente optische Treiber und optische Transimpedanzverstärker. Die Reichweite reicht von wenigen Zentimetern Leiterbahnlänge auf Leiterplatten bis hin zu über 50 Metern Glasfaserkabel zwischen Racks. Jede Verdopplung der PCIe-Datenrate verringert die Signalreserve, und eine einzige instabile Verbindung kann einen Beschleuniger lahmlegen – ein Problem, das Retimer bisher generationsweise gelöst haben.
Die Aries 7 Retimer und Redriver entsprechen dem OCP Signal Conditioner Standard Footprint. Daher kann eine für einen der beiden Prozessortypen ausgelegte Platine später auch den anderen verwenden, sobald sich die Verluste bei Leiterbahnen, Latenz und Leistungsaufnahme stabilisiert haben. Die optischen Treiber und TIAs sind für gehäusenahe Optiken und lineare steckbare Optiken in Multi-Rack-Architekturen optimiert. Die gesamte Produktfamilie meldet sich zur Überwachung und Optimierung an dieselbe COSMOS-Software. AMD und Intel haben die Aries Retimer in der Produktion für PCIe 4 bis PCIe 6 validiert und arbeiten nach eigenen Angaben mit Astera Labs am Übergang zu PCIe 7.
„Die eigentliche Frage für Architekten lautet nicht Retimer vs. Redriver oder Kupfer vs. Glasfaser, sondern ob ihnen ein umfassendes Werkzeugset zur Verfügung steht, mit dem sie je nach ihren wachsenden Anforderungen an Reichweite, Dichte und Leistungsaufnahme das passende Werkzeug auswählen können“, so Adit Narasimha, Senior Vice President der Signal Connectivity Group bei Astera Labs. Die Aries 7-Komponenten (Retimer, Redriver, Kabelmodule, optische Treiber und TIAs) werden voraussichtlich im vierten Quartal 2026 ausgewählten Hyperscale-, OEM- und NPO-Kunden als Muster ausgeliefert und nach erfolgreicher Plattformqualifizierung breiter verfügbar sein. Astera Labs hat bisher keine Datenraten pro Lane, Leistungsaufnahme oder Preise für die Aries 7-Komponenten veröffentlicht.
Amazon