Qualcomm Technologies och Amazon har ingått ett samarbete som sträcker sig över flera generationer för att leverera skräddarsydd kisel i stor skala för AWS AI-datacenter, med AI-inferens som det primära målet. Avtalet kopplar Qualcomms energieffektiva bearbetning, kiseldesign och systemnivåintegration med Amazons AI-infrastruktur, och syftar till de beräknings-, minnesbandbredd-, nätverks- och energibegränsningar som följer med att köra inferens i hyperskala volymer. Inget av företagen nämnde specifika delar, leveransdatum eller ekonomiska villkor.
Anpassad kisel och 1.6T optisk anslutning
Utöver beräkningskisel utvecklar de två företagen tillsammans högpresterande optisk anslutning för Amazons datacenternätverk, med lösningar som når 1.6T och framtida generationer på vägen. Det arbetet bygger på Qualcomms höghastighets-SerDes- och optiska DSP-tekniker, samma anslutningsportfölj som företaget presenterade på sin investerardag i juni tillsammans med Dragonfly C1000-processorn och AI300-acceleratorn. Avsikten är att förhindra att nätverksbandbredd blir flaskhalsen när inferenskluster skalas ut över rack.
Samarbetet går också åt andra hållet. Qualcomm planerar att fördjupa sin användning av AWS AI-infrastruktur, inklusive Amazon Bedrock, för sina arbetsbelastningar inom elektronisk designautomation (EDA), med det uttalade målet att förkorta chipdesigncyklerna. Det placerar AWS Compute bakom modellerings- och verifieringsarbetet för just det kisel som Qualcomm kommer att bygga för Amazon.
Vad avtalet signalerar
Chefer på båda sidor utformade avtalet kring gemensamma framsteg inom databehandling och uppkoppling. ”I takt med att efterfrågan på AI accelererar kommer datacenterinfrastruktur att kräva framsteg inom både databehandling och uppkoppling för att leverera bättre prestanda med högre effektivitet”, säger Cristiano Amon, VD och koncernchef för Qualcomm Incorporated. Prasad Kalyanaraman, vice vd på AWS, sa att samarbetet ”bygger på en stark grund av partnerskap” och att ”genom att arbeta tillsammans med anpassad kisel och avancerad uppkoppling levererar vi mer prestandaeffektiv, effektiv och kostnadseffektiv infrastruktur för våra kunder.”
Tillkännagivandet landar samtidigt som Qualcomm satsar hårt på datacentret. Investor Day i juni lade fram en processor, en färdplan med AI200-, AI250- och AI300-inferensacceleratorer, samt en anslutningsportfölj, och företaget slutförde sitt förvärv av Modular i juli för att ge den kiseln en programvarustack som inte är beroende av CUDA. AWS designar redan sina egna Trainium- och Inferentia-acceleratorer genom Annapurna Labs, så den öppna frågan är var Qualcomm-byggt kisel passar in i dessa delar. Pressmeddelandet säger inget om det, men ett flergenerationsåtagande från den största molnleverantören är den starkaste kundsignalen som Qualcomms datacenterverksamhet hittills har visat.
Amazon