Qualcomm Technologies en Amazon zijn een samenwerking aangegaan voor meerdere generaties om op grote schaal aangepaste chips te leveren voor de AI-datacenters van AWS, met AI-inferentie als primair doel. De overeenkomst combineert Qualcomms energiezuinige processoren, chipontwerp en systeemintegratie met de AI-infrastructuur van Amazon en is gericht op de beperkingen op het gebied van rekenkracht, geheugenbandbreedte, netwerken en energieverbruik die gepaard gaan met het uitvoeren van inferentie op hyperschaal. Geen van beide bedrijven heeft specifieke onderdelen, leveringsdata of financiële voorwaarden bekendgemaakt.
Aangepaste siliciumchip en 1.6T optische connectiviteit
Naast de rekenchips ontwikkelen de twee bedrijven samen hoogwaardige optische connectiviteit voor de datacenternetwerken van Amazon, met oplossingen tot 1.6 Tbps en toekomstige generaties op de planning. Dit werk maakt gebruik van Qualcomms snelle SerDes- en optische DSP-technologieën, dezelfde connectiviteitsportfolio die het bedrijf in juni presenteerde tijdens zijn Investor Day, samen met de Dragonfly C1000 CPU en de AI300-accelerator. Het doel is om te voorkomen dat netwerkbandbreedte de bottleneck wordt naarmate inferentieclusters zich over meerdere racks uitbreiden.
De relatie werkt ook de andere kant op. Qualcomm is van plan om het gebruik van de AWS AI-infrastructuur, inclusief Amazon Bedrock, voor zijn elektronische ontwerpautomatisering (EDA)-workloads te intensiveren, met als doel de ontwerpcycli van chips te verkorten. Daarmee zet Qualcomm de rekenkracht van AWS in voor het modelleren en verifiëren van de chips die het bedrijf voor Amazon gaat produceren.
Wat de deal aangeeft
Leidinggevenden aan beide zijden benadrukten dat de overeenkomst draait om de gezamenlijke ontwikkeling van rekenkracht en connectiviteit. "Naarmate de vraag naar AI toeneemt, zal de infrastructuur van datacenters vooruitgang vereisen op het gebied van zowel rekenkracht als connectiviteit om betere prestaties te leveren met meer efficiëntie", aldus Cristiano Amon, President en CEO van Qualcomm Incorporated. Prasad Kalyanaraman, Vice President bij AWS, zei dat de samenwerking "voortbouwt op een sterke basis van partnerschap" en dat "door samen te werken aan op maat gemaakte chips en geavanceerde connectiviteit, we een beter presterende, efficiëntere en kosteneffectievere infrastructuur leveren voor onze klanten."
De aankondiging komt op een moment dat Qualcomm zich sterk richt op datacenters. Tijdens de Investor Day in juni presenteerde het bedrijf een CPU, een roadmap voor AI200-, AI250- en AI300-inferentieversnellers en een connectiviteitsportfolio. In juli rondde het bedrijf de overname van Modular af, waardoor de chip een softwarestack krijgt die niet afhankelijk is van CUDA. AWS ontwerpt al zijn eigen Trainium- en Inferentia-versnellers via Annapurna Labs, dus de vraag is waar de door Qualcomm ontwikkelde chips zich naast deze componenten zullen positioneren. Het persbericht geeft hier geen uitsluitsel over, maar een meergeneratiecontract met de grootste cloudprovider is tot nu toe het sterkste signaal dat Qualcomms datacenteractiviteiten hebben afgegeven.
Amazon