Qualcomm Technologies et Amazon ont conclu un accord de collaboration pluriannuelle visant à fournir des puces personnalisées à grande échelle pour les centres de données d'IA d'AWS, l'inférence IA étant la cible principale. Cet accord associe l'efficacité énergétique, la conception de puces et l'intégration système de Qualcomm à l'infrastructure d'IA d'Amazon, et vise à répondre aux contraintes de calcul, de bande passante mémoire, de réseau et d'énergie liées à l'exécution d'inférences à très grande échelle. Aucune des deux entreprises n'a divulgué de détails sur les composants, les dates de livraison ou les conditions financières.
Silicium personnalisé et connectivité optique 1.6T
Au-delà des puces de calcul, les deux entreprises développent conjointement une connectivité optique haute performance pour les réseaux de centres de données d'Amazon, avec des solutions atteignant 1.6 Tbit/s et des générations futures prévues. Ces travaux s'appuient sur les technologies SerDes et DSP optiques haut débit de Qualcomm, le même portefeuille de connectivité que l'entreprise a présenté lors de sa journée investisseurs en juin, aux côtés du processeur Dragonfly C1000 et de l'accélérateur AI300. L'objectif est d'éviter que la bande passante réseau ne devienne un goulot d'étranglement à mesure que les clusters d'inférence s'étendent sur plusieurs racks.
Cette relation fonctionne également dans l'autre sens. Qualcomm prévoit d'intensifier son utilisation de l'infrastructure d'IA d'AWS, notamment Amazon Bedrock, pour ses charges de travail d'automatisation de la conception électronique (EDA), avec pour objectif affiché de raccourcir les cycles de conception des puces. Ainsi, la puissance de calcul d'AWS est mise à contribution pour la modélisation et la vérification des circuits intégrés que Qualcomm conçoit pour Amazon.
Ce que cet accord signifie
Les dirigeants des deux entreprises ont axé l'accord sur le développement conjoint des capacités de calcul et de connectivité. « Face à l'accélération de la demande en IA, l'infrastructure des centres de données devra progresser tant au niveau du calcul que de la connectivité afin d'offrir des performances accrues et une efficacité renforcée », a déclaré Cristiano Amon, président-directeur général de Qualcomm Incorporated. Prasad Kalyanaraman, vice-président d'AWS, a affirmé que cette collaboration « s'appuie sur un partenariat solide » et qu'« en travaillant ensemble sur des puces personnalisées et une connectivité avancée, nous fournissons à nos clients une infrastructure plus performante, plus efficace et plus rentable ».
Cette annonce intervient alors que Qualcomm investit massivement dans les centres de données. Lors de sa journée investisseurs en juin, l'entreprise a présenté un processeur, une feuille de route pour ses accélérateurs d'inférence AI200, AI250 et AI300, ainsi qu'une gamme de solutions de connectivité. En juillet, elle a finalisé l'acquisition de Modular afin de doter ses puces d'une pile logicielle indépendante de CUDA. AWS conçoit déjà ses propres accélérateurs Trainium et Inferentia via Annapurna Labs ; la question qui reste en suspens est donc de savoir comment les puces Qualcomm s'intègrent à cet écosystème. Le communiqué ne le précise pas, mais cet engagement plurigénérationnel du plus grand fournisseur de cloud constitue à ce jour le signal client le plus fort envoyé par Qualcomm à son activité de centres de données.
Amazon