高通技术公司和亚马逊达成一项多代合作协议，旨在为AWS的AI数据中心大规模提供定制芯片，主要目标是AI推理。该协议将高通的节能处理器、芯片设计和系统级集成与亚马逊的AI基础设施相结合，旨在解决超大规模推理运行所带来的计算、内存带宽、网络和能源方面的限制。双方均未透露具体部件、交付日期或财务条款。
定制芯片和1.6T光连接
除了计算芯片之外，两家公司还在共同开发用于亚马逊数据中心网络的高性能光连接方案，解决方案容量已达 1.6T，未来还将推出更多型号。这项工作采用了高通的高速 SerDes 和光 DSP 技术，这些技术与高通在6 月份投资者日上发布的Dragonfly C1000 CPU 和 AI300 加速器所采用的连接方案相同。其目的是防止网络带宽成为推理集群跨机架扩展的瓶颈。
这种关系也是双向的。高通计划深化对AWS人工智能基础设施（包括Amazon Bedrock）的使用，以支持其电子设计自动化（EDA）工作负载，其明确目标是缩短芯片设计周期。这意味着AWS的计算能力将用于高通为亚马逊制造的芯片的建模和验证工作。
这笔交易传递了什么信息？
双方高管将此次合作定义为计算和连接技术的协同发展。“随着人工智能需求的加速增长，数据中心基础设施需要计算和连接技术的双重进步，才能以更高的效率提供更强大的性能，”高通公司总裁兼首席执行官克里斯蒂亚诺·阿蒙表示。亚马逊云服务副总裁普拉萨德·卡利亚纳拉曼表示，此次合作“建立在牢固的合作伙伴关系基础之上”，并且“通过在定制芯片和先进连接技术方面的合作，我们正在为客户提供性能更高、效率更高、成本效益更强的基础设施。”
此次公告发布之际，高通正大力进军数据中心领域。6 月的投资者日上，高通展示了其 CPU、AI200、AI250 和 AI300 推理加速器路线图以及连接产品组合。7 月，该公司完成了对 Modular 的收购，为其芯片配备了不依赖 CUDA 的软件栈。AWS 已通过 Annapurna Labs 设计了自己的 Trainium 和 Inferentia 加速器，因此，高通自主研发的芯片将如何与这些产品并存，目前尚待解答。公告并未提及，但作为全球最大的云服务提供商，AWS 的跨代产品承诺无疑是迄今为止高通数据中心业务所展现的最强有力的客户信号。
Amazon