高通技術公司和亞馬遜達成多代合作協議，旨在為AWS的AI資料中心大規模提供客製化晶片，主要目標是AI推理。該協議將高通的節能處理器、晶片設計和系統級整合與亞馬遜的AI基礎設施相結合，旨在解決超大規模推理運行所帶來的運算、記憶體頻寬、網路和能源方面的限制。雙方均未透露具體部件、交貨日期或財務條款。
客製化晶片和1.6T光連接
除了運算晶片之外，兩家公司還在共同開發用於亞馬遜資料中心網路的高效能光連接方案，解決方案容量已達 1.6T，未來還將推出更多型號。這項工作採用了高通的高速 SerDes 和光 DSP 技術，這些技術與高通在6 月投資者日上發布的Dragonfly C1000 CPU 和 AI300 加速器所採用的連接方案相同。其目的是防止網路頻寬成為推理叢集跨機架擴展的瓶頸。
這種關係也是雙向的。高通計畫深化對AWS人工智慧基礎設施（包括Amazon Bedrock）的使用，以支援其電子設計自動化（EDA）工作負載，其明確目標是縮短晶片設計週期。這意味著AWS的運算能力將用於高通為亞馬遜製造的晶片的建模和驗證工作。
這筆交易傳遞了什麼訊息？
雙方高階主管將此次合作定義為計算和連接技術的協同發展。 「隨著人工智慧需求的加速成長，資料中心基礎設施需要計算和連接技術的雙重進步，才能以更高的效率提供更強大的效能，」高通公司總裁兼執行長克里斯蒂亞諾·阿蒙表示。亞馬遜雲端服務副總裁普拉薩德·卡利亞納拉曼表示，此次合作“建立在牢固的合作夥伴關係基礎之上”，並且“通過在定制芯片和先進連接技術方面的合作，我們正在為客戶提供性能更高、效率更高、成本效益更強的基礎設施。”
這次公告發布之際，高通正大力進軍資料中心領域。 6 月的投資者日上，高通展示了其 CPU、AI200、AI250 和 AI300 推理加速器路線圖以及連接產品組合。 7 月，該公司完成了對 Modular 的收購，為其晶片配備了不依賴 CUDA 的軟體堆疊。 AWS 已透過 Annapurna Labs 設計了自己的 Trainium 和 Inferentia 加速器，因此，高通自主研發的晶片將如何與這些產品並存，目前尚待解答。公告並未提及，但作為全球最大的雲端服務供應商，AWS 的跨代產品承諾無疑是迄今為止高通資料中心業務所展現的最強有力的客戶訊號。
Amazon