亞馬遜網路服務 (AWS) 和英偉達 (NVIDIA) 宣布大幅擴展其聯合基礎設施計劃，計劃在 2027 年至 2028 年間在 AWS 資料中心部署額外的 2 萬個英偉達 GPU。基於雙方長達 16 年的工程合作關係，此次擴展合作旨在實現人工智慧基礎設施的端到端擴展，涵蓋加速器容量、主機 CPU 架構、高頻寬互連、主權政府部署以及加速資料處理管道。
AWS執行長 Matt Garman表示：「客戶希望能夠自由選擇最適合其AI工作負載的工具，並且希望確保所有工具都能無縫協作。」NVIDIA 創辦人兼執行長黃仁勳表示，兩家公司「已經打造了AI時代最強大的成長引擎之一，而且需求遠超預期」，他指出，此次擴張涵蓋了GPU、CPU、網路、開放模式以及軟體等領域，旨在實現大規模擴張的智能型態和物理運行的智能型態以及軟體等體。
擴充的 GPU 部署和 EC2 G7 執行個體
這項為期多年的推廣計畫將把 2 萬個 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU 整合到 AWS 全球基礎設施中，專門用於為處理分散式訓練、科學模擬、企業自動化和代理工作流程的大型 AI 工廠提供支援。
AWS 正在擴展其當前一代 Blackwell 集群，在 Amazon EC2 G7 執行個體中引入 NVIDIA RTX PRO 4500 Blackwell 伺服器版 GPU。 AWS 是首家提供由 RTX PRO 4500 加速的執行個體的主流雲端服務供應商，與上一代 EC2 G6 執行個體相比，其 AI 推理效能提升高達 4.6 倍，圖形吞吐量提升高達 2.1 倍。為了在這些高密度節點上保持叢集範圍內的吞吐量和低延遲，兩家公司正在合作開發專為大型 GPU 訓練叢集量身定制的NVIDIA Spectrum 網路優化方案。
NVIDIA Vera CPU 和 NVLink Fusion，搭配客製化 HBM
為了滿足多步驟智慧體人工智慧工作負載的運算需求，AWS 和 NVIDIA 正在合作，將基於NVIDIA Vera CPU 的基礎架構引入 AWS。 NVIDIA 將 Vera 描述為專為下一代人工智慧而打造，為 AWS 客戶提供高效能 CPU 選項以及加速的基礎設施，這與 AWS 提供最廣泛的運算選擇（從其自主研發的晶片到合作夥伴的 CPU 和加速器）的策略相輔相成。
在互連和記憶體領域，NVIDIA 和亞馬遜旗下的 Annapurna Labs 正在深化圍繞 NVIDIA NVLink Fusion 的合作。 NVLink Fusion 最初是為下一代 AWS Trainium 處理器推出的，現在正與NVIDIA 的客製化高頻寬記憶體 (NVHBM) 技術以及記憶體供應商合作進行整合。 NVIDIA 表示，這種組合將使 Trainium 能夠使用速度更快、能效更高的內存，從而使 Annapurna Labs 能夠在共享的、可擴展的機架架構中整合 Trainium 晶片和 NVIDIA GPU。
專用於聯邦和國家安全工作負載的人工智慧工廠
針對政府部門的需求，AWS 和 NVIDIA 正在聯合開發專用的 AI 工廠，配備 100,000 萬個 GPU，部署在隔離且安全的 AWS 基礎設施上。該環境旨在支援敏感的聯邦機構和國防部門工作負載，為影響等級 6 (IL6) 及以上的機密資料提供合規性和運作安全性。
核心平台整合：Nitro、資料處理與機器人技術
擴展後的聯盟將繼續利用AWS技術堆疊中現有的核心技術整合：
- AWS Nitro 系統和 EFA： 所有基於 NVIDIA GPU 和 Trainium 的 EC2 執行個體都依賴 AWS Nitro 系統進行卸載虛擬化和硬體安全，並結合彈性結構適配器 (EFA) 網絡，以提供線速、低延遲的橫向擴展互連。
- 託管開放模型： NVIDIA Nemotron 開放模型系列仍然原生整合到 AWS 中，在 Amazon Bedrock 上作為完全託管的無伺服器端點提供，在 Amazon SageMaker 上作為可自訂的基礎模型提供。
- 硬體加速分析和搜尋： Amazon EMR 利用 Amazon EC2 G7 執行個體和 NVIDIA cuDF 庫，與標準 CPU 配置相比，資料處理吞吐量最高可提升 3.7 倍，性價比提升 30%。此外，Amazon OpenSearch Service 透過 NVIDIA CUDA-X cuVS 庫利用專用 GPU 進行向量索引，在託管部署和無伺服器部署中，索引建置速度最高可提升 9 倍，而基礎設施成本僅為原來的四分之一左右。
- 實體人工智慧和機器人自動化： 亞馬遜機器人正在整合英偉達的實體人工智慧產品組合，包括英偉達 Jetson 邊緣運算模組、Omniverse 模擬庫和 Isaac 機器人平台。此流程運行在 GPU 加速的 EC2 執行個體上，支援大規模合成資料產生、模擬、機器人訓練、路徑最佳化、功能安全性以及用於自動化倉庫系統的實體與模擬驗證。
Amazon