亚马逊网络服务 (AWS) 和英伟达 (NVIDIA) 宣布大幅扩展其联合基础设施计划,计划在 2027 年至 2028 年间在 AWS 数据中心部署额外的 2 万个英伟达 GPU。基于双方长达 16 年的工程合作关系,此次扩展合作旨在实现人工智能基础设施的端到端扩展,涵盖加速器容量、主机 CPU 架构、高带宽互连、主权政府部署以及加速数据处理管道。
AWS首席执行官Matt Garman表示:“客户希望能够自由选择最适合其AI工作负载的工具,并且希望确保所有工具都能无缝协作。” NVIDIA创始人兼首席执行官黄仁勋表示,两家公司“已经打造了AI时代最强大的增长引擎之一,而且需求远超预期”,他指出,此次扩张涵盖了GPU、CPU、网络、开放模型以及软件等领域,旨在实现大规模的智能体和物理AI运行。
扩展的 GPU 部署和 EC2 G7 实例
这项为期多年的推广计划将把 2 万个 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU 集成到 AWS 全球基础设施中,专门用于为处理分布式训练、科学模拟、企业自动化和代理工作流的大型 AI 工厂提供支持。
AWS 正在扩展其当前一代 Blackwell 集群,在 Amazon EC2 G7 实例中引入 NVIDIA RTX PRO 4500 Blackwell 服务器版 GPU。AWS 是首家提供由 RTX PRO 4500 加速的实例的主流云服务提供商,与上一代 EC2 G6 实例相比,其 AI 推理性能提升高达 4.6 倍,图形吞吐量提升高达 2.1 倍。为了在这些高密度节点上保持集群范围内的吞吐量和低延迟,两家公司正在合作开发专为大型 GPU 训练集群量身定制的NVIDIA Spectrum 网络优化方案。
NVIDIA Vera CPU 和 NVLink Fusion,搭配定制 HBM
为了满足多步骤智能体人工智能工作负载的计算需求,AWS 和 NVIDIA 正在合作,将基于NVIDIA Vera CPU 的基础设施引入 AWS。NVIDIA 将 Vera 描述为专为下一代人工智能而打造,为 AWS 客户提供高性能 CPU 选项以及加速的基础设施,这与 AWS 提供最广泛的计算选择(从其自主研发的芯片到合作伙伴的 CPU 和加速器)的战略相辅相成。
在互连和内存领域,NVIDIA 和亚马逊旗下的 Annapurna Labs 正在深化围绕 NVIDIA NVLink Fusion 的合作。NVLink Fusion 最初是为下一代 AWS Trainium 处理器推出的,现在正与NVIDIA 的定制高带宽内存 (NVHBM) 技术以及内存供应商合作进行整合。NVIDIA 表示,这种组合将使 Trainium 能够使用速度更快、能效更高的内存,从而使 Annapurna Labs 能够在共享的、可扩展的机架架构中集成 Trainium 芯片和 NVIDIA GPU。
专用于联邦和国家安全工作负载的人工智能工厂
针对政府部门的需求,AWS 和 NVIDIA 正在联合开发专用的 AI 工厂,配备 100,000 万个 GPU,部署在隔离且安全的 AWS 基础设施上。该环境旨在支持敏感的联邦机构和国防部门工作负载,为影响级别 6 (IL6) 及以上的机密数据提供合规性和运行安全性。
核心平台集成:Nitro、数据处理和机器人技术
扩展后的联盟将继续利用AWS技术栈中现有的核心技术集成:
- AWS Nitro 系统和 EFA: 所有基于 NVIDIA GPU 和 Trainium 的 EC2 实例都依赖 AWS Nitro 系统进行卸载虚拟化和硬件安全,并结合弹性结构适配器 (EFA) 网络,以提供线速、低延迟的横向扩展互连。
- 托管开放模型: NVIDIA Nemotron 开放模型系列仍然原生集成到 AWS 中,在 Amazon Bedrock 上作为完全托管的无服务器端点提供,在 Amazon SageMaker 上作为可定制的基础模型提供。
- 硬件加速分析和搜索: Amazon EMR 利用 Amazon EC2 G7 实例和 NVIDIA cuDF 库,与标准 CPU 配置相比,数据处理吞吐量最高可提升 3.7 倍,性价比提升 30%。此外,Amazon OpenSearch Service 通过 NVIDIA CUDA-X cuVS 库利用专用 GPU 进行矢量索引,在托管部署和无服务器部署中,索引构建速度最高可提升 9 倍,而基础设施成本仅为原来的四分之一左右。
- 物理人工智能和机器人自动化: 亚马逊机器人正在整合英伟达的物理人工智能产品组合,包括英伟达 Jetson 边缘计算模块、Omniverse 仿真库和 Isaac 机器人平台。该流程运行在 GPU 加速的 EC2 实例上,支持大规模合成数据生成、仿真、机器人训练、路径优化、功能安全以及用于自动化仓库系统的实物与仿真验证。




Amazon