今天，NVIDIA 宣布在其部分全球合作伙伴的帮助下，将推出全新的 NVIDIA HGX A100 系统。 新系统希望通过添加 NVIDIA A100 80GB PCIe GPU、NVIDIA NDR 400G InfiniBand 网络和 NVIDIA Magnum IO GPUDirect 存储软件等 NVIDIA 元素来加速 AI 和 HPC。 这些新的 HGX 系统将由包括源讯、戴尔科技、惠普企业 (HPE)、联想、微软 Azure 和 NetApp 在内的合作伙伴推向市场。
NVIDIA 多年来一直在制造高性能 GPU。 新兴的 AI 市场，尤其是 HPC，已经推动越来越多的超级计算机利用该公司的技术。 NVIDIA 自己在过去几年中一直在使用 DGX 和 HGX 模型制造 HPC 服务器和工作站。 后者将几个 NVIDIA IP 集中在一个屋檐下以获得更好的性能。新系统再次使用 NVIDIA 必须提供的最新和最强大的功能来做到这一点。
NVIDIA A100 80GB PCIe GPU
NVIDIA A100 于去年在 GTC 上发布。 这款全新的 7nm GPU 采用了该公司的 Ampere 架构，包含 54 万个晶体管。 NVIDIA 通过推出 NVIDIA A100 80GB PCIe GPU 迅速改进了产品，将内存增加了一倍。 A100 80GB PCIe GPU 是新 HGX A100 系统的第一部分。 它的大内存容量和高带宽允许在内存中保存更多数据和更大的神经网络。 这意味着更少的节点间通信以及更少的能源消耗。 高内存还允许更高的吞吐量，从而可以更快地获得结果。
如前所述，NVIDIA A100 80GB PCIe GPU 由该公司的 Ampere 架构提供支持。 此架构具有多实例 GPU，也称为 MIG。 MIG 可以为较小的工作负载（即 AI 推理）提供加速。 此功能允许用户在保证 QoS 的情况下缩减计算和内存。
围绕 NVIDIA A100 80GB PCIe GPU 的合作伙伴包括源讯、思科、戴尔科技、富士通、新华三、HPE、浪潮、联想、企鹅计算、QCT 和超微。 有一些云服务也提供该技术，包括 AWS、Azure 和 Oracle。
NVIDIA NDR 400G InfiniBand 网络
NVIDIA HGX A100 系统的第二块拼图是全新的 NVIDIA NDR 400G InfiniBand 交换机系统。这听起来似乎显而易见，但高性能计算 (HPC) 系统确实需要极高的数据吞吐量。几年前，NVIDIA 以近 7 亿美元的价格收购了 Mellanox。自那以后，NVIDIA 一直在稳步推出新产品，同时逐步淘汰 Mellanox 品牌，最终只保留 NVIDIA 品牌。去年，NVIDIA 发布了 NDR 400G InfiniBand，其端口密度是之前的 3 倍，AI 加速性能更是提升了 32 倍。这款交换机系统通过 NVIDIA Quantum-2 固定配置交换机集成到全新的 HGX 系统中。据悉，该系统每个端口可提供 64 个 NDR 400Gb/s InfiniBand 端口，或 128 个 NDR200 端口。
据该公司称，新的 NVIDIA Quantum-2 模块化交换机可提供多达 2,048 个 NDR 400Gb/s InfiniBand 端口（或 4,096 个 NDR200 端口）的可扩展端口配置，总双向吞吐量为每秒 1.64 PB。 与上一代产品相比，性能提高了 5 倍以上，可扩展性提高了 6.5 倍。 使用 DragonFly+ 网络拓扑，用户可以连接到超过一百万个节点。 最后，该公司在其第三代 NVIDIA SHARP 网络计算数据缩减技术中加入了这一技术，据称与前几代产品相比，该技术可以实现 3 倍的 AI 加速。
NVIDIA Quantum-2 开关向后和向前兼容。 制造合作伙伴包括 Atos、DDN、Dell Technologies、Excelero、GIGABYTE、HPE、Lenovo、Penguin、QCT、Supermicro、VAST 和 WekaIO。
Magnum IO GPU直接存储
新的 NVIDIA HDX A100 拼图的最后一块是新的 Magnum IO GPUDirect Storage。 这允许 GPU 内存和存储之间的直接内存访问。 这有几个好处，包括较低的 I/O 延迟、大量使用网络适配器的带宽以及对 CPU 的影响较小。 多个合作伙伴现已推出 Magnum IO GPUDirect Storage，包括 DDN、Dell Technologies、Excelero、HPE、IBM Storage、Micron、NetApp、Pavilion、ScaleFlux、VAST 和 WekaIO。
Amazon