在GTC大会上发布，并在ISC大会上以AIC（加速器优化虚拟机）形式推出后，NVIDIA A100 GPU现已登陆谷歌云。考虑到距离最初发布仅过去一个月左右，GPU如此迅速地登陆主流公有云平台实属不易。谷歌是首个在其加速器优化虚拟机（A2）实例系列下引入A100（或称Ampere GPU）的主流公有云平台。
正如我们在最初发布时所说，NVIDIA 的首款 7nm GPU 是 NVIDIA A100。 A100 基于 NVIDIA 的 Ampere 架构，包含 54 亿个晶体管。 与之前的 NVIDIA 数据中心 GPU 一样，A100 包含 Tensor Core。 张量核心是 GPU 的专用部分，专门设计用于快速执行推理中常用的一种矩阵乘法和加法计算。 新的更强大的 GPU 带来了新的、更强大的 Tensor Cores。 以前，NVIDIA 的 Tensor Cores 最多只能支持 100 位浮点数。 AXNUMX 支持 XNUMX 位浮点运算，精度更高。
一些云用例需要 GPU 可以提供的计算能力类型，特别是人工智能训练和推理、数据分析、科学计算、基因组学、边缘视频分析、5G 服务等。 新的 NVIDIA A100 GPU 可以将训练和推理性能提升 20 倍于其前身，使其成为上述目标的理想选择。
Google Compute Engine 将利用 A100 实现多种用途，从扩展 AI 训练和科学计算，扩展推理应用程序，到实现实时对话式 AI。 新实例 A2 VM 可以处理各种规模的工作负载。 该实例将在支持 CUDA 的机器学习训练和推理、数据分析以及高性能计算中发挥作用。 对于大型工作负载，Google 提供了 a2-megagpu-16g 实例，它配备了 16 个 A100 GPU，提供总共 640GB 的 GPU 内存和 1.3TB 的系统内存，所有这些都通过 NVSwitch 连接，聚合速度高达 9.6TB/s带宽。 对于不需要那么多功率的客户，也会有更小的 A2 VM。
在不久的将来，谷歌云将推出 A100 支持谷歌 Kubernetes Engine、Cloud AI Platform 和其他谷歌云服务。
Amazon