微软 Azure 已成为首家部署并启用搭载 NVIDIA GB200 AI 处理器的服务器的云服务提供商。Azure 在X 论坛上发布了一篇文章，展示了其定制的 NVIDIA GB200 AI 服务器机架，并补充道：“我们正在对每一层进行优化，以利用 Infiniband 网络和创新的闭环液冷技术，为全球最先进的 AI 模型提供强大支持。”
微软的实施采用了定制设计的服务器机架，每个机架估计装有 32 个 B200 处理器。Azure 开发了一种先进的闭环液体冷却系统来管理这些高性能设备产生的巨大热量。这一设置展示了微软致力于突破人工智能计算界限的决心以及在下一代硬件热管理方面的专业知识。
Blackwell B200 GPU 代表了 AI 处理能力的显著提升。与其前身 H100 相比，B200 具有以下优势：
- FP2.5/INT8 操作性能提高 8 倍（4,500 TFLOPS/TOPS vs 1,980 TOPS）
- 使用 FP9 数据格式，性能达到 4 PFLOPS
这些进步将允许训练复杂的大型语言模型（LLM），并可能彻底改变各个行业的人工智能应用。
微软首席执行官萨蒂亚·纳德拉在另一篇发表于 X 的文章中强调了公司与英伟达的持续合作，他表示：“我们与英伟达的长期合作关系和深度创新将继续引领行业，为最复杂的 AI 工作负载提供动力。”
虽然目前的部署似乎仅用于测试目的，但这表明微软已准备好很快为商业工作负载提供基于 Blackwell 的服务器。有关 Blackwell 服务器产品的更多细节预计将在微软即将于 2024 年 11 月 18 日至 22 日在芝加哥举行的Ignite 大会上公布。
作为首个启用 NVIDIA Blackwell 系统的云提供商，Microsoft Azure 已将自己定位为 AI 基础设施领域的领导者。此举可能会加速更先进的 AI 模型和应用程序的开发，并有可能改变依赖基于云的 AI 服务的各个行业。
这些高密度、高性能计算系统的成功实施也为数据中心设计和冷却技术树立了新标准。随着越来越多的供应商采用类似的技术，我们可能会看到数据中心的建设和运营发生转变，以满足日益增长的人工智能工作负载需求。
Blackwell 服务器的部署预计将在 2024 年底或 2025 年初加速，为人工智能领域的又一次变革奠定基础。微软的早期采用可能会使其在吸引希望利用最先进计算资源的人工智能研究人员和企业方面具有竞争优势。
Amazon