NVIDIA 发布了 NVIDIA BlueField-2，继续推进数据处理单元 (DPU) 的发展。NVIDIA BlueField-2 DPU 被誉为数据中心的一体化基础设施，并针对企业云和高性能计算 (HPC) 工作负载进行了优化。BlueField-2 将 NVIDIA ConnectX-6 Dx 网络适配器与一系列 Arm 内核和基础设施专用卸载组件相结合，并提供专用的硬件加速引擎，同时具备完整的软件可编程性。Brian 今年早些时候在他的播客节目中与 NVIDIA 进行了一次讨论。您可以在这里了解更多关于 NVIDIA DPU 的信息。
这些功能令人印象深刻，但首先，让我们看一下 DPU 的演变。 如果您不了解历史，可以跳至 NVIDIA BlueField-2 的详细信息。 它始于 90 年代，当时英特尔 x86 处理器与操作系统相结合，为企业提供了无与伦比的能力。 接下来是客户端/服务器，然后是分布式处理的出现。 软件开发和不断增长的数据库迅速加速，导致数据中心的硬件部署呈爆炸式增长。
2000 年代初，VMware 引入了 ESX 管理程序并将 x86 CPU 虚拟化，允许多个操作系统实例在单个服务器上运行。 VM 不一定是新的； 在创建 ESX 管理程序之前，IBM 在其大型机上运行虚拟机多年。 然而，这种发展导致了数据中心基础设施聚合的增长。
硬件现在是可编程的，开发人员可以编写代码来定义和配置虚拟机，而无需人工干预。 这最终推动了向云计算的迁移。
VMware 意识到其 ESX 平台的成功，并迅速进入存储和网络虚拟化领域。 EMC 也不甘示弱，与 Cisco 合作构建了自己的虚拟化网络和存储解决方案。 一连串的收购发生了。 VMware 开发了集成到其 vSphere 平台中的 vSANS。
这种融合基础设施的发展被称为软件定义数据中心（SDDC）。 微软、VMware、思科和 EMC 等大公司都在争夺 SDDC 市场。 一切都变得可编程：I/O、安全性、操作系统、应用程序等。SDDC 只是一个 CPU 组件，占用了用于其他服务的可用资源。
所有这些融合和可编程性导致了人工智能 (AI) 的发展，其中开发了 GPU 来满足这些图形密集型应用程序的处理要求。 这导致硬件的发展从 CPU 卸载了一些操作。 网络功能（通常是 CPU 密集型）被卸载，NVIDIA 抓住了这个新机会，收购了 Mellanox 以开发智能网络适配器。
GPU 变得更加智能，而智能 NIC 在从整个 SDDC 聚合中移除网络和图形处理方面发挥了关键作用。 最终，DPU 的发展是从 CPU 卸载智能的结果。
新的 NVIDIA BlueField-2 DPU 创建了一个片上系统，结合了多核 CPU、高性能网络接口和可编程加速引擎。
NVIDIA BlueField-2 DPU——肉
CPU v GPU v DPU：是什么让 DPU 与众不同？
DPU 是结合了三个关键元素的新型可编程处理器。 DPU 是片上系统或 SoC，它结合了：
- 行业标准、高性能、软件可编程的多核 CPU，通常基于广泛使用的 Arm 架构，与其他 SoC 组件紧密耦合。
- 一种高性能网络接口，能够以线速或网络其余部分的速度向 GPU 和 CPU 解析、处理和高效传输数据。
- 一组丰富的灵活和可编程的加速引擎，可以卸载和提高人工智能和机器学习、安全、电信和存储等应用程序的性能。
NVIDIA® BlueField®-2 DPU 是首款针对现代云和 HPC 优化的数据中心片上基础设施。 提供广泛的加速软件定义网络、存储、安全和管理服务，能够卸载、加速和隔离数据中心基础设施。 BlueField-200 DPU 配备 2Gb/s 以太网或 InfiniBand 连接，可加速控制平面和数据平面的网络路径，并配备“零信任”安全性以防止数据泄露和网络攻击。
NVIDIA ConnectX®-6 Dx 将网络适配器与一系列 Arm® 内核和特定于基础架构的卸载相结合，提供具有完整软件可编程性的专用硬件加速引擎。 BlueField-2 位于每台服务器的边缘，支持敏捷、安全和高性能的云和人工智能 (AI) 工作负载，并在提高数据中心效率的同时降低 TCO。
NVIDIA DOCA™ 软件框架使开发人员能够为 BlueField-2 DPU 快速创建应用程序和服务。 NVIDIA DOCA 利用 DPU 硬件加速器，提高数据中心的性能、效率和安全性。
NVIDIA BlueField-2 DPU 特性
网络和主机接口 |
存放 |
| 网络接口 | BlueField SNAP – NVMe™ 和 VirtIO-blk |
| 以太网 – 10/25/50/100Gb/s 双端口，或 200Gb/s 单端口 | NVMe-oF™ 加速 |
| InfiniBand – EDR / HDR100 的双端口，或 HDR 的单端口 | 压缩和解压加速 |
| PCI Express接口 | 数据散列和重复数据删除 |
| 8 或 16 条 PCIe Gen 4.0 通道 | 用于直连存储的 M.2 / U.2 连接器 |
| 具有 8 个下行端口的 PCIe 开关分叉 | 社交 |
| ARM/DDR 子系统 | RoCE，零接触 RoCE |
| 臂芯 | 无状态卸载： |
| 多达 8 个 Armv8 A72 内核（64 位）流水线 | TCP/UDP/IP |
| 每 1 个内核 2MB 二级缓存 | LSO/LRO/校验和/RSS/TSS/HDS |
| 6MB L3 高速缓存，具有多种逐出策略 | VLAN 插入/剥离 |
| DDR4 DIMM 支持 | 车联网 |
| 单个 DDR4 DRAM 控制器 | 虚拟网络 |
| 8GB / 16GB / 32GB 板载 DDR4 | 每端口多功能 |
| ECC错误保护支持 | VMware NetQueue 支持 |
| 硬件加速 | 虚拟化层次结构 |
| 安保防护 | 1K 入口和出口 QoS 级别 |
| 使用硬件信任根的安全启动 | 启动选项 |
| 安全固件更新 | 安全启动（RSA 认证） |
| 符合 Cerberus 标准 | 通过以太网远程启动 |
| 正则表达式（RegEx）加速 | 通过 iSCSI 进行远程引导 |
| IPsec/TLS 动态数据加密 | PXE 和 UEFI |
| AES-GCM 128/256 位密钥 | 管理学 |
| AES-XTS 256/512 位静态数据加密 | 1GbE 带外管理端口 |
| SHA 256 位硬件加速 | NC-SI、SMBus 上的 MCTP 和 PCIe 上的 MCTP |
| 硬件公钥加速器 | 用于监视和控制的 PLDM DSP0248 |
| RSA、迪菲-赫尔曼、DSA、ECC、 | 用于固件更新 DSP026 的 PLDM |
| EC-DSA，EC-DH | 用于设备控制和配置的 I2C 接口 |
| 真随机数生成器 (TRNG) | SPI接口到闪存 |
| eMMC 内存控制器 | |
| UART | |
| USB |
用于存储、网络和机器学习的 DPU
让我们来看看新的 BlueField-2 如何处理快速存储技术。 BlueField 为存储平台提供完整的解决方案，例如 NVMe over Fabrics (NVMe-oF)、全闪存阵列 (AFA) 和用于 JBOF 的存储控制器、服务器缓存 (memcached)、分解式机架存储和横向扩展直接-附加存储。 该 DPU 的智能使其成为灵活的选择。
NVIDIA在这里发布了 BlueField-2的出色测试结果。测试环境也包含在博客文章中。
完整的存储解决方案
BlueField-2 将 Arm 内核的处理能力用于存储应用程序，例如使用 NVMe-oF、Ceph、Lustre、iSCSI/TCP 卸载、闪存转换层、数据压缩/解压缩和重复数据删除的全闪存阵列。
在高性能存储阵列中，BlueField-2作为系统的主CPU，处理存储控制器任务和流量终止。 它还可以配置为协处理器，从主机卸载特定的存储任务，将部分存储介质与主机隔离，或者使用 BlueField Arm 内核实现软件定义存储逻辑的抽象。
NVMe over Fabrics 功能
利用 NVMe-oF 的高级功能，基于 BlueField RDMA 的技术可提供与本地存储相当的远程存储访问性能，同时将 CPU 开销降至最低，从而实现高效的分解存储和超融合解决方案。
存储加速
BlueField 内置 PCIe 交换机使客户能够构建独立的存储设备，并将单个 BlueField 连接到多个存储设备，而无需外部交换机。
签名移交
BlueField嵌入式网络控制器支持对T10数据完整性字段/保护信息（T10-DIF/PI）进行硬件检查，从而降低软件开销并加快数据传输到应用程序的速度。签名切换由适配器在入站和出站数据包上处理，从而减轻发起端和目标端软件的负载。
用于网络和安全的 BlueField
无论是作为智能网卡还是独立网络平台，全新的 Bluefield-2 都能高效部署网络应用。Bluefield结合了先进的卸载技术和 Arm 的计算能力，可在线终止网络和安全协议。
BlueField 智能网卡
作为网络适配器，您可以灵活地完全或部分实现数据平面和控制平面，从而更有效地利用计算资源。适配器的可编程性使其能够集成新的数据平面和控制平面功能。
BlueField 安全功能
在安全性方面，集成对称和非对称加密操作的加密卸载功能使其成为实施安全应用的理想选择。安全性已融入数据中心基础设施的基因，从而降低威胁暴露、最大限度地减少风险，并实现对潜在威胁的实时预防、检测和响应。
无痛虚拟化
NVIDIA 的 PCIe SR-IOV 技术将帮助数据中心管理员提高服务器利用率，同时降低成本、功耗和线缆复杂性，从而允许在同一硬件上运行更多虚拟机和租户。这无疑解决了总体拥有成本 (TCO) 方面的担忧。
叠加网络
数据中心运营商利用网络叠加技术（VXLAN、NVGRE、GENEVE）来克服可扩展性障碍。该DPU通过提供封装/解封装叠加协议头的高级卸载引擎，使传统卸载机制能够作用于隧道协议，并卸载NAT路由功能。
用于机器学习环境的 BlueField
当然，NVIDIA 已经通过这款新的 DPU 解决了 AI/ML 市场，为机器学习设备提供具有成本效益的集成解决方案。 可以通过 PCIe Gen 3.0/4.0 接口连接多个 GPU。 凭借其 RDMA 和 GPUDirect® RDMA 技术，BlueField-2 为实时分析和数据洞察提供高效的数据传输。
RDMA加速
网络控制器数据路径硬件利用 RDMA 和 RoCE 技术，以接近零的 CPU 周期提供低延迟和高吞吐量。
用于多 GPU 平台的 BlueField
BlueField-2 通过其集成的 PCIe 交换机支持连接多个 GPU。BlueField支持 PCIe 4.0，可兼容下一代 GPU 设备。
PeerDirect®
PeerDirect 是 Mellanox 的一款产品，它是一种加速通信架构，支持 BlueField 与第三方硬件（例如 GPU（如 NVIDIA GPUDirect RDMA）、协处理器适配器（如 Intel Xeon Phi）或存储适配器）之间的点对点通信。PeerDirect 提供了一种标准化的架构，使设备能够直接通过光纤网络与远程设备通信，从而避免不必要的系统内存复制和 CPU开销，实现数据在设备间的直接复制。
GPUDirect RDMA 技术
图形硬件性能的快速提升，以及GPU可编程性的最新进展，使得图形加速器成为众多应用领域中计算密集型任务的理想平台。由于GPU拥有高核心数和强大的浮点运算能力，因此需要高速网络连接各个平台，以实现GPU间通信的高吞吐量和最低延迟。GPUDirect RDMA是Bluefield-2和NVIDIA GPU中实现的一项技术，它为GPU与高速互连之间的数据交换提供了一条直接路径。
GPUDirect RDMA 可显著提高不同集群节点的GPU 设备之间的通信带宽和通信延迟。
结语
NVIDIA 测试揭示了 BlueField DPU 的以下性能特征：
- 使用较小的 512B I/O 大小进行测试会导致更高的 IOPS 但低于线速吞吐量，而 4KB I/O 大小会导致更高的吞吐量但会降低 IOPS 数量。
- 100% 读取和 100% 写入工作负载提供相似的 IOPS 和吞吐量，而 50/50 混合读取/写入工作负载通过同时使用网络连接的两个方向产生更高的性能。
- 使用 SPDK 导致比内核空间软件更高的性能，但是以更高的服务器 CPU 利用率为代价，这是预期的行为，因为 SPDK 在用户空间中运行并不断轮询。
- 由于 Linux 社区定期添加的存储改进，较新的 Linux 5.15 内核的性能优于 4.18 内核。
总体而言，内部测试结果相当出色。BlueField -2 的 IOPS 达到了 41.5 万，是目前市面上任何其他 DPU 的四倍以上。
标准网络测试结果同样令人印象深刻。该DPU在4KB IOPS方面超过500万次，在NVMe-oF 512KB IOPS方面超过700万次，甚至超过2000万次。如果您希望提升数据中心的整体性能，这款DPU应该能够满足您的需求。
Amazon