在拉斯维加斯举行的 Oracle AI World 大会上，Oracle 发布了第二轮 Oracle Acceleron 功能更新。一年前，该网络套件首次将专用网络架构、多平面网络、智能网卡和直接数据路径整合到一起，用于 Oracle 云基础设施 (OCI)。此次更新的新功能包括：OCI 共享前端网络上的 RDMA；跨 Acceleron 裸机和虚拟机配置的 NVMe 块存储附件（Oracle 称其块存储性能最高可达原有性能的 3 倍）；将故障转移和负载均衡功能移至 NCCL 和 RCCL 层的集体通信插件；以及扩展到前端流量的多平面网络功能。
“人工智能基础设施在网络摩擦方面容不得半点差错，”Oracle 云基础设施计算与人工智能基础设施执行副总裁 Pradeep Vincent 表示，“当数千个加速器协同工作时，一条拥塞或故障路径的影响可能远远超出单个连接本身。借助 Oracle Acceleron，我们正在构建一个能够通过重新路由流量、从故障中恢复以及帮助客户安全扩展来做出响应的网络。”
前端 RDMA 和 3 倍 NVMe 块存储声明
OCI 的前端网络将 Oracle 数据库、客户计算、块存储和对象存储、SaaS 和 OCI 服务、骨干链路、互联网接入以及本地连接整合在同一架构上，因此 RDMA 历来都运行在专用的后端集群网络上。Oracle Acceleron 高性能架构将 RDMA 部署在该共享前端，用于推理、存储和 HPC 流量。Oracle 表示，该架构支持所有队列对类型和操作，因此现有的 RDMA 应用程序无需更改即可运行。此外，Oracle 还利用前端链路连接不同的 GPU 集群，而后端架构则负责处理每个集群内部的训练。
存储方面，Oracle 表示，新增的 NVMe 块存储连接选项支持全新的 Acceleron 裸机和虚拟机架构，可将 NVMe 块存储性能提升高达 3 倍，尤其适用于 AI、数据库和其他数据密集型工作负载。Oracle 并未公布基准配置、工作负载，也未说明具体指标是吞吐量、IOPS 还是延迟，我们也没有进行测试或审核。此次发布沿用了 Oracle 的标准未来产品免责声明，并未给出任何新功能的可用日期。
RDMA 和 TCP 共享前端会带来拥塞控制问题，因为 RDMA 传输通常使用基于速率的控制，而 TCP 使用基于窗口的控制，一个环路可能会导致另一个环路带宽不足。Oracle 的解决方案是 Acceleron SmartNIC。它使用分层令牌桶来跟踪共享父级令牌桶下 RDMA 和非 RDMA 类的带宽，当令牌不足时，网卡会根据概率标记支持 ECN 的数据包或丢弃其余数据包，从而产生渐进式拥塞信号，并防止机架顶部链路出现拥塞。任何一类数据包都可以从另一类数据包借用未使用的带宽。
为了应对网络内部拥塞，SmartNIC 运行单向延迟拥塞控制，测量前向路径延迟，以避免拥塞的反向路径触发错误信号。当检测到数据流延迟升高时，它会探测三条备用路径，如果其中一条路径更优，则将数据流转移到该路径；如果没有更优路径，则回退到 ECN 标记或丢弃数据。Oracle 表示，该设计只需交换机提供最低限度的 QoS 支持，同时保持主机上标准的内核和 CPU 旁路。
| 能力 | Oracle 声称它能做什么 |
|---|---|
| Oracle Acceleron 高性能网络 | OCI 前端计算上的 RDMA 支持推理、存储和 HPC 工作负载，并支持所有队列对类型和谓词。 |
| 扩展型 NVMe 块存储附件 | Acceleron裸机和虚拟机上的NVMe块存储，块存储性能最高可达3倍（厂商数据）。 |
| Oracle Collective Communications Library 插件 | NCCL 和 RCCL 网络插件，可将集中流量分散到后端多平面网络中，通过拥塞情况进行负载均衡，并在端口和网卡失效时进行故障转移。 |
| 透明前端多平面网络 | 前端 RDMA 流量的路径选择、故障转移和拥塞控制由 SmartNIC 处理。 |
OCCL 将故障转移移至集体层
OCI 的后端多平面网络将多端口网卡连接到多个不相交的网络结构，从而为训练作业提供 n 路冗余。然而，使用这些网络结构需要网卡级别的功能，而这些功能并非始终可用。Oracle Collective Communications Library (CCL) 插件消除了这种依赖性。它是一款 CCL 网络插件，原生支持 NVIDIA NCCL 和 AMD RCCL 插件接口（用于将集体操作转换为网卡传输的层框架），并且在插件内部集成了故障转移、恢复和拥塞感知负载均衡功能，独立于网卡固件和网络拓扑。
在运行过程中，OCCL 将集体流量分配到多个标准可靠连接队列对上，优先将流量发送到吞吐量更高的队列对，并在消息和数据块级别将流量从拥塞路径转移出去。当某个端口或整个网卡发生故障时，它会将集体流量引导到另一个端口或网卡，从而确保作业无需重启即可继续进行。Oracle 认为，这比选择网络路径并监控变化的路由控制器更简单，并且适用于单平面和多平面网络。现在，同样的多平面路径选择和故障转移机制也通过 Oracle 称之为“透明前端多平面网络”的技术应用于前端 RDMA 流量。
此次网络更新还涵盖了 Acceleron 以外的两项内容。OCI Global CDN Connect 提供 OCI 对象存储与 Cloudflare、Fastly、Netskrt 和 Mainstreaming 之间的直接连接，在支持的区域内，符合条件的缓存获取操作可享受零 OCI 出口费用。此外，Oracle 已与 F5 签署了一份不具约束力的谅解备忘录，计划推出 OCI App Defense Web 应用程序和 API 保护服务。
Amazon