Kioxia CD9P-R 是该公司新一代数据中心级 NVMe SSD 的读取密集型产品,也是首款采用 BiCS FLASH 第八代 TLC 闪存的 CD 系列固态硬盘。该系列产品采用 Kioxia 自研的控制器和固件,支持 PCIe 5.0 和 NVMe 2.0,额定性能最高可达 14,800 MB/s 顺序读取速度和 260 万随机读取 IOPS(具体数值取决于容量)。E3.S 型号的容量范围从 1.92TB 到 30.72TB,而 2.5 英寸版本则将容量扩展至 61.44TB。我们评测的这款是 7.68TB 的 E3.S 型号,采用 SED 封装(KCD9DPJE7T68)。
在分析容量表之前,需要了解一个值得注意的细节。铠侠公布的规格参数并非在最高容量,而是在中端容量上达到峰值:7.68TB 和 15.36TB 型号拥有该系列最佳的顺序读取速度(14,800 MB/s)和最佳的随机写入速度(450K IOPS),而 30.72TB 的旗舰型号则分别降至 13,500 MB/s 和 270K IOPS。此外,容量最小的两款产品采用的是上一代 BiCS 第五代 NAND 闪存,而非第八代。换句话说,我们测试的 7.68TB 硬盘充分展现了该平台的全部性能,而追求 30.72TB 最大容量的用户则需要牺牲一部分性能,这种情况并不少见。
Kioxia 的卖点在于 CD9P-R 在 CD8P 基础上的代际提升,而公布的规格表也印证了这一点。上一代 CD8P-R E3.S 容量为 7.68TB,随机写入 IOPS 为 20 万;CD9P-R 则提升至 45 万,提升幅度高达 2.25 倍。顺序读取速度也提升了 23%,从 12,000 MB/s 提升至 14,800 MB/s;随机读取速度提升了 30%,从 200 万 IOPS 提升至 260 万 IOPS。功耗略有增加,从典型值的 21W 提升至 23W,使 CD9P-R 与其他 Gen5 读取密集型固态硬盘处于同一水平。这里讨论的重点在于该硬盘在这些功耗限制下的实际性能表现。
这款硬盘的定位在于其规格参数:CD9P-R 采用单端口、1 DWPD(每日写入量)设计。它不适用于传统的企业级存储阵列,而写入密集型工作负载则应使用 CD9P-V 混合用途版本。这款硬盘专为超大规模和云服务器集群、OLTP 读取层、内容分发以及以读取为主且功耗预算固定的虚拟化环境而设计。它满足了平台的各项预期功能,包括支持 OCP 数据中心 NVMe SSD v2.5(并非所有要求都支持)、断电保护、端到端数据保护、SIE 和 SED 安全选项、50°C 下 2.5 万小时的平均故障间隔时间 (MTTF) 以及五年质保。
KIOXIA CD9P-R 技术规格
下表概述了 KIOXIA CD9P-R 系列 E3.S 外形尺寸的各种容量点,重点介绍了性能指标、耐久性等级、功率和可靠性规格。
| KIOXIA CD9P-R 系列规格 (E3.S) | |||||
| 30.72TB | 15.36TB | 7.68TB | 3.84TB | 1.92TB | |
| 型号 | |||||
| SIE 型号 | KCD9XPJE30T7 | KCD9XPJE15T3 | KCD9XPJE7T68 | KCD9XPJE3T84 | KCD9XPJE1T92 |
| SED 型号 | KCD9DPJE30T7 | KCD9DPJE15T3 | KCD9DPJE7T68 | KCD9DPJE3T84 | KCD9DPJE1T92 |
| 基本规格 | |||||
| 用例 | 阅读密集型(每天 1 行) | ||||
| 外形 | E3.S,厚度 7.5 毫米 | ||||
| 接口/协议 | PCIe 5.0 x4,NVMe 2.0 | ||||
| 最大接口速度 | 128 GT/s(PCIe Gen5 x4) | ||||
| NAND闪存 | KIOXIA BiCS 闪存 3D TLC(第 8 代,容量 7.68TB-30.72TB;第 5 代,容量 1.92TB-3.84TB) | ||||
| OCP 合规性 | OCP 数据中心 NVMe SSD 规范 v2.5(部分) | ||||
| 安保防护 | SIE(消毒即时擦除),SED(TCG Opal & Ruby SSC) | ||||
| 性能(最高) | |||||
| 顺序读取(128KiB,MB/s) | 13,500 | 14,800 | 14,800 | 14,500 | 14,500 |
| 顺序写入(128KiB,MB/s) | 7,000 | 7,000 | 7,000 | 7,000 | 3,600 |
| 随机读取(4KiB,K IOPS) | 2,600 | 2,600 | 2,600 | 2,600 | 2,000 |
| 随机写入(4KiB,K IOPS) | 270 | 450 | 450 | 320 | 160 |
| 电源要求 | |||||
| 电源电压 | 12伏±10%,3.3伏±15% | ||||
| 功率(有效) | 23W 典型值。 | ||||
| 电源(就绪/空闲) | 5W 典型值。 | ||||
| 可靠性 | |||||
| 平均无故障时间 | 2,500,000 小时(0–50°C)| 2,000,000 小时(0–55°C) | ||||
| UBER | < 1 个扇区/1017 读取位 | ||||
| DWPD | 1 | ||||
| 保修政策 | 5年 | ||||
| 数据保护 | 断电保护 (PLP)、端到端数据保护 | ||||
| 尺寸 | |||||
| 厚度 | 7.5毫米 +0.2 / -0.5毫米 | ||||
| 宽度 | 76毫米±0.25毫米 | ||||
| 长度 | 112.75毫米±0.4毫米 | ||||
| 重量 | 最大110g | ||||
| 环境 | |||||
| 温度(工作) | 0°C至75℃, | ||||
| 温度(非工作) | -40°C至85℃, | ||||
| 湿度(工作) | 5%至95%相对湿度 | ||||
| 振动(操作) | 21.27 米/秒² { 2.17 Grms } (5–800 赫兹) | ||||
| 冲击(操作) | 9.8 km/s² { 1,000 G } (0.5 ms) | ||||
KIOXIA CD9P-R 性能
路测平台
本次评测中,我们使用一台运行 Ubuntu 22.04.2 LTS 的戴尔 PowerEdge R760 服务器作为所有工作负载的测试平台。该服务器配备了Serial Cables Gen5 JBOF接口,可广泛兼容 U.2、E1.S、E3.S 和 M.2 固态硬盘。我们的系统配置如下:
- 2 个英特尔至强金牌 6430(32 核,2.1GHz)
- 16个64GB DDR5-4400
- 480GB 戴尔 BOSS 固态硬盘
- 串行电缆 Gen5 JBOF
- 英伟达 L4
驱动器比较
- 帕斯卡里 X200P 7.68TB
- 闪迪 SN861 7.68TB
- Solidigm PS1010 7.68TB
- 金士顿 DC3000ME 7.68TB
- 美光 7600 最大 6.4TB
- Micron 9550 MAX 12.8TB
- Micron 9550 Pro 7.68TB
DLIO 检查点基准
为了评估固态硬盘在人工智能训练环境中的实际性能,我们使用了数据与学习输入/输出(DLIO)基准测试工具。DLIO 由阿贡国家实验室开发,专门用于测试深度学习工作负载中的 I/O 模式。它能够深入了解存储系统如何处理诸如检查点、数据摄取和模型训练等挑战。
下图展示了硬盘如何处理 18 个检查点。在训练机器学习模型时,检查点对于定期保存模型状态至关重要,可以防止在中断或断电期间丢失进度。这种存储需求要求硬盘具备强大的性能,尤其是在持续或高强度工作负载下。我们使用了 2024 年 8 月 13 日发布的 DLIO 基准测试 2.0 版本。
为了确保我们的基准测试能够反映真实场景,我们基于 LLAMA 3.1 405B 模型架构进行了测试。我们使用 torch.save() 实现了检查点机制,用于捕获模型参数、优化器状态和层状态。我们的设置模拟了一个八 GPU 系统,采用了混合并行策略,将四路张量并行和双路流水线并行处理分布在八个 GPU 上。这种配置产生了 1,636GB 的检查点大小,符合训练现代大型语言模型的需求。
从平均测试时间来看,KIOXIA CD9P-R 在第一轮测试中耗时 464.7 秒,第二轮测试中增加到 575.6 秒,第三轮测试中稳定在 572.2 秒。这一表现与大多数对比产品基本一致,它们在最后一轮测试中的耗时大致集中在 553 秒到 590 秒之间。其中,Pascari X200P 的表现尤为突出,耗时高达 674.5 秒。总体而言,CD9P-R 在重复的检查点操作中展现出了可预测的性能扩展性,并在测试中保持了与主流企业级第五代 SSD 的竞争力。
在DLIO Checkpoint基准测试中,截至第12个检查点,KIOXIA CD9P-R 7.68TB硬盘的表现始终是对比组中最稳定的硬盘之一。在第一个检查点,其耗时471.4秒,之后便稳定在560至580秒左右的相对较窄的运行范围内,并在第12个检查点结束时达到569.7秒。在大部分工作负载下,KIOXIA硬盘的性能与Solidigm PS1010、Micron 7600 MAX和Kingston DC3000ME的表现非常接近。
Pascari X200P 的表现明显异常出色,在第 4 个检查点后速度大幅提升,并始终遥遥领先于其他产品,到第 12 个检查点时已接近 690 秒。Micron 9550 MAX 在测试后半段的持续检查点时间最短,最低降至 531.3 秒,最终稳定在 569.1 秒。虽然 CD9P-R 在任何单个检查点都不是最快的,但它避免了部分竞争对手出现的大幅波动,并在整个测试过程中保持了稳定的检查点性能。
FIO性能基准
为了衡量每款 SSD 在常见行业指标上的存储性能,我们利用了 FIO。每块 SSD 都经过相同的测试流程,其中包括一个预处理步骤:使用顺序写入工作负载对硬盘进行两次全盘填充,然后进行稳态性能测量。随着每种被测工作负载类型的变化,我们会根据新的传输大小再次进行预处理填充。
在本节中,我们重点关注以下 FIO 基准:
- 128K 连续
- 64K随机
- 16K随机
- 4K随机
128K 顺序写入(IODepth 16/NumJobs 1)
在 IOD 深度降低至 16 的稳态 128K 顺序写入测试中,整体排名与预处理阶段相比基本保持不变。Micron 9550 Max (12.8TB) 继续以 10,957.9 MB/s 的速度领先,Micron 9550 Pro (7.68TB) 紧随其后,速度为 10,354.6 MB/s。Kingston DC3000ME (7.68TB) 位列第三,速度为 8,477.4 MB/s,Pascari X200P (7.68TB) 紧随其后,速度为 8,369.7 MB/s。
KIOXIA CD9P-R (7.68TB) 的读写速度为 6,912.4 MB/s,排名垫底。Solidigm PS1010 (7.68TB) 的读写速度为 7,126.5 MB/s,SanDisk DC SN861 (7.68TB) 的读写速度为 7,116.5 MB/s,均落后于中游产品,但仍略高于 CD9P-R 和 Micron 7600 Max (6.4TB)(读写速度为 6,960.6 MB/s)。对于一款读取优化的 NVMe 固态硬盘而言,KIOXIA 的读写速度表现稳定且符合预期。
128K 顺序写入延迟 (IODepth 16 / NumJobs 1)
在稳态写入测试中,当 IODepth 为 16 时,所有硬盘的延迟相比预处理条件均显著降低。Micron 9550 Max (12.8TB) 再次以最低的平均延迟(182.2 µs)领先,远超 Micron 9550 Pro (7.68TB) 的 192.9 µs。这两款硬盘均受益于其更高的写入吞吐量,从而能够更高效地处理 I/O 操作。
KIOXIA CD9P-R (7.68TB) 的写入延迟为 289.0 微秒,是该队列深度下该组产品中最高的。Solidigm PS1010 (7.68TB) 的写入延迟为 280.3 微秒,SanDisk DC SN861 (7.68TB) 的写入延迟为 280.7 微秒,略低于 CD9P-R,而 Micron 7600 Max (6.4TB) 的写入延迟为 287.1 微秒。Kingston DC3000ME (7.68TB) 和 Pascari X200P (7.68TB) 的写入延迟分别为 235.6 微秒和 238.6 微秒,处于中等水平。
128K 顺序读取(IODepth 64 / NumJobs 1)
128K 顺序读取测试的结果与写入性能排名完全相反,KIOXIA CD9P-R (7.68TB) 成为该组产品中的佼佼者之一。CD9P-R 的读取速度达到了 14,235.9 MB/s,与 Pascari X200P (7.68TB) 的 14,242.1 MB/s 并列榜首。Solidigm PS1010 (7.68TB) 的读取速度为 14,163.3 MB/s,Micron 9550 Pro (7.68TB) 为 14,050.1 MB/s,Micron 9550 Max (12.8TB) 为 14,047.5 MB/s,这三款产品都集中在前 200 MB/s 的范围内。
金士顿 DC3000ME (7.68TB) 的读写速度为 13,513.8 MB/s,落后于领先者;闪迪 DC SN861 (7.68TB) 的读写速度为 12,631.2 MB/s。美光 7600 Max (6.4TB) 的读写速度为 11,240.5 MB/s,是唯一一款低于 12 GB/s 阈值的硬盘。
128K 顺序读取延迟(IODepth 64 / NumJobs 1)
128K 顺序读取延迟测试结果与带宽测试结果高度吻合。Pascari X200P (7.68TB) 以 561.4 µs 的延迟领先,KIOXIA CD9P-R (7.68TB) 与之基本持平,为 561.7 µs。Solidigm PS1010 (7.68TB) 为 564.5 µs,Micron 9550 Pro (7.68TB) 为 569.0 µs,Micron 9550 Max (12.8TB) 为 569.1 µs,这三款硬盘的延迟均在领先者的 8 µs 范围内,证实了这一级别的硬盘性能瓶颈在于第五代接口带宽,而非内部延迟。
金士顿 DC3000ME (7.68TB) 的延迟为 591.6 µs,SanDisk DC SN861 (7.68TB) 的延迟为 633.0 µs,而 Micron 7600 Max (6.4TB) 的延迟为 711.4 µs,比性能最佳的产品高出 26%,这与其较低的顺序读取吞吐量相符。
64K 随机写入
在完整的 64K 随机写入测试中,KIOXIA CD9P-R (7.68TB) 展现了稳定且令人满意的带宽表现,平均速度在 3-6 GB/s 范围内,并在测试的最高队列深度(IODepth 32 / NumJobs 8)下达到了 6,906 MB/s 的峰值。这使得 CD9P-R 在 64K 写入吞吐量方面处于中等水平,明显落后于峰值超过 10 GB/s 的 Micron 9550 Max (12.8TB),但领先于排名靠后的 Solidigm PS1010 (7.68TB) 和 SanDisk DC SN861 (7.68TB)。Micron 7600 Max (6.4TB) 的表现与之非常接近,达到了类似的峰值,最终略高于 CD9P-R。
64K随机写入延迟
对 KIOXIA CD9P-R (7.68TB) 的 64K 随机写入延迟测试表明,这是一款性能较为均衡的硬盘。在低队列深度下,延迟控制良好,在 IODepth 1 / NumJobs 1 时,延迟低于 100 微秒。随着并发量的增加,延迟在中等队列深度下逐渐上升,在 300-700 微秒范围内波动,然后在队列深度峰值时进一步攀升,达到 2,000 微秒左右。这使得 CD9P-R 在大部分测试中处于中等水平,其性能比 Solidigm PS1010 (7.68TB) 和 Pascari X200P (7.68TB) 更为稳定,后两者在高并发量下延迟峰值高达 4,000-6,000 微秒。
在整个测试过程中,Micron 9550 Max (12.8TB) 的延迟最为稳定,即使在峰值深度下也很少超过 1,700 µs,而 Micron 7600 Max (6.4TB) 和 Micron 9550 Pro (7.68TB) 的表现也相差无几。
64K 随机读取
64K 随机读取测试揭示了 KIOXIA CD9P-R (7.68TB) 的一项显著优势:在低队列深度下拥有卓越的性能。在测试的低端(IODepth 1 / NumJobs 1),CD9P-R 的读取速度约为 1,334 MB/s,凭借其极低的单次 I/O 读取延迟,遥遥领先。这种优势在更低的队列深度范围内依然存在,其性能始终保持在最高水平或接近最高水平。
随着队列深度增加到 8/4-32/4 范围,其他硬盘的性能赶上并超越了 CD9P-R。在最高并发级别下,CD9P-R 的读写速度稳定在 11.0-12.0 GB/s 左右,落后于 Pascari X200P (7.68TB)、Micron 9550 Pro (7.68TB) 和 Micron 9550 Max (12.8TB),后三者的读写速度达到了 13.5-14.2 GB/s。
64K随机读取延迟
64K 随机读取延迟测试证实了 KIOXIA CD9P-R (7.68TB) 在低队列深度下的读取延迟优势。从 IODepth 1 / NumJobs 1 到低并发范围,CD9P-R 的延迟始终保持在同类产品中的最低水平,远低于大多数竞争对手,并且在中等队列深度下也保持在一个较窄的范围内。
随着队列深度超过 32/1 到 16/4 的范围,该组逐渐收敛,到扫描结束时,所有驱动器的延迟都上升到 600 µs 到 1,400 µs 的范围。
16K 随机写入
在 16K 随机写入 IOPS 测试中,KIOXIA CD9P-R (7.68TB) 在测试中段表现出稳定的性能。Micron 9550 Max (12.8TB) 再次占据主导地位,持续保持远超其他产品的 IOPS 性能,在高队列深度下通常能达到 600-690K IOPS,而 Micron 7600 Max (6.4TB) 则保持了 400-450K 的强劲吞吐量。
在大部分测试中,CD9P-R 的性能与 Kingston DC3000ME (7.68TB)、Micron 9550 Pro (7.68TB) 和 SanDisk DC SN861 (7.68TB) 基本持平,在中等写入深度下,IOPS 通常在 200 万到 250 万之间,而在最高并发测试(IODepth 32 / NumJobs 16)下,IOPS 可达 365 万到 440 万。Solidigm PS1010 (7.68TB) 在 16K 随机写入测试中表现最差,经常落后于其他所有硬盘。
16K随机写入延迟
在 16K 随机写入延迟测试中,KIOXIA CD9P-R (7.68TB) 在大部分队列深度范围内始终保持在中低水平。在低队列深度下,该硬盘的延迟低于 50 微秒,并在测试的中等队列深度范围内保持了稳定且可控的延迟。随着队列深度增加到 8/8 至 32/8 范围,所有硬盘的延迟都急剧上升,CD9P-R 的延迟在 500 至 750 微秒之间波动,最终峰值约为 1,165 微秒。
在整个测试过程中,Micron 9550 Max (12.8TB) 的延迟最为稳定,在大多数数据点上都低于其他产品。Solidigm PS1010 (7.68TB) 和 Pascari X200P (7.68TB) 在高队列深度下出现了最明显的延迟峰值,分别达到 3,300 微秒和 2,050 微秒。相比之下,CD9P-R、Micron 7600 Max (6.4TB) 和 Kingston DC3000ME (7.68TB) 在高并发范围内表现更为稳定。在混合并行负载下,CD9P-R 的 16K 写入延迟也是同类产品中最稳定的之一。
16K 随机读取
在 16K 随机读取 IOPS 测试中,Pascari X200P (7.68TB) 和 Micron 9550 Max (12.8TB) 取得了最高的持续读取 IOPS,饱和状态下接近 900 万。Micron 9550 Pro (7.68TB) 紧随其后,性能提升幅度相近,而 Solidigm PS1010 (7.68TB) 则位列第三。
KIOXIA CD9P-R (7.68TB) 在峰值测量点 (IODepth 32 / NumJobs 8) 实现了 734.3K IOPS,使其处于中上水平,领先于 Micron 7600 Max (6.4TB) 的 719.3K、Kingston DC3000ME (7.68TB) 的 665.6K 和 SanDisk DC SN861 (7.68TB) 的 661.1K IOPS。
16K随机读取延迟
在 16K 随机读取延迟测试中,KIOXIA CD9P-R (7.68TB) 在大部分测试队列深度范围内都展现出了优异的读取延迟性能。在测试的低端,CD9P-R 在 IODepth 1 / NumJobs 1 时读取延迟约为 33 µs。在中等并发测试阶段,其延迟始终保持在 100 µs 以下,与性能最佳的固态硬盘保持着紧密的联系。
随着队列深度增加到最高并发范围,所有硬盘的延迟都急剧上升。CD9P-R 的峰值延迟约为 713 微秒,落后于 SanDisk DC SN861 (7.68TB) 和 Kingston DC3000ME (7.68TB),后两者的延迟均超过 820-845 微秒,而 Micron 9550 Max (12.8TB) 和 Micron 9550 Pro (7.68TB) 的峰值延迟则保持在较低水平。
4K 随机写入
在 4K 随机写入 IOPS 测试中,Micron 7600 Max (6.4TB) 和 Micron 9550 Max (12.8TB) 在大部分测试时间内都保持领先地位,峰值并发 IOPS 可达 1,500-1,780K。Micron 9550 Pro (7.68TB) 和 Pascari X200P (7.68TB) 紧随其后,位列前茅,而 Solidigm PS1010 (7.68TB) 和 SanDisk DC SN861 (7.68TB) 则在中高端区间交替领先。
KIOXIA CD9P-R (7.68TB) 在 IODepth 32 / NumJobs 16 时达到了 1,263.1K IOPS,在 4K 随机写入性能方面处于中下层水平。
4K随机写入延迟
4K随机写入延迟测试的结果在所有测试产品中波动较大,KIOXIA CD9P-R (7.68TB) 的表现再次处于中等水平。在低队列深度下,CD9P-R 在 IODepth 1 时的写入延迟在 9-13 微秒范围内,虽然具有竞争力,但略高于同设置下性能最佳的产品。在中等队列深度下,该硬盘的写入延迟与大多数同类产品一样,保持在 20-120 微秒的范围内。
在最高队列深度下,CD9P-R 的延迟攀升至 200-410 微秒,远低于 Solidigm PS1010 (7.68TB)(峰值接近 740 微秒且波动较大)和 Pascari X200P (7.68TB)(544 微秒)。Micron 9550 Max (12.8TB)、Micron 7600 Max (6.4TB) 和 Micron 9550 Pro (7.68TB) 在整个测试范围内表现出最稳定的延迟特性。
4K 随机读取
在针对 KIOXIA CD9P-R (7.68TB) 的 FIO 测试中,4K 随机读取测试的结果颇为引人注目。在最低队列深度(IODepth 1 / NumJobs 1 和 IODepth 2 / NumJobs 1)下,CD9P-R 的性能明显优于其他产品,达到了约 32.3K IOPS(126 MB/s)。随着并发量的增加,其他产品的性能逐渐赶上,并在测试峰值时发生了排名变化。SanDisk DC SN861 (7.68TB) 在并发量方面领先,达到了 2,555.6K IOPS。与此同时,KIOXIA CD9P-R 在 IODepth 32 / NumJobs 16 的测试条件下达到了 2,165.0K IOPS,与 Micron 9550 Max (12.8TB) 的 2,164.8K IOPS 并列第二。Solidigm PS1010 (7.68TB) 和 Pascari X200P (7.68TB) 紧随其后,而 Micron 7600 Max (6.4TB) 和 Kingston DC3000ME (7.68TB) 则排名靠后。
4K随机读取延迟
4K随机读取延迟测试证实了IOPS图表所显示的结论:在低队列深度下,KIOXIA CD9P-R (7.68TB) 在我们测试的对比组中拥有最低的读取延迟。在IODepth 1 / NumJobs 1的条件下,CD9P-R的读取延迟约为30微秒,几乎只有大多数竞争对手的一半,而这些竞争对手在同一数据点的延迟则集中在60-90微秒范围内。在测试的中等队列深度下,CD9P-R保持了其延迟优势,在IODepth 8和16时略低于其他竞争对手,但随着并发数的增加,其延迟逐渐接近其他竞争对手。在最高的测试队列深度下,所有硬盘的延迟都达到了120-275微秒,其中SanDisk DC SN861 (7.68TB) 的延迟最高,约为200微秒。 KIOXIA CD9P-R 在大约 236 µs 时结束了扫描,处于该组的中间位置。
GPU 直接存储
我们在这个测试平台上进行的测试之一是 Magnum IO GPU 直接存储 (GDS) 测试。GDS 是 NVIDIA 开发的一项功能,允许 GPU 在访问存储在 NVMe 驱动器或其他高速存储设备上的数据时绕过 CPU。GDS 无需通过 CPU 和系统内存路由数据,而是实现 GPU 和存储设备之间的直接通信,从而显著降低延迟并提高数据吞吐量。
GPU 直接存储的工作原理
传统上,当 GPU 处理存储在 NVMe 驱动器上的数据时,数据必须先经过 CPU 和系统内存,才能到达 GPU。由于 CPU 充当了中间环节,这一过程会造成瓶颈,增加延迟并消耗宝贵的系统资源。GPU 直接存储技术使 GPU 能够通过 PCIe 总线直接从存储设备访问数据,从而消除了这种低效率。这种直接路径减少了数据移动开销,从而实现了更快、更高效的数据传输。
AI 工作负载(尤其是涉及深度学习的工作负载)是高度数据密集型的。训练大型神经网络需要处理数 TB 的数据,数据传输的任何延迟都可能导致 GPU 利用率不足和训练时间延长。GPU Direct Storage 通过确保尽快将数据传送到 GPU、最大限度地减少空闲时间并最大限度地提高计算效率来解决这一挑战。
此外,GDS 对于涉及流式传输大型数据集的工作负载(例如视频处理、自然语言处理或实时推理)尤其有益。通过减少对 CPU 的依赖,GDS 可加速数据移动并释放 CPU 资源以用于其他任务,从而进一步提高整体系统性能。
GDSIO 顺序读取吞吐量
GDSIO 顺序读取吞吐量测试突显了 KIOXIA CD9P-R (7.68TB) 出色的读取性能。在所有三个块大小段中,CD9P-R 在大多数线程数下均表现出最高的吞吐量。
在 16K 块大小的固态硬盘领域,CD9P-R 在 16K/1 线程下的初始读写速度约为 0.3 GiB/s,落后于大多数竞争对手。像 Pascari X200P (7.68TB) 和 Micron 7600 Max (6.4TB) 这样的固态硬盘,在单线程下的读写速度约为 0.55-0.6 GiB/s。随着线程数的增加,CD9P-R 的性能迅速提升,在中端阶段便超越了其他产品。到了 16K/16 线程,它已经超越了大多数竞争对手;到了 16K/64 线程,其读写速度达到了约 2.0 GiB/s,成为当时该级别中的最高吞吐量。在 16K/128 线程下,CD9P-R 的读写速度保持在约 1.9 GiB/s,并继续保持领先地位,而其他一些固态硬盘的性能则趋于平缓甚至下降。 CD9P-R 的 16K 读取吞吐量优势源于其随线程数的高效扩展,而不是单流优势。
进入 128K 块大小级别,CD9P-R 在 128K/1 线程下初始速度约为 1.6 GiB/s,与 SanDisk DC SN861 (7.68TB) 并驾齐驱,在该线程数下接近领先水平。其性能在中等线程数范围内保持稳定,在 128K/8 线程下达到约 3.9 GiB/s,是当时该级别中吞吐量最高的,而大多数竞争对手的速度仍在 1.7 至 2.0 GiB/s 之间。在 128K/16 和 128K/32 线程下,随着其他硬盘的线程数增加,CD9P-R 继续保持领先地位。在 128K/64 和 128K/128 时,Micron 9550 Pro (7.68TB) 和 Micron 9550 Max (12.8TB) 追上并超过了 CD9P-R,达到了大约 5.2 至 5.3 GiB/s,而 CD9P-R 的峰值约为 5.1 GiB/s,然后在 128K/128 时回落到大约 4.8 GiB/s。
在 1M 块大小的测试段,CD9P-R 在 1M/1 线程数下初始读取速度约为 3.9 GiB/s,并随着线程数的增加而稳步提升。在 1M/128 线程数下,其读取速度达到约 6.2 GiB/s,是对比组中最高的峰值读取速度。Pascari X200P (7.68TB) 和 Micron 9550 Max (12.8TB) 紧随其后,读取速度均约为 6.1 GiB/s;Solidigm PS1010 (7.68TB) 和 Micron 9550 Pro (7.68TB) 的读取速度约为 6.0 GiB/s。Kingston DC3000ME (7.68TB) 的读取速度约为 5.9 GiB/s,而 Micron 7600 Max (6.4TB) 则明显落后,读取速度约为 5.6 GiB/s。
GDSIO 顺序读取延迟
GDSIO 顺序读取延迟图表显示,所有八个硬盘在整个测试过程中都呈现出几乎相同的轨迹。延迟值主要受数据块大小和线程数的影响,而非硬盘本身的特性,因此该图表不如吞吐量和 IOPS 结果那样具有区分度。
在单线程基准测试(16K 数据块,1 个线程)下,CD9P-R 的读取延迟约为 44 微秒,处于该组产品的中等水平。在此配置下,速度更快的硬盘包括 Pascari X200P (7.68TB)(约 26 微秒)、SanDisk DC SN861 (7.68TB)(约 26 微秒)和 Micron 7600 Max (6.4TB)(约 27 微秒)。而速度最慢的硬盘是 Kingston DC3000ME (7.68TB)(约 83 微秒)和 Solidigm PS1010 (7.68TB)(约 71 微秒),它们的单线程读取延迟明显高于其他两款产品。
在剩余的扫描过程中,各条曲线逐渐收敛。所有驱动器在 1M/128 时均达到 20,000-22,000 µs 的范围,其中 CD9P-R 的响应时间约为 20.3 ms,处于该组的较低位置,这与其在该配置下较高的吞吐量相符。
GDSIO 顺序写入吞吐量
GDSIO 顺序写入吞吐量测试结果显示,各组之间存在显著差异。
Solidigm PS1010 (7.68TB) 在 128K 块大小下,高线程数时写入吞吐量出现显著下降。在 128K/32 块大小下,其写入吞吐量曾达到颇具竞争力的 3.9 GiB/s,但在 128K/64 块大小下,吞吐量骤降至约 2.5 GiB/s,随后在 128K/128 块大小下更是跌至仅 1.6 GiB/s,不足同配置下大多数竞品的一半。这种性能下滑趋势在 1M 块大小下依然持续,在中等线程数下,其峰值写入吞吐量仅为 4.2 GiB/s,随后在高线程数下再次下降。这种在繁重的多线程写入负载下持续的吞吐量下降,是该数据集中最显著的异常现象。 Micron 9550 Max (12.8TB) 在 1M 段也出现了明显的吞吐量下降,从 1M/32 时的约 4.7 GiB/s 下降到 1M/64 时的约 2.2 GiB/s,然后在 1M/128 时有所恢复。
在 16K 块大小的测试段,所有硬盘的读写速度都集中在 0.6 到 1.5 GiB/s 之间,大多数线程数下的读写速度差异仅为零点几 GiB/s。CD9P-R 在 16K/1 块大小下初始读写速度约为 0.7 GiB/s,在 16K/32 块大小下提升至约 1.5 GiB/s,之后趋于稳定。Micron 9550 Max (12.8TB) 则表现异常,在 16K/128 块大小下读写速度骤降至约 0.7 GiB/s,而其他硬盘的读写速度则保持在 1.2 到 1.4 GiB/s 之间。
在 128K 容量级别中,CD9P-R 在低线程数下表现优异。在 128K/1 线程时,其读写速度约为 2.7 GiB/s,接近同级别产品中的佼佼者;在 128K/8 线程时,读写速度提升至约 4.7 GiB/s,成为该级别产品中的最高值。从 128K/16 线程开始,Micron 9550 Pro (7.68TB) 和 Micron 9550 Max (12.8TB) 的性能超越了 CD9P-R,峰值读写速度分别达到了约 5.1 至 5.3 GiB/s。在 128K 容量级别的其余部分,CD9P-R 的读写速度则保持在约 4.1 至 4.5 GiB/s 之间。
在 1M 块大小的存储段中,CD9P-R 在 1M/1 线程配置下以约 4.9 GiB/s 的吞吐量进入该段,是同组产品中该单线程配置下的最高吞吐量。然而,在后续所有线程数下,其吞吐量基本保持不变,约为 4.3-4.4 GiB/s,并未继续提升。大多数其他硬盘通过增加线程数来进一步提升吞吐量:Micron 9550 Pro (7.68TB)、Micron 7600 Max (6.4TB) 和 Pascari X200P (7.68TB) 在 1M/4 及更高线程数下均超越了 CD9P-R,峰值吞吐量约为 5.2 至 5.7 GiB/s。 CD9P-R 的峰值写入吞吐量为 4.9 GiB/s,在八款硬盘中排名第五,落后于 Micron 9550 Max(5.69 GiB/s)、Micron 9550 Pro(5.54 GiB/s)、Micron 7600 Max(5.44 GiB/s)和 Pascari X200P(5.41 GiB/s)。
GDSIO 顺序写入延迟
在 16K 读写速度下,所有硬盘在低线程数下的性能表现都非常接近。在 16K/1 读写速度下,CD9P-R 的写入延迟约为 21 微秒,是该配置下所有硬盘中最低的,仅略高于 Solidigm PS1010 (7.68TB) 的约 22 微秒。Pascari X200P (7.68TB) 紧随其后,约为 25 微秒,而 Micron 9550 Max (12.8TB) 和 Micron 7600 Max (6.4TB) 的写入延迟都在 30 微秒左右。在 16K/128 读写速度下,Micron 9550 Max 的写入延迟飙升至约 2,500 微秒,是该配置下所有硬盘中最高的,而 CD9P-R 的写入延迟则保持在约 1,500 微秒,仍然是该配置下较低的数值之一。
在 128K 段,Solidigm PS1010 的吞吐量骤降在延迟图中表现为 128K/64 时延迟急剧上升至约 9,700 µs,这是该段测试中最明显的异常。CD9P-R 在整个 128K 段的表现与主流芯片组基本一致,在 128K/64 和 128K/128 两种模式下均保持在 1,900 至 3,800 µs 的范围内。
在 1M 写入测试段,两款硬盘在 1M/64 写入速率下均出现延迟峰值,与其在该配置下的吞吐量下降相符。Micron 9550 Max (12.8TB) 和 Micron 9550 Pro (7.68TB) 在 1M/64 写入速率下均达到约 27,000-28,000 微秒,随后在 1M/128 写入速率下进一步攀升。CD9P-R 在 1M/64 写入速率下达到约 14,500 微秒,反映出其在该配置下更稳定的写入吞吐量,并在 1M/128 写入速率下最终达到约 29,100 微秒。Pascari X200P (7.68TB) 在 1M/128 写入速率下实现了最低的写入延迟,约为 25,000 微秒。在 1M/128 下,Micron 9550 Pro 的响应时间最高,约为 44,900 µs,Solidigm PS1010 的响应时间最高,约为 40,700 µs,Micron 7600 Max 的响应时间次之,约为 36,000 µs。
结语
KIOXIA CD9P-R E3.S 7.68TB 固态硬盘完美诠释了读取密集型硬盘的应有特性,测试数据也从始至终印证了这一点。在我们的 128K 测试中,其顺序读取速度高达 14,235.9 MB/s,位列同类产品前列,与 Pascari X200P 不相上下。而这款硬盘的真正实力则体现在低队列深度上:在 QD1 队列深度下,4K 随机读取延迟仅为 30 µs 左右,远低于大多数同类产品 60 至 90 µs 的延迟。这种低延迟的读取性能也延续到了 GPU Direct Storage 测试中,CD9P-R 的性能能够随着线程数的增加而平滑扩展,并实现了同类产品中最高的 1M 读取吞吐量,约为 6.2 GiB/s。
这些权衡取舍同样清晰明了,并且与该硬盘的 1 DWPD 设计相符,而非背道而驰。写入性能处于中游水平,128K 顺序写入速度为 6,912.4 MB/s,在同组产品中排名垫底;GDSIO 顺序写入吞吐量峰值为 4.9 GiB/s,在八款硬盘中排名第五。Micron 9550 系列在吞吐量和延迟方面均领先于其他写入工作负载。以上并非对 CD9P-R 的贬低;它是一款读取密集型 SSD,需要持续写入性能的用户应该考虑混合用途的 CD9P-V。
负载下的稳定性是另一大亮点。在针对 LLAMA 3.1 405B 配置文件的 DLIO 检查点测试中,CD9P-R 的单次运行时间稳定在 572 秒左右,保持在 553 至 590 秒的主流 Gen5 固态硬盘的范围内,避免了像 Pascari X200P 那样出现高达 674.5 秒的波动。该平台的扩展性也远超我们的测试样品:CD9P-R 系列采用相同的架构,E3.S 规格最高可达 30.72TB,2.5 英寸规格最高可达 61.44TB,这意味着一次认证即可涵盖从高性能计算节点到高密度读取层的所有应用场景。
对于云集群、AI 数据管道、内容分发以及以读取为主的虚拟化读取层,CD9P-R 硬盘无疑是值得推荐的选择。它兼具顶级的第五代读取吞吐量、我们对比组中最低的低 QD 读取延迟以及强大的容量储备,并且在持续负载下也能保持稳定。
产品页面 – KIOXIA CD9P-R 7.68TB
排行榜: Kioxia CD9P-R 在最佳企业级 SSD排行榜上占据最佳读取密集型 SSD 位置。




Amazon