测试存储平台压力的最常见方法之一是使用合成工作负载或四角测试。在这种测试场景中,我们会考察平台能够产生的峰值 I/O 和峰值带宽。虽然这些数据不能替代应用程序测试,但它们有助于比较不同平台,并为正在进行概念验证 (PoC) 的客户提供宝贵的见解。为此,我们已将超融合合成测试迁移到VMware 今年早些时候发布的HCIbench。HCIbench的核心是利用业界公认的 VDbench 工作负载生成器,将虚拟机分布到目标集群中并汇总结果。我们为该工具使用我们自己的 I/O 配置,用户可以通过以下链接复现我们的测试。
Dell PowerEdge R730xd VMware VSAN 规格
- Dell PowerEdge R730xd 服务器 (x4)
- CPU:八个 Intel Xeon E5-2697 v3 2.6GHz (14C/28T)
- 内存:64 x 16GB DDR4 RDIMM
- SSD:16 x 800GB 固态硬盘 SAS 混合使用 MLC 12Gbps
- 硬盘:80 x 1.2TB 10K RPM SAS 6Gbps
- 网络:4 x Intel X520 DP 10Gb DA/SFP+,+ I350 DP 1Gb 以太网
- 存储容量:86.46TB
HCIbench 测试配置
- 16 台虚拟机
- 每个虚拟机 10 个 VMDK
- 10GB VMDK(1.6TB 占用空间)
- 50GB VMDK(8TB 占用空间)
- 100GB VMDK(16TB 占用空间)
- 全写存储初始化
- 1.5 小时测试间隔(30 分钟预处理,60 分钟测试采样期)
为了测试 VMware VSAN 的混合配置,我们为工作负载配置文件部署了三种不同的配置。 其中包括 1.6TB(完全在缓存内)、8TB(部分在缓存外)和 16TB(溢出在缓存外)的占用空间,以显示平台如何响应热数据增长。 这些大小可以针对每个平台进行调整,具体取决于为缓存或分层配置的闪存量。
StorageReview 的 HCIbench 工作负载配置文件
第一个 HCIbench 测试着眼于具有完全随机 4K 工作负载配置文件的 VMware VSAN 平台的峰值随机吞吐量。 将数据移入缓存后充分预热,我们测得读取速度为 888MB/s,写入速度为 249MB/s,占用空间为 1.6TB(奇偶校验数据为 3.2TB)。 随着该工作集扩展到 8TB(16TB 有奇偶校验数据)并且一些数据落在缓存之外,我们仍然测量到 589MB/s 读取和 250MB/s 写入的强大性能。 最大的数据集测量为 16TB(整个集群 32TB),工作负载分散到 10K HDD 上,性能下降到 26MB/s 读取和 56MB/s 写入。
当查看同一 4K 配置文件中的峰值 I/O 时,VMware VSAN 平台的结果与此类似。 不出所料,完全在缓存中的 1.6TB 占用空间测得令人印象深刻的 227,241.6 IOPS 读取和 63,867.8 IOPS 写入。 当增加到 8TB 时,我们记录了 150,829 IOPS 读取和 64,204.3 IOPS 写入。 我们最大的数据集 16TB 的占用空间测量了 6,747.3 IOPS 读取和 14,403.6 IOPS 写入。
下一个指标着眼于完全随机的 4K 工作负载配置文件的平均延迟。 在这里,1.6TB 和 8TB 的占用空间显示出非常低的延迟,分别为 1 毫秒读取/4 毫秒写入和 2 毫秒读取/4 毫秒写入。 由于工作负载继续溢出到 10K HDD,因此 VMware VSAN 16TB 占用空间配置的性能显着下降,读取时间为 47 毫秒,写入时间为 23 毫秒。
切换到混合了 8% 读取和 70% 写入活动的更大的 30K 数据配置文件后,VMware VSAN 使用 947.9TB 的占用空间达到了 1.6MB/s。 当我们将工作集增加到 8TB 时,我们测得 694.2MB/s,这仍然非常可观。 同样,由于工作负载溢出到硬盘驱动器上,16TB 的占用空间显示性能急剧下降至 67.0MB/s。
在相同的 8K 70% 读取和 30% 写入工作负载的 I/O 性能中,VMware VSAN 的 1.6TB 占用空间记录了 121,329.2 IOPS。 当配置 8TB 占用空间时,性能下降到 88,853.7 IOPS,而 16TB 占用空间仅达到 8,584.2 IOPS。
转向平均延迟,完全缓存 1.6TB 配置的测量结果仅为 2 毫秒,而 8TB 占用空间显示略高的结果为 3 毫秒。 我们最大的 16TB 数据集(整个集群 32TB)显示最高平均延迟为 37ms。
最后一个工作负载切换到峰值带宽焦点,由 32K 顺序读写配置文件组成。 完全预热后,1.6TB 占用空间配置显示出令人印象深刻的 2,699.3MB/s 读取速度和 1,193.3MB/s 写入速度。 当增加到 8TB 时(16TB 带有奇偶校验数据,一些数据落在缓存之外),我们测得读取速度为 2,278.3MB/s,写入速度为 957.7MB/s。 16TB 的占用空间显示读取速度为 2,490.7MB/s,写入速度为 1,081.6MB/s。 虽然 HDD 通常不能很好地处理随机工作负载,但很高兴看到随着 VSAN 上占用空间的增加,可以看到稳定的顺序配置文件。
I/O 测量显示了非常相似的结果,1.6TB 占用空间测量的读取和写入分别为 86,379.1 IOPS 和 38,184.4 IOPS。 当占用空间增加到 8TB 时,VMware VSAN 达到 72,904.1 IOPS 读取和 30,645.7 IOPS 写入。 我们最大的足迹记录了 79,702.8 IOPS 读取和 34,610.9 IOPS 写入。
查看平均延迟,所有占用空间大小的结果非常相似。 当工作集扩展到 1.6TB 时,我们的完全缓存 3TB 配置测得读取时间为 8 毫秒,写入时间为 4 毫秒,而读取时间为 10 毫秒,写入时间为 8 毫秒。 我们最大的足迹也有很好的表现,读取时间为 4 毫秒,写入时间为 9 毫秒。
总体而言,VMware VSAN 平台的表现与我们在审查中的预期相符。 在最佳运行条件下,VSAN 的性能非常出色,并且随着数据足迹的增长仍然如此。 我们看到峰值随机 4K I/O 测量高达 227k IOPS 读取和 64k IOPS 写入,8K 70/30 性能测量为 121k IOPS。 将工作集从 1.6TB 推到 8TB,性能在 150K 配置文件中下降到 64k/4K R/W,而混合 8K 70/30 性能下降到 88k IOPS。 但是在某个时刻,对于所有混合 SSD/HDD 平台来说都是如此,性能会随着热数据溢出到 HDD 上而下降。 借助提供容量层的 10K HDD 的大型池,VSAN 仍然提供可用的性能块,测量超过 14k IOPS 随机 4K 写入和 8.5k IOPS 随机 8K 70/30 以及 16TB(消耗 32TB)的数据足迹。
对于评估平台或什至在购买存储阵列之前完成配置步骤的购买者,重要的是要注意您当前和预计的未来存储需求。 以错误的方式起步可能会导致性能或容量问题更快出现。 VMware 在帮助买家使用 VSAN 解决这个问题方面做得很好,因为该平台是高度可配置的。 现在选择您需要的驱动器,如果情况发生变化,您可以在主机级别添加更多闪存。 在 HCI 空间中,这并非完全正确,如果存储/计算平衡发生变化,一些平台需要添加一个完整的节点。
VMware Virtual SAN 评论:概述和配置
VMware Virtual SAN 评论:VMmark 性能
VMware Virtual SAN 评论:Sysbench OLTP 性能
VMware Virtual SAN 评论:SQL Server 性能
VMware Virtual SAN 评论:扩展的 Sysbench OLTP 性能
VMware Virtual SAN 评论:HCIbench 综合性能




Amazon