StarWind Software 是軟件定義存儲 (SDS) 領域的行業領導者,這要歸功於靈活的部署模式、整體系統性能以及他們對新興技術的渴望。 我們在去年年底看到他們的時候親眼看到了這一點 適用於 Windows 的 NVMe-oF 啟動器. 這次我們關注的是 StarWind SAN & NAS 軟件,它增加了對光纖通道的支持,以及 GRAID NVMe 加速卡,它對於 SDS 解決方案來說非常雄心勃勃。
StarWind Software 是軟件定義存儲 (SDS) 領域的行業領導者,這要歸功於靈活的部署模式、整體系統性能以及他們對新興技術的渴望。 我們在去年年底看到他們的時候親眼看到了這一點 適用於 Windows 的 NVMe-oF 啟動器. 這次我們關注的是 StarWind SAN & NAS 軟件,它增加了對光纖通道的支持,以及 GRAID NVMe 加速卡,它對於 SDS 解決方案來說非常雄心勃勃。
整個測試平台如下所示,但簡而言之,我們採用了最好的可用組件並將它們組合在一起,創建了一個強大的存儲平台,具有可靠的網絡和足夠的客戶端負載。 借助 GRAID 加速器,StarWind 可以將 Memblaze NVMe SSD 連接在一起,並通過 Brocade 交換結構和 Marvell QLogic 32G FC HBA 通過網絡共享存儲。
這對 StarWind 來說是一項了不起的壯舉,因為大多數 SDS 平台都無法進行這種級別的工程設計。 集成光纖通道並非易事,這就是為什麼大多數 SDS 解決方案都基於以太網的原因。 也就是說,許多組織希望獲得 FC 基礎架構提供的可靠性和延遲優勢。 StarWind SAN & NAS over Fibre Channel 將很快面世,以幫助這些組織利用 SDS 架構。
星風 SAN 和 NAS
StarWind SAN & NAS 旨在將運行行業標準管理程序的現有硬件重新用於高性能存儲。 該解決方案是用於 VMware vSphere Hypervisor ESXi 和 Microsoft Hyper-V Server 的完全認證共享存儲。
StarWind SAN & NAS 支持基於硬件和軟件的存儲冗餘配置。 該解決方案可以將具有內部存儲的現有服務器轉變為以 NAS 或 SAN 形式呈現的冗餘存儲陣列,公開 iSCSI、SMB 和 NFS 等標準協議。 多個管理和配置選項包括基於 Web 的 UI、基於文本的 UI、vCenter 插件和用於集群範圍操作的命令行界面。
該解決方案作為基於 Linux 的現成虛擬機 (VM) 部署到您的管理程序、Microsoft Hyper-V 或 VMware vSphere 上,使用 ZFS 共享與 StarWind VSAN 相同的軟件定義存儲 (SDS) 功能。 StarWind SAN & NAS 易於使用安裝嚮導和基於 Web 的存儲管理用戶界面 (UI) 進行安裝,並通過重新利用老化的服務器來提高投資回報 (ROI)。
StarWind SAN 和 NAS 功能包括:
文件和塊存儲: 支持所有行業標準塊和文件協議,如 SMB3、NFSv3、NFSv4、NFSv4.1 和 iSCSI(包括 iSCSI 上的 VVol、NVMe-over-Fabrics 和 iSER)。
冗餘選項: 在 ZFS、Hardware RAID 或 Linux MD/RAID 中選擇本地磁盤的首選冗餘配置。
建築: StarWind 的網絡附加存儲和存儲區域網絡構建在 Linux、ZFS 和 StarWind Virtual SAN 之上,可以作為 VM 輕鬆部署在所選虛擬機管理程序、VMware ESXi 或 Microsoft Hyper-V 之上。
認證和準備工作: 易於安裝並經過認證可與 vSphere 或 Hyper-V 一起使用。
合作夥伴
StarWind 有一個令人印象深刻的合作夥伴列表,在此測試期間使用了多個。 所有 StarWind 產品均使用已發布的硬件和軟件進行測試。 合作夥伴供應商獨立測試產品以確保質量和兼容性,以提供有效的解決方案。 我們突出顯示了包含在這組特定測試中的供應商。
戴爾技術
StarWind Software 是戴爾技術聯盟合作夥伴,經驗證可以部署戴爾服務器作為其交鑰匙虛擬化解決方案 StarWind HyperConverged Appliance 的一部分。 在此測試場景中,StarWind 為服務器部署了戴爾的 PowerEdge R750,並為客戶端部署了 PowerEdge R740xd。
戴爾易安信 PowerEdge R750 由第三代英特爾至強可擴展處理器提供支持,以解決應用程序性能和加速問題。 該服務器是雙路/3U 機架式服務器,支持每個 CPU 2 通道內存和高達 8 MT/s 速度的 32 個 DDR4 DIMM。 此外,為了顯著提高吞吐量,PowerEdge R3200 支持 PCIe Gen 750 和多達 4 個 NVMe 驅動器,具有改進的空氣冷卻功能和可選的直接液體冷卻,以支持不斷增長的功率和散熱要求。
PowerEdge R740xd 是一個 2U 雙路平台,非常適合軟件定義存儲、服務提供商或虛擬桌面基礎設施。 R740xd 系統支持多達 24 個 NVMe 驅動器,能夠混合使用任何驅動器類型,以創建 NVMe、SSD 和 HDD 的最佳配置,以實現性能、容量或兩者。 R740xd 是軟件定義存儲的首選平台,是 VSAN 或 PowerEdge XC 的基礎。
網格技術
GRAID SupremeRAID 專為現代軟件可組合環境而設計。 GRAID 技術正在提供面向未來的 RAID 卡,它不僅可以保護直接連接的閃存存儲,還可以保護通過 NVMe over Fabrics 連接的存儲。
至尊RAID SR-1010 是第一款釋放 SSD 性能全部潛力的 NVMe 和 NVMe-oF RAID 卡。 SupremeRAID 卡直接處理 I/O,減輕了 CPU 的負擔。 因為卡是 GPU,卡上有巨大的計算能力,這在標準 RAID 卡上是不存在的。
SupremeRAID SR-1010 功能豐富,提供壓縮、加密和自動精簡配置。 安裝就像即插即用一樣簡單,不需要佈線或修改主板佈局。
內存火焰
Memblaze 是企業級 NVMe SSD 產品的領先供應商。 Memblaze成立於2011年,是全球最早開發企業級SSD產品的公司之一。 Memblaze推出的PBlaze系列企業級SSD已廣泛應用於數據庫、虛擬化、雲計算、大數據、人工智能等領域,為互聯網、雲服務等行業客戶提供穩定可靠的高速存儲解決方案、金融和電信。
內存火焰 PBlaze6 6920 系列 SSD 提供高達 1600K 隨機讀取 IOPS、高達 7GB/s 順序讀取帶寬、高達 6.8GB/s 順序寫入帶寬和高達 11μs 寫入延遲的一致性能。 該驅動器具有多種容量,耐用性較低的驅動器具有 3.84TB、7.68TB 和 15.36TB 的容量。 更高耐用性的版本有 3.2TB、6.4TB 和 12.8TB 容量。
Marvell Q邏輯
QLogic 是高性能網絡的全球供應商,為數據、存儲和服務器網絡提供適配器、交換機和 ASIC。 該公司提供多樣化的網絡產品組合,包括用於 FCoE 的聚合網絡適配器、以太網適配器、光纖通道適配器和交換機以及 iSCSI 適配器。
QLogic 2772 適配器支持低延遲訪問橫向擴展 NVMe,完全支持 FC-NVMe 協議。 它們可以在同一物理端口上同時支持 FC-NVMe 和 FCP-SCSI 存儲流量,使客戶能夠按照自己的節奏遷移到 NVMe。 這些適配器通過提供高達 2 萬次 IOPS 和線速 32GFC 性能,同時通過光纖通道網絡提供對 NVMe 和 SCSI 存儲的低延遲訪問,實現了兩全其美。
看看我們的深入研究 QLogic 的 FC-NVMe 故事。
SAN 和 NAS 測試平台詳細信息
這項工作的測試台包括帶有 Memblaze 的 StarWind SAN 和 NAS 存儲節點 PBlaze6 6926 12.8TB 固態硬盤 與 GRAID至尊RAID SR-1010 加速卡。 該結構由 Brocade G620 32G 光纖通道交換和 Marvell QLogic 2772 32G FC HBA 組成。 負載生成通過四個客戶端節點進行。 存儲節點基於 Dell PowerEdge R750 服務器,客戶端節點為 Dell PowerEdge R740 服務器。 詳細信息在下表中列舉。
存儲節點 | |
---|---|
伺服器 | 戴爾PowerEdge R750 |
中央處理器 | 英特爾® 至強® 鉑金 8380 CPU @ 2.30GHz |
套接字 | 2 |
核心/線程 | 80/160 |
DRAM | 1,024GB |
儲存應用 | 8x 記憶 PBlaze6 6926 12.8TB |
加速卡 | GRAID至尊RAID SR-1010 |
HBA | 4x 漫威 Q邏輯2772 系列增強型 32GFC 光纖通道適配器 |
StarWind SAN 和 NAS 軟件 | 版本 1.0.2(內部版本 2175 – FC) |
客戶端節點 | |
---|---|
伺服器 | 戴爾 PowerEdge R740xd |
中央處理器 | Intel® Xeon® Gold 6130 CPU @ 2.10GHz |
套接字 | 2 |
核心/線程 | 32/64 |
DRAM | 256GB |
儲存應用 | 1x Marvell® QLogic® 2772 系列增強型 32GFC 光纖通道適配器 |
OS | Windows Server 2019 標準版 |
StarWind SAN 和 NAS 性能測試結果
由於活動部件範圍廣泛,性能測試的重點分為本地和光纖通道遠程測試。 第一個目標是展示底層 Memblaze NVMe 存儲的功能和性能,以及 GRAID 的 HW RAID 與 SW RAID 的優勢。
第二步是比較每個使用 Marvell QLogic HBA 的超過 32Gb FC 的性能,同樣使用 GRAID HW RAID 與 SW RAID。 基準測試是使用 Flexible I/O (fio) 實用程序確定的。 Fio 是一種用於基準測試和壓力/硬件驗證的跨平台工具,被認為是測試本地和共享存儲的行業標準。
測試模式:
- 4k 隨機 100% 讀取/100% 寫入
- 4k 隨機混合讀/寫 70/30
- 1MB 順序 100% 讀取/100% 寫入
測試時間:
- 單次測試持續時間 = 600 秒
- 在開始寫入基準測試之前,存儲已先預熱 2 小時
測試階段
- 確認單個 NVMe 驅動器性能以獲得參考編號
- 在本地測試 MDRAID 和 GRAID RAID5 陣列性能
- 從客戶端節點遠程運行基準測試
在陣列測試的初始準備期間,檢查了各個 Memblaze PBlaze6 D6926 12.8TB SSD 的基準性能數據,以與規格表值進行比較,並驗證每個 SSD 達到穩態性能所需的時間。 在此測試階段,我們能夠測量 4M IOPS 讀取的 1.5K 隨機性能和 537k IOPS 寫入,驅動器需要大約 2 小時才能達到穩定狀態。 在隨機工作負載下將塊大小增加到 64K,每個 SSD 的讀取速度為 6.5GB/s,寫入速度為 2.6GB/s。 最後,在 1MB 傳輸大小和順序傳輸的情況下,每個 SSD 的讀取速度為 6.6GB/s,寫入速度為 5.4GB/s。
本地性能在八個 Memblaze D6926 12.8TB SSD 上進行了測量,產生了強大的 4K 隨機讀取性能,對 GRAID 的 HW RAID 具有巨大優勢。 雖然 SW RAID 在較低的隊列和線程數方面略有領先,但與 GRAID 的 4 萬 IOP 相比,它的上限為 10.8M IOPS。 在此工作負載期間,GRAID 對底層主機的 CPU 利用率大大低於 SW RAID。 在隊列/線程數較低的情況下,CPU 利用率為 3% 至 7%,峰值分別為 25% 和 40%。
4K 隨機寫入測試在低隊列和線程數下略微優於 SW RAID,隨著工作負載的增加,GRAID HW RAID 迅速超越它。 SW RAID 的性能從 376K IOPS 擴展到 501k IOPS 寫入,GRAID HW RAID 從 260k IOPS 擴展到 975k IOPS。 還應該注意的是,GRAID 的性能可以增加到 1.5M IOPS 寫入,並為 GPU 提供完整的 Gen4x16 插槽。 根據我們配置 Dell PowerEdge R750 的方式,GPU 位於 Gen4x8 插槽中,稍微向後傾斜。 在此測試期間,軟件 RAID 的 CPU 利用率從 8% 擴展到 21%,而硬件 RAID 從 1% 略微增加到 3%。
在 70% 的讀/寫混合中,使用 4K 傳輸大小,隨著工作負載的擴大,GRAID 配置處於領先地位。 測得的 SW RAID 性能從 765k IOPS 擴展到 1.2M IOPS,而 HW RAID 測量結果為 429k IOPS 到 3.14M IOPS。 HW RAID 的 CPU 利用率顯著降低。 SW RAID 測得在 5% 到 49% 之間,而 GRAID 測得在 1% 到 8% 之間。
為了測量大塊帶寬,塊大小增加到 1MB。 與 SW RAID 相比,GRAID 在工作負載中表現突出,範圍從 18.2GB/s 到 47GB/s,後者從 10GB/s 開始並擴展到 12.1GB/s。 整個測試中的 CPU 利用率在軟件 RAID 的情況下介於 3% 和 10% 之間,而在硬件 RAID 的情況下則在 0% 到 1% 之間。
上一個本地基準測試專注於大塊順序寫入性能,其中 SW RAID 在 4T/4Q 上略有優勢,然後很快被 GRAID 超越。 此處 SW RAID 測量為 6.9GB/s 至 7.1GB/s,而 GRAID 從 6.4GB/s 上升至 11.4GB/s。 軟件 RAID 的 CPU 利用率從 9% 擴展到 17%,而硬件 RAID 的測量結果為 1% 到 3%。
通過使用 GRAID 從 SW RAID5 和 HW RAID5 中的單個 SSD 和八個 SSD 捕獲本地性能基線,下一步是在 32Gb FC 上進行 FCP 測試。 本地性能測試的重要收穫是,隨著工作負載的增加,GRAID HW RAID 提高了整體性能並降低了 CPU 利用率。
FCP 測試包括四個運行 Windows 的 Dell R740xd 客戶端節點,每個節點都連接回兩個 32Gb FC 交換機。 每個客戶端系統都使用相同的 32Gb Marvell QLogic HBA 作為存儲端,為我們提供了 8 個 32Gb FC 端口或 25.6GB/s 的總理論帶寬。
通過連接到 StarWind NAS 和 SAN 服務器的四個 Dell PowerEdge R740xd 負載生成器,我們首先查看在線路上的聚合 4K 隨機讀取性能,其中 SW RAID 從 1.66M IOPS 擴展到 3.5M IOPS,GRAID 從 1.1M IOPS 擴展到 4.6 MIOPS。
轉向 4K 隨機寫入,SW RAID 從 204k IOPS 擴展到 385K IOPS。 後端的 HW RAID 提供了顯著的收益,GRAID 在其峰值時從 304k IOPS 擴展到 498k IOPS。
在隨機 4k 70/30 混合工作負載中混合讀取和寫入流量,HW RAID 配置比單獨使用 SW RAID 提供更多的 I/O。 SW RAID 從 538k IOPS 擴展到 998k IOPS,HW RAID 從 647k IOPS 擴展到 1.1M IOPS。
返回大塊傳輸以測量從 StarWind NAS 和 SAN 陣列到四個客戶端的峰值帶寬,我們有效地飽和了 8 個 32Gb FC 端口。 SW RAID 從 9.7GB/s 擴展到 11.7GB/s,而 HW RAID 設法在低端推出 8.5GB/s,在峰值時推出 25.2GB/s。 我們在八個 25.6Gb 端口上達到了 32GB/s 的理論最大值。
在測量 1M 順序寫入帶寬的最終測試中,SW RAID 在較低的線程和隊列級別上略有優勢,達到 4T/8Q 的奇偶校驗。 然而,HW RAID 很快超越了 SW RAID,從 6GB/s 擴展到 7.1GB/s,而 HW RAID 測量值介於 2.99GB/s 和 10.5GB/s 之間。
最後的思考
在典型的 RAID 場景中,硬件解決方案的性能有望優於軟件解決方案。 但是,在實施軟件定義的存儲解決方案時,獲得混合結果的可能性會增加。 在這種情況下,數字並沒有說謊,而且 StarWind SAN 和 NAS 的表現超出了我們的預期。
如上所述,StarWind 解決方案雄心勃勃。 它結合了 FCP、NMVe SSD、GRAID 硬件和軟件,將它們整合在一起。 充分利用 GRAID SupremeRAID 卡的計算能力、NVMe SSD 的性能以及光纖通道的低延遲和可靠性,此配置符合所有要求。 如果不在服務器中安裝多個卡,則不可能從傳統的硬件 RAID 卡獲得這些性能數據。
StarWind SAN & NAS 充分利用了 GRAID 卡中的 GPU 處理能力。 在每個測試場景中,StarWind 解決方案都能達到預期。 通過 GRAID 將 I/O 處理卸載到 GPU,與運行軟件 RAID 解決方案相比,CPU 利用率顯著降低。 存儲節點上的 CPU 使用率比使用 SW RAID 時低 2-10 倍,釋放 CPU 資源用於其他任務。 即使使用 StarWind 解決方案,SW RAID 測試實際上也達到了典型 RAID 陣列可提供的全部性能,但延遲成本更高。
從本質上講,最令人印象深刻的共享存儲性能是由一個冗餘 GRAID 存儲陣列提供的,該陣列充滿了 PBlaze6 6920 系列 NVMe SSD,頂部帶有 StarWind SAN 和 NAS,並使用 Marvell Qlogic 2772 光纖通道適配器通過光纖通道運行到客戶端節點。 GRAID 是目前唯一能夠保證軟件定義的共享存儲可以獲得最高性能的技術。 GRAID 構建獲得了大約 50% 的本地 RAID 陣列性能,延遲與本地存儲大致相同。
StarWind SAN & NAS 使充分發揮 GRAID 性能潛力成為可能。 NVMe-oF 和 RDMA 將包含在後續構建中。
單擊鏈接以查找有關的更多信息 GRAID至尊RAID, NVMe-oF和 StarWind NVMe-oF 啟動器性能.
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | RSS訂閱