IT 部門面臨著必須選擇和配置數據存儲以滿足其組織當前和未來的數據中心、系統和最終用戶需求的挑戰。 他們必須預測未來幾年的應用程序使用情況、工作負載大小、性能需求和容量預期。 確定這些要求,然後實施滿足當前和未來這些需求的存儲策略,對於任何 IT 部門來說都是一項艱鉅的任務。
IT 部門面臨著必須選擇和配置數據存儲以滿足其組織當前和未來的數據中心、系統和最終用戶需求的挑戰。 他們必須預測未來幾年的應用程序使用情況、工作負載大小、性能需求和容量預期。 確定這些要求,然後實施滿足當前和未來這些需求的存儲策略,對於任何 IT 部門來說都是一項艱鉅的任務。
隨著技術的發展,存儲系統的升級對 IT 提出了另一個挑戰,並且通常受到原始硬件採購的限制。 例如,如果部署了基於 SATA 的存儲基礎架構,則包括服務器背板、存儲控制器和替換驅動器在內的所有硬件升級都需要基於 SATA 或可能基於 SAS。 為了使存儲發展到一個新的水平,必須構建計算系統以支持使用當前和未來資源的所需應用程序。 如果實現這些目標,IT 的最終結果可能與存儲成本和系統複雜性的降低有關。
隨著 SFF-TA-1001 規範的出現1(也稱為 U.3),存儲行業越來越接近於為當前和未來的應用程序需求配置存儲。 U.3 是指符合 SFF-TA-1001 規範的術語,它還要求符合 SFF-8639 模塊規範2. 基於 U.3 的解決方案可以通過使用單個背板和控制器的三模式配置來實現,支持來自一個服務器插槽的所有三個驅動器接口(SAS、SATA 和 PCIe®)。無論接口如何,SAS 和 SATA SSD 和硬盤驅動器以及 NVMe™SSD 可在基於 U.3 的服務器內互換,並可在同一物理插槽中使用。U.3 可滿足許多行業需求,同時保護初始存儲投資。
行業挑戰
當今的服務器存儲架構在適應混合或分層環境的方式上面臨著挑戰。 在任何特定服務器中,存儲可能需要根據工作負載的需要配置不同接口的硬盤驅動器和 SSD 組合。 例如,工程團隊可能需要快速 NVMe 驅動器來測試其開發環境中的代碼。 另一個工作組可能需要 SAS 驅動器來為其創收數據庫實現高可用性和容錯能力。 而且,另一組可能依賴容量優化的 SATA 驅動器或有價值的 SAS 驅動器來實時分析冷數據。 無論應用程序是什麼,都可以對服務器的各個部分進行分段,以解決各種用例。
從服務器設計的角度來看,如果沒有 U.3,原始設備製造商需要開發多個背板、中間板和控制器以適應所有可用的驅動器接口,這會產生大量具有挑戰性的 SKU 和採購選項供客戶選擇。
當 SAS 接口使企業 SATA SSD 和 HDD 能夠連接到 SAS 背板、HBA 或 RAID 控制器時,驅動器整合向前邁出了第一步。 這種能力一直持續到今天,因為大多數服務器都附帶 SAS HBA 或 RAID 卡,使 SAS 和 SATA SSD/HDD 能夠在同一個驅動器托架中使用。 儘管 SATA 驅動器可以輕鬆地與 SAS 驅動器交換,但不支持 NVMe SSD,因為它們仍然需要使用支持 NVMe 的背板的單獨配置(圖 1)。
圖 1 描繪了 SAS、SATA 和 PCIe 接口所需的獨立背板
支持 NVMe SSD 作為驅動器整合策略的一部分非常重要,因為這些部署正在增加,因為它們比 SAS 和 SATA SSD 提供了顯著的性能改進。 到 42.5 年底,企業(包括數據中心和企業版)NVMe SSD 的單位消耗預計將佔所有 SSD 的 2019% 以上3. 75年底企業單耗提高到2021%以上,91年底提高到2023%以上3. 目前,基於 NVMe 的服務器、基礎設施和 RAID 控制器選項處於早期階段,需要許多數據中心繼續使用基於 SAS 的 RAID 硬件,以提供成熟、強大的容錯和性能水平。 要直接遷移到 NVMe 存儲,通常需要購買新的支持 NVMe 的服務器,這些服務器使用特定於 NVMe 的背板和控制器。
隨著 SFF-8639 連接器的可用性以及 SFF-8639 模塊規範的開發,下一步是通過一個通用基礎設施支持所有三種 SSD 協議。 該連接器旨在為 NVMe SSD 支持多達四個 PCIe 通道,為 SAS/SATA HDD 或 SSD 支持多達兩個通道。 符合 SFF-8639 模塊規範已指定為 U.2。 SFF-8639 連接器的插座版本安裝在服務器背板上,雖然它支持所有三種驅動器接口,但 NVMe 和 SAS/SATA 驅動器不可互換,除非為兩者配置了托架。 仍然需要單獨的支持 NVMe 的背板來支持 NVMe SSD。
驅動器整合現在已經發展到 U.3,其中 SAS、SATA 和 NVMe 驅動器在與三模背板和控制器一起使用時都通過一個 SFF-8639 連接器得到支持(圖 2),並且還與 SFF-8639 模塊兼容規範(U.2)。 對於這種方法,使用相同的 8639 連接器,只是高速通道被重新映射以支持所有三種協議。 U.3 規範包括多協議接受設備連接器的引出線和用法,由 存儲網絡行業協會 (SNIA) SSD 外形規格 (SFF) 技術聯盟 (TA)。 該規範於 2017 年 XNUMX 月獲得批准。
圖 2 描繪了 SAS、SATA 和 PCIe 接口的 U.3 三模式通用存儲配置
U.3 關鍵組件
U.3 三模平台可通過單個背板設計和 SFF-8639 連接器(根據 SFF-TA-1001 規範定義的修改佈線)從同一服務器插槽容納 NVMe、SAS 和 SATA 驅動器。 該平台包括: (1) 三模控制器; (2) SFF-8639 連接器(一個用於驅動器,一個用於背板); (3) 通用背板管理框架。
三模式控制器
三模控制器在主機服務器和驅動背板之間建立連接,支持 SAS、SATA 和 NVMe 存儲協議。 它具有存儲處理器、高速緩存和與存儲設備的接口連接。 存儲適配器支持所有三種接口,通過單一物理連接驅動三種協議的電信號。 控制器內的“自動檢測”功能確定控制器當前正在為三種接口協議中的哪一種提供服務。
從設計的角度來看,三模控制器使 OEM 無需使用一個專用於 SAS 和 SATA 協議的控制器,以及一個用於 NVMe 的不同控制器。 它提供簡化的控制,實現對 SAS、SATA 和 NVMe 驅動器協議的通用托架支持。 憑藉這種靈活性,多種驅動器類型可以與 SAS 和 SATA SSD/HDD 以及 NVMe SSD 混合搭配。
SFF-8639 連接器
SFF-8639 連接器使背板上的給定驅動器插槽能夠連接到單根電纜,因此它可以提供對 SAS、SATA 或 NVMe 設備的訪問,並確定由三模式主機驅動的正確通信協議。 SFF-TA-1001 (U.3) 規範通過定義引腳使用和插槽檢測以及解決在設計接受 NVMe 和 SAS/SATA 存儲的背板插座時發生的主機和背板佈線問題將組件聯繫在一起設備(圖3)。
圖 3 展示了向 U.3 三模連接器的演變
SFF-TA-1001 規範支持 SFF-8639 連接器上的三種接口類型,其中主機信號用於識別其類型,設備信號用於識別其配置(例如,雙端口 PCIe)。
U.3 消除了對單獨的 NVMe 和 SAS/SATA 適配器的需求,使 OEM 能夠使用更少的走線、電纜和連接器簡化其背板設計。 這帶來了與構建具有更少組件的背板相關的成本優勢,以及 OEM 服務器和組件 SKU 的整體簡化。 基於 U.3 的設備需要向後兼容 U.2 主機。
通用背板管理框架
通用背板管理 (UBM) 框架定義並提供了一種管理和控制 SAS、SATA 和 NVMe 背板的通用方法(圖 4)。 它也是由 SSD 外形規格工作組根據批准的規範 SFF-TA-1005 開發的4並為所有服務器存儲提供相同的管理框架,無論接口協議(SAS、SATA 或 NVMe)或存儲介質(HDD 或 SSD)如何。
圖 4 僅展示了 U.3 背板和托架管理所需的一個域
資料來源:博通® 公司5
管理框架允許用戶管理 SAS、SATA 和 NVMe 設備,而無需對驅動程序或軟件堆棧進行任何更改,並解決了許多對 NVMe 協議非常重要的系統級任務,特別是對 U.3 操作。 這種管理包括以下能力:
- 提供確切的機箱插槽位置。 對於此功能,UBM 框架使用戶能夠輕鬆識別需要更換的存儲驅動器所在的位置,或者在與故障排除相關時識別可能與驅動器插槽、電纜、電源或驅動器本身相關的問題。
- 啟用電纜安裝順序獨立性。 為了在三模配置之前解決此功能,用戶需要將特定電纜鋪設到特定驅動器插槽,因為總電纜長度在這些配置中極為重要。 在三模配置中,多用途電纜連接到所有驅動器插槽,從而消除了這個問題。
- 管理背板上的 LED 模式。 UBM 框架使用戶能夠在每個驅動器上使用 LED 編碼,提供驅動器活動的可見信號,包括驅動器使用、驅動器故障、電源等。
- 啟用電源和環境管理。 UBM 框架管理插槽和存儲設備的電源,其主要功能是重新啟動無響應的設備。
- 啟用 PCIe 重置。 在總線級別,無論存儲驅動器是否正常運行,PCIe 都會重置連接到 PCIe 橋接器的每個設備。 UBM 框架使用戶能夠激活特定驅動器插槽上的 PCIe 重置,僅重置需要它的驅動器。
- 啟用時鐘模式。 隨著 PCIe 3.0 和 PCIe 4.0 提供更高的數據速率,時鐘變得更難以支持這些更高的速度。 UBM 框架可以將存儲設備配置為使用傳統的 PCIe 時鐘網絡或將時鐘信號直接嵌入到高速信號中。 嵌入式時鐘信號可以顯著降低與高速信號相關的電磁干擾,從而實現非常靈活的時鐘。
UBM 框架使控制器能夠通過描述背板來動態劃分 PCIe 通道,因此 U.3 x1、x2 和 x4 佈線都是可能的。 它還提供了一種方法,可以將來自其他邊帶信號(例如 CLKREQ 和 WAKE)的單個 PERST 信號(PCIe 復位)控制為 2×2 和 4×1 佈線的多個獨立事件。 UBM 還為 2×2 和 4×1 佈線提供參考時鐘 (REFCLK) 控制。 儘管 UBM 被設計為一個可以獨立運行的框架,但在實施 UBM 時它會釋放 U.3 的全部功能。 最終結果是一個通用的背板管理系統,它允許更高的可配置性和真正的系統靈活性。
U.3 平台和 SSD 可用性
隨著 SFF-TA-1001 規範的批准,U.3 生態系統已經發展,領先的服務器、控制器和 SSD 供應商開發解決方案以推動該技術平台向前發展。 例如,一些一級服務器 OEM 正在實施具有三模式控制器和相關背板的服務器。 初始系統可用性預計將通過第 1 層和第 1 層服務器 OEM,然後是廣泛的渠道產品。
從控制器的角度來看,大多數 RAID/HBA 供應商正在開發具有三模式功能並支持 U.3 操作的控制器。
SSD方面,鎧俠(原東芝內存)、三星、希捷、SK海力士四大硬盤廠商成功參與 首屆 U.3 Plugfest 2019 年 1001 月在新罕布什爾大學互操作性實驗室舉行。 在這些 SSD 供應商中,鎧俠率先在 3 年閃存峰會上展示了 SFF-TA-2019 (U.XNUMX) SSD。
總結
隨著大數據越來越大,數據越來越快,再加上人工智能、機器學習甚至冷數據分析等計算密集型應用,對數據存儲更高性能的需求正在突飛猛進。 必須預測今天的應用程序使用、工作負載大小、性能需求和容量預期是一個相當大的挑戰,但預測未來幾年的使用將挑戰提升到一個新的水平。
U.3 三模方法建立在 U.2 規範之上,使用相同的 SFF-8639 連接器。 這種方法將 SAS、SATA 和 NVMe 支持結合到服務器內部的單個控制器中,由 UBM 系統管理,允許混合和匹配 SAS SSD/HDD、SATA SSD/HDD 和 NVMe SSD。 U.3 提供了一系列巨大的好處,包括:
- 用於存儲的單一背板、連接器和控制器
- 消除每個受支持協議的單獨組件
- 啟用設備之間的熱插拔(如果設備支持)
- 從一個驅動器插槽提供 SAS/SATA/NVMe 支持
- 通過使用更少的佈線、更少的走線和更少的組件來降低總體存儲成本
- 提供更高的存儲可配置性和真正的系統靈活性
- 高效能表現
- 當 U.64 驅動器托架中的 SATA SSD 被 NVMe/PCIe Gen3 x1 SSD 取代時,驅動器托架帶寬和 IOPS 性能提高 3%6
- 在 SATA = 13GB/s 吞吐量的情況下,當 U.4 驅動器托架中的 SATA SSD 被 NVMe/PCIe Gen4 x3 SSD 取代時,提供 0.6 倍的托架容量性能提升; x1 PCIe Gen3 NVMe = 0.98GB/s; 和 PCIe Gen4 NVMe x4 = 7.76GB/s6
- 管理
- 通過 UBM 為所有服務器存儲協議提供相同的管理工具
- 通用連接
- 將 SAS 和 SATA 的連接優勢擴展到 NVMe
- 消除了對特定於協議的適配器的需要
- 使 U.2-(SFF-8639 模塊)或 U.3-(SFF-TA-1001)兼容驅動器能夠用於同一存儲架構
- 通過通用背板和共享佈線基礎設施降低系統成本
- 降低系統購買的複雜性(消除了選擇“錯誤的”背板和存儲適配器的可能性
U.3 平台滿足了許多行業需求:降低 TCO 支出,降低存儲部署的複雜性,在 SATA、SAS 和 NVMe 之間提供可行的替代路徑,保持與當前基於 U.2 NVMe 的平台的向後兼容性,同時保護客戶的初始存儲投資。
關於作者:
John Geldman 是 KIOXIA America, Inc.(前身為 Toshiba Memory America, Inc.)的 SSD 行業標準總監,領導存儲標準活動。 他目前參與的標準活動涉及 JEDEC、NVM Express、PCI-SIG、SATA、SFF、SNIA、T10、T13 和 TCG。 三十多年來,他一直致力於標準活動,涵蓋 NAND 閃存、硬盤驅動器存儲、Linux 、網絡、安全和 IC 開發。 John 曾擔任 CompactFlash、SD 卡協會、USB、UFSA、IEEE 1667、JEDEC、T10 和 T13 的董事會成員、主管、主持或編輯規範,目前擔任 NVM Express 的董事會成員,公司 |
約翰·格爾德曼,鎧俠
里克·庫奇帕爾Broadcom Inc. 數據中心存儲部門的營銷經理,擁有 25 年的計算機和數據存儲業務經驗。 他負責協調 Broadcom 的大部分全球存儲標準活動。 在加入 Broadcom 之前,Rick 在 LSI Logic 擔任產品經理近 15 年,並在推出業內首款 12Gb/s SAS 擴展器方面發揮了重要作用。 在其職業生涯的早期,Rick 為 Evans & Sutherland 設計了先進的芯片和板級系統。 如今,Rick 是 SCSI 貿易協會 (STA) 的董事會成員,在定義和推廣 SAS 技術方面發揮著重要作用。 |
里克·庫奇帕爾,博通
Cameron Brett 是 KIOXIA America, Inc.(前身為 Toshiba Memory America, Inc.)的企業營銷總監,負責企業 SSD、軟件和內存產品的對外營銷和消息傳遞。 他代表鎧俠擔任 NVM Express 營銷工作組的聯席主席、SCSI 貿易協會 (STA) 的董事會成員和主席,以及存儲網絡行業協會 (SNIA) SSD SIG 的聯席主席。 Cam 是存儲行業 20 年的資深人士,曾在 Toshiba Memory、PMC-Sierra、QLogic、Broadcom 和 Adaptec 擔任過產品營銷和管理職位。 |
卡梅隆布雷特,鎧俠
商標:
Broadcom 是 Broadcom Inc. 的註冊商標。Linux 是 Linus Torvalds 的商標。 NVMe 和 NVM Express 是 NVM Express, Inc. 的商標。 PCIe 是 PCI-SIG 的註冊商標。 SCSI 是 SCSI, LLC 的商標。 所有其他商標或註冊商標均為其各自所有者的財產。
注意:
1SFF-1001 的 SFF-TA-4 通用 x8639 鏈路定義規範可在以下網址獲得: http://www.snia.org/sff/specifications.
2SFF-8639 模塊規範可在以下網址獲得: http://www.pcisig.com/specifications.
3 資料來源:國際數據中心。 – “2019-2023 年全球固態硬盤預測更新,市場預測表 12,Jeff Janukowicz,2019 年 44492119 月,IDC #XNUMX。
4SFF-TA-1005 通用背板管理 (UBM) 規範可在以下網址獲得: http://www.snia.org/sff/specifications.
5資料來源:Broadcom Inc. – “SAS、SATA 和 NVMe 驅動器托架的通用管理方法 – SFF-TA-1005 又名 UBM:通用托架管理。”
6性能數字代表連接器上運行的接口的物理能力,並不代表主機總線適配器或存儲設備的能力。
產品圖片學分:
圖 1:SAS/SATA 和 PCIe 的獨立存儲配置:
- SAS 擴展器:來源 = Avago Technologies – Avago Technologies 12Gb/s SAS 擴展器,SAS35x48
- SAS HBA:來源 = Broadcom Inc. – Broadcom 9400-8i SAS 12Gb/s 主機總線適配器
- PCIe 交換機:來源 = Broadcom Inc. – Broadcom PEX88096 PCIe存儲開關
- SSD:來源 = KIOXIA America, Inc. – PM5 12Gbps 企業級 SAS SSD、RM5 12Gbps 超值 SAS SSD、HK6 企業級 SATA SSD、CM6 PCIe 4.0 企業級 NVMe SSD 和 CD6 PCIe 4.0 數據中心 NVMe SSD
圖 2:三模/通用背板:
- 三模控制器:來源 = Broadcom Inc. — Broadcom 9400-16i 三模存儲適配器
- SSD:來源 = KIOXIA America, Inc. – PM5 12Gbps 企業級 SAS SSD、RM5 12Gbps 超值 SAS SSD、HK6 企業級 SATA SSD、CM6 PCIe 4.0 企業級 NVMe SSD 和 CD6 PCIe 4.0 數據中心 NVMe SSD