NVIDIA 發布了 NVIDIA BlueField-2，繼續推進資料處理單元 (DPU) 的發展。 NVIDIA BlueField-2 DPU 被譽為資料中心的一體化基礎設施，並針對企業雲端和高效能運算 (HPC) 工作負載進行了最佳化。 BlueField-2 將 NVIDIA ConnectX-6 Dx 網路適配器與一系列 Arm 核心和基礎設施專用卸載元件結合，並提供專用的硬體加速引擎，同時具備完整的軟體可程式性。 Brian 今年早些時候在他的播客節目中與 NVIDIA 進行了一次討論。您可以在這裡了解更多關於 NVIDIA DPU 的資訊。
這些功能令人印象深刻，但首先，讓我們看一下 DPU 的演變。 如果您不了解歷史，可以跳至 NVIDIA BlueField-2 的詳細信息。 它始於 90 年代，當時英特爾 x86 處理器與操作系統相結合，為企業提供了無與倫比的能力。 接下來是客戶端/服務器，然後是分佈式處理的出現。 軟件開發和不斷增長的數據庫迅速加速，導致數據中心的硬件部署呈爆炸式增長。
2000 年代初，VMware 引入了 ESX 管理程序並將 x86 CPU 虛擬化，允許多個操作系統實例在單個服務器上運行。 VM 不一定是新的； 在創建 ESX 管理程序之前，IBM 在其大型機上運行虛擬機多年。 然而，這種發展導致了數據中心基礎設施聚合的增長。
硬件現在是可編程的，開發人員可以編寫代碼來定義和配置虛擬機，而無需人工干預。 這最終推動了向雲計算的遷移。
VMware 意識到其 ESX 平台的成功，並迅速進入存儲和網絡虛擬化領域。 EMC 也不甘示弱，與 Cisco 合作構建了自己的虛擬化網絡和存儲解決方案。 一連串的收購發生了。 VMware 開發了集成到其 vSphere 平台中的 vSANS。
這種融合基礎設施的發展被稱為軟件定義數據中心（SDDC）。 微軟、VMware、思科和 EMC 等大玩家都在爭奪 SDDC 市場。 一切都變得可編程：I/O、安全性、操作系統、應用程序等。SDDC 只是一個 CPU 組件，佔用了用於其他服務的可用資源。
所有這些融合和可編程性導致了人工智能 (AI) 的發展，其中開發了 GPU 來滿足這些圖形密集型應用程序的處理要求。 這導致硬件的發展從 CPU 卸載了一些操作。 網絡功能（通常是 CPU 密集型）被卸載，NVIDIA 抓住了這個新機會，收購了 Mellanox 以開發智能網絡適配器。
GPU 變得更加智能，而智能 NIC 在從整個 SDDC 聚合中移除網絡和圖形處理方面發揮了關鍵作用。 最終，DPU 的發展是從 CPU 卸載智能的結果。
新的 NVIDIA BlueField-2 DPU 創建了一個片上系統，結合了多核 CPU、高性能網絡接口和可編程加速引擎。
NVIDIA BlueField-2 DPU——肉
CPU v GPU v DPU：是什麼讓 DPU 與眾不同？
DPU 是結合了三個關鍵元素的新型可編程處理器。 DPU 是片上系統或 SoC，它結合了：
- 一種行業標準、高性能、軟件可編程的多核 CPU，通常基於廣泛使用的 Arm 架構，與其他 SoC 組件緊密耦合。
- 一種高性能網絡接口，能夠以線速或網絡其餘部分的速度向 GPU 和 CPU 解析、處理和高效傳輸數據。
- 一組豐富的靈活和可編程的加速引擎，可以卸載和提高人工智能和機器學習、安全、電信和存儲等應用程序的性能。
NVIDIA® BlueField®-2 DPU 是首款針對現代云和 HPC 優化的數據中心片上基礎設施。 提供廣泛的加速軟件定義網絡、存儲、安全和管理服務，能夠卸載、加速和隔離數據中心基礎設施。 BlueField-200 DPU 配備 2Gb/s 以太網或 InfiniBand 連接，可加速控制平面和數據平面的網絡路徑，並配備“零信任”安全性以防止數據洩露和網絡攻擊。
NVIDIA ConnectX®-6 Dx 將網絡適配器與一系列 Arm® 內核和特定於基礎架構的卸載相結合，提供具有完整軟件可編程性的專用硬件加速引擎。 BlueField-2 位於每台服務器的邊緣，支持敏捷、安全和高性能的雲和人工智能 (AI) 工作負載，並在提高數據中心效率的同時降低 TCO。
NVIDIA DOCA™ 軟件框架使開發人員能夠為 BlueField-2 DPU 快速創建應用程序和服務。 NVIDIA DOCA 利用 DPU 硬件加速器，提高數據中心的性能、效率和安全性。
NVIDIA BlueField-2 DPU 特性
網絡和主機接口 |
儲存 |
| 網絡接口 | BlueField SNAP – NVMe™ 和 VirtIO-blk |
| 以太網 – 10/25/50/100Gb/s 雙端口，或 200Gb/s 單端口 | NVMe-oF™ 加速 |
| InfiniBand – EDR / HDR100 的雙端口，或 HDR 的單端口 | 壓縮和減壓加速度 |
| PCI Express接口 | 數據散列和重複數據刪除 |
| 8 或 16 條 PCIe Gen 4.0 通道 | 用於直連存儲的 M.2 / U.2 連接器 |
| 具有 8 個下行端口的 PCIe 開關分叉 | 網路相關 |
| ARM/DDR 子系統 | RoCE、零接觸 RoCE |
| 臂芯 | 無狀態卸載： |
| 多達 8 個 Armv8 A72 內核（64 位）流水線 | TCP/UDP/IP |
| 每 1 個內核 2MB 二級緩存 | LSO/LRO/校驗和/RSS/TSS/HDS |
| 6MB L3 高速緩存，具有多種逐出策略 | VLAN插入/剝離 |
| DDR4 DIMM 支持 | SR-IOV |
| 單個 DDR4 DRAM 控制器 | 虛擬網絡 |
| 8GB / 16GB / 32GB 板載 DDR4 | 每端口多功能 |
| ECC錯誤保護支持 | VMware NetQueue 支持 |
| 硬件加速 | 虛擬化層次結構 |
| 安全性 | 1K 入口和出口 QoS 級別 |
| 使用硬件信任根的安全啟動 | 啟動選項 |
| 安全固件更新 | 安全啟動（RSA 認證） |
| 符合 Cerberus 標準 | 通過以太網遠程啟動 |
| 正則表達式（RegEx）加速 | 通過 iSCSI 遠程啟動 |
| IPsec/TLS 動態數據加密 | PXE 和 UEFI |
| AES-GCM 128/256 位密鑰 | 管理 |
| AES-XTS 256/512 位靜態數據加密 | 1GbE 帶外管理端口 |
| SHA 256 位硬件加速 | NC-SI、SMBus 上的 MCTP 和 PCIe 上的 MCTP |
| 硬件公鑰加速器 | 用於監視和控制的 PLDM DSP0248 |
| RSA、迪菲-赫爾曼、DSA、ECC、 | 用於固件更新的 PLDM DSP026 |
| EC-DSA，EC-DH | 用於設備控制和配置的 I2C 接口 |
| 真隨機數生成器 (TRNG) | SPI接口到閃存 |
| eMMC 內存控制器 | |
| UART | |
| USB |
用於存儲、網絡和機器學習的 DPU
讓我們來看看新的 BlueField-2 如何處理快速存儲技術。 BlueField 為存儲平台提供完整的解決方案，例如 NVMe over Fabrics (NVMe-oF)、全閃存陣列 (AFA) 和用於 JBOF 的存儲控制器、服務器緩存 (memcached)、分解式機架存儲和橫向擴展直接-附加存儲。 該 DPU 的智能使其成為靈活的選擇。
NVIDIA在這裡發布了 BlueField-2的出色測試結果。測試環境也包含在部落格文章中。
完整的存儲解決方案
BlueField-2 將 Arm 內核的處理能力用於存儲應用程序，例如使用 NVMe-oF、Ceph、Lustre、iSCSI/TCP 卸載、閃存轉換層、數據壓縮/解壓縮和重複數據刪除的全閃存陣列。
在高性能存儲陣列中，BlueField-2作為系統的主CPU，處理存儲控制器任務和流量終止。 它還可以配置為協處理器，從主機卸載特定的存儲任務，將部分存儲介質與主機隔離，或者使用 BlueField Arm 內核實現軟件定義存儲邏輯的抽象。
NVMe over Fabrics 功能
利用 NVMe-oF 的高級功能，基於 BlueField RDMA 的技術可提供與本地存儲相當的遠程存儲訪問性能，同時將 CPU 開銷降至最低，從而實現高效的分解存儲和超融合解決方案。
存儲加速
BlueField 內建 PCIe 交換器可讓客戶建置獨立的儲存設備，並將單一 BlueField 連接到多個儲存設備，而無需外部交換器。
簽名移交
BlueField嵌入式網路控制器支援對T10資料完整性欄位/保護資訊（T10-DIF/PI）進行硬體檢查，從而降低軟體開銷並加快資料傳輸到應用程式的速度。簽章切換由適配器在入站和出站資料包上處理，從而減輕發起端和目標端軟體的負載。
用於網絡和安全的 BlueField
無論是作為智慧網卡或獨立網路平台，全新的 Bluefield-2 都能高效部署網路應用。 Bluefield結合了先進的卸載技術和 Arm 的運算能力，可在線上終止網路和安全協定。
BlueField 智能網卡
作為網路適配器，您可以靈活地完全或部分實現資料平面和控制平面，從而更有效地利用運算資源。適配器的可編程性使其能夠整合新的資料平面和控制平面功能。
BlueField 安全功能
在安全性方面，整合對稱和非對稱加密操作的加密卸載功能使其成為實施安全應用的理想選擇。安全性已融入資料中心基礎設施的基因，從而降低威脅暴露、最大限度地減少風險，並實現對潛在威脅的即時預防、偵測和回應。
無痛虛擬化
NVIDIA 的 PCIe SR-IOV 技術將幫助資料中心管理員提高伺服器利用率，同時降低成本、功耗和線纜複雜性，從而允許在同一硬體上運行更多虛擬機器和租用戶。這無疑解決了總體擁有成本 (TCO) 的擔憂。
覆蓋網絡
資料中心營運商利用網路疊加技術（VXLAN、NVGRE、GENEVE）來克服可擴展性障礙。此DPU透過提供封裝/解封裝疊加協定頭的高階卸載引擎，使傳統卸載機制能夠作用於隧道協議，並卸載NAT路由功能。
用於機器學習環境的 BlueField
當然，NVIDIA 已經通過這款新的 DPU 解決了 AI/ML 市場，為機器學習設備提供具有成本效益的集成解決方案。 可以通過 PCIe Gen 3.0/4.0 接口連接多個 GPU。 憑藉其 RDMA 和 GPUDirect® RDMA 技術，BlueField-2 為實時分析和數據洞察提供高效的數據傳輸。
RDMA加速
網絡控制器數據路徑硬件利用 RDMA 和 RoCE 技術，以接近零的 CPU 週期提供低延遲和高吞吐量。
用於多 GPU 平台的 BlueField
BlueField-2 透過其整合的 PCIe 交換器支援連接多個 GPU。 BlueField支援 PCIe 4.0，可相容於下一代 GPU 裝置。
PeerDirect®
PeerDirect 是 Mellanox 的產品，它是一種加速通訊架構，支援 BlueField 與第三方硬體（例如 GPU（如 NVIDIA GPUDirect RDMA）、協處理器適配器（如 Intel Xeon Phi）或儲存適配器）之間的點對點通訊。 PeerDirect 提供了一種標準化的架構，使設備能夠直接透過光纖網路與遠端設備通信，從而避免不必要的系統記憶體複製和 CPU開銷，實現資料在設備間的直接複製。
GPUDirect RDMA 技術
圖形硬體效能的快速提升，以及GPU可程式性的最新進展，使得圖形加速器成為眾多應用領域中運算密集任務的理想平台。由於GPU擁有高核心數和強大的浮點運算能力，因此需要高速網路連接各個平台，以實現GPU間通訊的高吞吐量和最低延遲。 GPUDirect RDMA是Bluefield-2和NVIDIA GPU中實現的技術，它為GPU與高速互連之間的資料交換提供了一條直接路徑。
GPUDirect RDMA 可顯著提高不同叢集節點的GPU 裝置之間的通訊頻寬和通訊延遲。
結語
NVIDIA 測試揭示了 BlueField DPU 的以下性能特徵：
- 使用較小的 512B I/O 大小進行測試會導致更高的 IOPS 但低於線速吞吐量，而 4KB I/O 大小會導致更高的吞吐量但會降低 IOPS 數量。
- 100% 讀取和 100% 寫入工作負載提供相似的 IOPS 和吞吐量，而 50/50 混合讀取/寫入工作負載通過同時使用網絡連接的兩個方向產生更高的性能。
- 使用 SPDK 導致比內核空間軟件更高的性能，但是以更高的服務器 CPU 利用率為代價，這是預期的行為，因為 SPDK 在用戶空間中運行並不斷輪詢。
- 由於 Linux 社區定期添加的存儲改進，較新的 Linux 5.15 內核的性能優於 4.18 內核。
整體而言，內部測試結果相當出色。 BlueField -2 的 IOPS 達到了 41.5 萬，是目前市面上任何其他 DPU 的四倍以上。
標準網路測試結果同樣令人印象深刻。該DPU在4KB IOPS方面超過500萬次，在NVMe-oF 512KB IOPS方面超過700萬次，甚至超過2000萬次。如果您希望提升資料中心的整體效能，這款DPU應該能夠滿足您的需求。
Amazon