NVIDIA DOCA Argus 為 AI 工作負載提供即時、無代理程式的威脅偵測,使用 BlueField DPU 來增強安全性而不影響效能。
隨著企業加大對人工智慧的採用,確保「人工智慧工廠」(執行複雜代理工作流程的基礎設施)安全的需求從未如此迫切。 NVIDIA 的最新進展,尤其是在 BlueField DPU 上運行的 DOCA 軟體框架,重塑了組織處理 AI 工作負載運行時網路安全的方式。本文探討了 CPU 和 DPU 在此背景下的不同作用,重點介紹了 DOCA 如何利用 DPU 架構來提供下一代安全性。
CPU、DPU 與 DOCA
CPU 長期以來一直是通用運算的支柱,處理從應用邏輯到系統管理的各種任務。相較之下,DPU 專門用於卸載和加速以資料為中心的操作(例如網路、儲存和安全性),從而釋放 CPU 資源以用於核心業務邏輯。
NVIDIA DOCA(資料中心晶片基礎架構架構)是一個軟體框架,旨在釋放 BlueField DPU。 DOCA 提供了一個平台,用於直接在 DPU 上建置、部署和管理資料中心服務(包括高級安全性),獨立於主機 CPU。
架構比較:CPU 與 DPU 在 AI 安全性方面的比較
傳統的運行時安全方法依賴在 CPU 上運行的基於主機的代理程式。雖然該模型在許多情況下都有效,但它會帶來開銷,影響效能,如果主機受到威脅,則很容易受到攻擊。相較之下,DPU 獨立於主機運行,從而實現高效且有彈性的帶外安全操作。
以下是 DOCA 支援的 AI 安全背景下 CPU 和 DPU 策略的高級比較。
特性/能力 | CPU(基於主機) | DPU(BlueField 與 DOCA) |
---|---|---|
安全運營 | 在主機上運行,使用代理 | 在 DPU 上運行,無需代理 |
性能影響 | 可能會引入開銷 | 主機工作負載零開銷 |
攻擊者的可見性 | 可見,可停用 | 隱形,與宿主隔離 |
整合 | 需要主機集成 | 與企業安全平台(SIEM、SOAR、XDR)集成 |
彈性 | 如果主機被入侵,則容易受到攻擊 | 如果主機受到攻擊,仍可繼續運作 |
可擴展性 | 受主機資源限制 | 透過 DPU 部署進行擴展 |
DOCA Argus:即時、無代理威脅偵測
NVIDIA DOCA Argus 體現了以DPU為中心的方法的優勢。據 NVIDIA 稱,Argus 完全在 BlueField DPU 上運行,使用先進的內存取證技術提供即時威脅檢測,檢測速度比傳統無代理解決方案快 1,000 倍。由於所有安全操作都從主機 CPU 卸載,因此不會影響系統效能。
Argus 的無代理設計意味著不需要軟體代理或基於主機的集成,從而降低了操作複雜性和攻擊面。透過在主機外部運行,即使主機系統受到威脅,Argus 對攻擊者來說仍然是看不見的。與企業安全平台(SIEM、SOAR、XDR)整合可實現持續監控和自動威脅緩解,將現有的網路安全功能擴展到 AI 基礎架構。
使用案例:大規模保護 AI 工作負載
多租戶AI工廠
在多個團隊或客戶共享相同 AI 基礎架構的環境中,隔離和保護工作負載至關重要。具有 DOCA Argus 的 BlueField DPU 為容器化和多租用戶環境提供執行時間保護,確保偵測和控制威脅,而不會影響效能或需要更改主機。
自治資料中心
隨著企業大規模部署代理 AI 模型和自主代理,資料量和速度急劇增加。 DOCA Argus 經過最佳化,利用現實世界的威脅情報,僅顯示經過驗證的威脅,從而減少安全團隊的誤報和警報疲勞。這使得組織即使在 AI 營運規模擴大的情況下也能保持強大的安全態勢。
產業合作與生態系統
NVIDIA 和思科正在合作創建安全的人工智慧 (AI) 系統。透過在人工智慧流程的各個層面(從硬體到軟體)增加安全性,公司可以放心地使用和擴展其人工智慧應用程序,因為他們知道從一開始就內建了保護措施。
正如思科執行副總裁兼首席產品長 Jeetu Patel 所指出的,解鎖創新人工智慧用例的關鍵是從一開始就確保安全。 NVIDIA 和思科的聯合架構為企業擴展 AI 並保護其最寶貴的資料提供了基礎。
DPU在AI安全方面的優勢
從使用 CPU 到使用 DPU 來保障安全標誌著我們保護 AI 工廠方式的重大變化。透過 NVIDIA DOCA 等框架,企業可以使用 DPU 管理安全任務。這使得他們無需代理即可即時檢測威脅,從而使攻擊者更難發現他們的安全措施。該方法在保持高性能和高效率的同時提高了安全性。這些方面對於當今的大規模人工智慧系統至關重要。
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱