NVIDIA 發布了 NVIDIA Open Agent Safety Platform（NVIDIA 開放代理安全平台），這是一個開放的軟體平台和參考系統設計，它在兩個層面上為自主 AI 代理設定了安全防護：主機 CPU 上的安全運行時和代理無法存取的 DPU 上的帶外監控程式。 NVIDIA 表示，近期代理安全事件的模式都相同，即代理繞過應用層控制來完成其分配的任務，因此 NVIDIA 的解決方案是將安全防護下移至應用層以下。平台發布之初，已有超過 100 家機構開始使用該平台，包括 Anthropic、Cisco、CrowdStrike、Dell Technologies、HPE、Microsoft、Palantir、Red Hat、Salesforce、SAP、Scale AI、ServiceNow 和 SpaceXAI。
「只有解決人工智慧安全問題，人工智慧對社會的巨大潛力才能實現，」英偉達創辦人兼執行長黃仁勳表示。 「在我們不斷探索人工智慧能力的前沿的同時，我們也必須加快人工智慧安全前沿領域的探索。安全保障需要全端工程。英偉達開放代理安全平台匯聚了行業、研究人員和公共部門組織，旨在分享最佳實踐、統一評估方法並促進國際合作。攜手並進，我們定能提升全球人工智慧安全標準。」
OpenShell：CPU上的運行時邊界
軟體部分是 NVIDIA OpenShell，這是一個安全運行時環境，最初在2026 年 GTC 大會上出現在 NemoClaw 參考堆疊中，之後又被Dell、HPE和SUSE AI Factory 堆疊所採用。 NVIDIA 現在稱其已廣泛可用。 OpenShell 在沙盒環境中運行代理，具有核心級隔離，在代理啟動前將操作員的指令轉換為可驗證的策略，並在執行期間強制執行這些策略：代理可以存取哪些檔案、網路、工具、進程和憑證。該邊界位於模型和代理框架之外，因此它以相同的方式應用於開放模型和封閉模型。程式碼以 Apache 2.0 許可證發佈在 GitHub 上。
NVIDIA 表示，OpenShell 在 NVIDIA Vera 上運行開銷極小，該公司稱 Vera 是首款專為智能體 AI 設計的 CPU，而且由於它是開源的，因此可以擴展到第三方平台，包括 Arm 和 Intel 處理器。
Sentry：BlueField-4 上的矽內強制執行
硬體部分是 NVIDIA Sentry，它是參考系統設計的帶外監控器，運行在 NVIDIA BlueField-4 DPU 上，並從代理程式和任何攻擊者都無法存取的信任域監控代理程式的行為。 NVIDIA 將其描述為「晶片內強制執行」：如果代理程式試圖越過其軟體邊界，Sentry 會在幾毫秒內將其隔離並阻止。它結合了威脅偵測、基於硬體的代理程式治理和資料存取保護，並且獨立於主機運行，因此即使代理程式運行時遭到入侵，監視器也不會受到影響。
Sentry 基於 NVIDIA DOCA 構建，後者提供可編程性，用於檢查代理的請求和回應、提供經認證的遙測資料、驗證代理身份，並對資料、工具、API 和服務實施細粒度的零信任存取策略。 NVIDIA 的技術部落格指出，在 Vera Rubin POD 系統中，BlueField-4 位於節點通往模型的唯一路徑上，這使得 Sentry 能夠在無需主機配合的情況下以線速進行觀察和執行。
誰在用它來建設
Anthropic 和 NVIDIA 將該平台與 Claude Managed Agents 結合，後者透過在不同的伺服器上運行代理程式和沙箱，實現了代理循環與其運行沙箱環境的分離；OpenShell 和 BlueField 的整合使企業能夠嚴格控制代理可以透過這些沙箱存取哪些資源。 「企業正在將更多最重要的工作交給 AI 代理，因此他們需要指導和驗證這些代理的行為，尤其是在敏感環境中，」Anthropic 首席商務官 Paul Smith 表示。 “Claude Managed Agents 使企業能夠清晰地了解每個代理的運行情況，而 NVIDIA 的平台則在硬體和軟體層面增加了一層額外的治理和控制。”
SpaceXAI 正在使用該平台進行 Cursor 編碼代理程式和 Grok 模型開發。 SpaceXAI 總裁 Mike Nicolls 表示：「隨著客戶越來越依賴代理來完成實際工作，安全性應該在模型外部通過代理無法繞過的額外控制措施來強制執行。客戶應該能夠為 Cursor 和 Grok 設定這些限制，並相信這些限制會得到遵守。」 Scale AI 正在將這些技術整合到其面向企業和政府客戶的 Scale GenAI 產品組合層中具有隔離特性
在應用程式方面，Salesforce 和 NVIDIA 已將 OpenShell 與 Slack 集成，以便團隊可以直接在 Slack 內查看客服人員活動、審核事件，並批准或拒絕客服人員提出的額外權限請求。 SAP 正在將 OpenShell 嵌入到 SAP Business AI 平台的 Joule Studio 運行時中，為 OpenShell 貢獻工程工作，並透過開放安全人工智慧聯盟 (Open Secure AI Alliance) 致力於制定互通性標準。 Figure、Gecko Robotics 和 Skild AI 正在利用 OpenShell 建立機器人，將客服人員安全控制功能整合到可在物理世界中運行的機器人中。花旗集團和摩根大通正與包括日立能源、EPRI、NextEra Energy、施耐德電氣和西門子能源在內的能源和電網營運商合作，共同開發以金融服務為導向的共享開源客服人員安全技術。
Canonical、SUSE 和 Red Hat 正在將該平台整合到各自的作業系統中，Red Hat 也正在混合雲環境中，利用 NVIDIA 的 Red Hat AI Factory 運行 OpenShell 和 DOCA。為該平台提供支援系統和服務的基礎設施合作夥伴包括 Baseten、Cisco、CoreWeave、Dell Technologies、GMI Cloud、HPE、HP Inc.、Lenovo、Microsoft、Nebius、Oracle Cloud Infrastructure、Supermicro 和 Together AI。
庫存情況
NVIDIA Open Agent Safety Platform 軟體（包括 OpenShell 及其相關技能）現已透過 NVIDIA 開發者資源和 GitHub 提供。該平台隸屬於 Open Secure AI Alliance，該聯盟由 NVIDIA 與 120 多個組織共同發起，並由 Linux 基金會管理；該聯盟致力於開展代理安全方面的開放研究、技能開發和工具開發，以及諸如 Shared AI Findings Exchange (SAFE) 等專案。
Amazon