在 VMware Explore 大會上，博通推出了 VMware Private AI Cloud，這是一種旨在讓 AI 模型在企業資料附近運行的私有雲架構。該平台並非將敏感資料遷移到外部模型供應商，而是將模型部署到企業私有基礎架構的資料環境中。
VMware 私有 AI 雲端將 VMware Cloud Foundation (VCF)、VMware AI Factory、VMware Tanzu 平台、VMware vDefend 和 VMware Avi 負載平衡器整合到一個統一的環境中，用於運行推理工作負載、代理應用程式、容器化服務和傳統虛擬機器。這種方法為企業提供了一個通用的基礎架構和維運模型，用於 AI 和通用工作負載，同時保留對資料位置、安全性策略和資源消耗的控制權。
博通基礎設施軟體集團總裁拉姆·維拉加將該平台描述為私有雲和私有人工智慧基礎設施的融合點。其目標是在不犧牲資料主權、合規性控製或可預測營運成本的前提下，支援生產推理和智慧體應用。
VCF 瞄準 AI 基礎設施和代幣成本
VMware 私有 AI 雲端旨在解決企業 AI 部署中的三個主要成本領域：硬體資本支出、維運複雜性和代幣消耗。隨著企業從小型 AI 試點計畫轉向需要更大模型、更高請求量和更多 GPU 容量的生產級推理工作負載，這些成本可能會增加。
VMware Cloud Foundation 9 引進了旨在提升資源利用率的基礎架構功能。 NVMe 記憶體分層技術可利用高速 NVMe 儲存作為額外層來擴展可用記憶體容量，而叢集範圍的儲存去重功能則可減少環境中的重複資料。這些功能旨在提高需要大量記憶體和儲存資源的 AI 工作負載的基礎架構效率。
VCF 也支援異質基礎設施，包括來自多家供應商的 CPU、GPU 和其他加速器。該平台支援主要 OEM 和 ODM 廠商提供的伺服器系統，使企業能夠根據工作負載需求、可用性和成本選擇硬件，而不是採用單一的硬體配置。
該平台還新增了用於控制 AI 資源消耗的管理功能。令牌監控功能可讓您了解模型使用情況和推理活動，而多租戶模型共用功能則允許多個使用者或應用程式存取通用模型服務。增強的 GPU 和 vGPU 追蹤功能可提供更詳細的加速器分配和利用率資訊。 AI 指標可觀測性儀表板將這些測量結果集中到一個統一的運行視圖。
VMware AI Factory 實現生產流程自動化
博通公司也發布了 VMware AI Factory，這是 VMware 私有 AI 雲端的軟體定義基礎架構。 VMware AI Factory 旨在簡化 AI 就緒型基礎架構的部署，並縮短從實體硬體到生產模型終端的遷移時間。
該平台旨在涵蓋初始基礎設施部署和後續的日常運維。這包括自動化基礎設施配置、部署模型服務以及管理部署後 AI 工作負載的維運需求。博通也將 VMware AI Factory 定位為一種機制，用於隨著模型使用量的增加，提高對代幣經濟和資源消耗的可見度。
VCF 模型運行時基於 vLLM，後者為受支援的模型提供了一個通用的服務層。博通公司表示，VCF 客戶可以透過該平台運行超過 150 種開源和商業模式。這使得企業可以根據語言支援、上下文需求、多模態能力、推理效能和硬體相容性來選擇模型。
經過驗證的模型支援私有模型服務
博通公司宣布，已對來自Google、英偉達、NEC、阿里雲和Z.ai的模式進行了測試和驗證，使其符合VMware Cloud Foundation的要求。此驗證計畫旨在為企業提供更清晰的路徑，使其能夠在本地部署選定的模型，並透過模型即服務（Model-as-a-Service）產品提供給內部用戶。
VCF公佈的已驗證模型包括：
- NVIDIA Nemotron 3： Nemotron 3 系列包含基於混合 Mamba-Transformer 專家架構的開放式多模態模型。這些模型支援高達 1 萬個令牌的上下文窗口，專為企業應用程式中長時間運行的智慧體工作流程而設計。
- Google DeepMind Gemma 4： Gemma 4 是一個開源、開放權重的多模態模型系列，專為本地執行而設計。它在 VCF 上的可用性使組織可以選擇在其自身的基礎架構中開發和部署自主代理。
- NEC cotomi： NEC 的 Cotomi 模型針對日語進行了最佳化，並使用精心挑選的資料集進行訓練。博通公司表示，該模型可將詞元處理效率提高 40%。
- 阿里雲 Qwen 3.7-27B： 專有的多模態模型，具有 1 萬個令牌的上下文視窗。它包含多模態推理功能，專為智能體工作負載而設計。
- Z.ai GLM 5.2： GLM 5.2 是一個開源的通用語言模型，專為本地編碼和推理代理而設計。此模型旨在支援多步驟自主工作流程，同時將資料保留在企業環境之內。
模型驗證工作旨在降低企業在私有基礎架構上運行商業和開源模型時所面臨的部署不確定性。博通公司表示，模型供應商正與該公司合作，透過 VCF 的整合服務提供經過驗證的模型。
博通發布的《2026年私有雲展望》報告顯示，56%的企業已經在私有雲上運作或計劃運行生產級AI推理。 VCF能夠支援這些部署，並與現有的虛擬機器、Kubernetes工作負載和容器化服務無縫整合。
據博通公司稱，使用 MLPerf Inference v5.1 標準進行的獨立測試證實，VCF 的性能與裸機基礎設施相當。該測試旨在證明，虛擬化和私有雲管理可以支援生產環境中的推理，而無需單獨的裸機 AI 堆疊。
面向人工智慧工作負載的縱深防禦安全
VMware 私有 AI 雲採用與 NIST 網路安全框架 2.0 一致的縱深防禦安全模型。該平台結合了基礎設施控制、網路分段、應用層保護、供應鏈安全和持續合規性功能。
VMware vDefend 提供微隔離和虛擬機器管理程式層級的橫向安全控制。虛擬修補程式旨在保護工作負載免受已知漏洞的侵害，而無需立即更改應用程式或中斷基礎架構。流量監控還可以識別工作負載之間的異常通信，並有助於偵測未經授權或影子 AI 部署。
博通公司正在將 vDefend 擴展到代理型人工智慧工作負載。更新後的功能旨在透過持續的流量監控來識別代理元件，偵測未經授權的人工智慧系統使用情況，並使用人工智慧產生的入侵偵測和防禦系統 (IDPS) 簽章來分發虛擬修補程式。
VMware Avi 負載平衡器透過其 Web 應用防火牆和 API 安全功能，增強了應用層保護。對於代理工作負載，Avi 旨在限制代理存取未經授權的工具，識別可能表明零時差攻擊的異常行為，並應用資料保護控制措施，以幫助防止未經授權的資料外洩。
TrueSource 擴展開源供應鏈控制
博通也推出了用於私人人工智慧環境的軟體和資料服務的 TrueSource 功能。 TrueSource Trusted Artifacts 將潔淨室建置流程應用於 Java、Python 和 Node.js 生態系統以及 Bitnami Secure Images 目錄。
Spring Enterprise 版本由 Spring 團隊精心策劃和維護。博通公司表示，這些版本包含的修補程式會針對前沿模型進行掃描並經過人工驗證，修復程式會推送至所有支援的版本線。
TrueSource 資料服務將相同的方法擴展到資料基礎設施元件。初始服務包括 PostgreSQL、RabbitMQ、MySQL 和 Valkey。這為常用的資料庫和訊息傳遞元件提供了一個可控的資料來源，這些元件可以支援人工智慧應用和智慧體工作流程。
Tanzu平台新增自主代理控制功能
博通也宣佈為 VMware Tanzu 平台推出全新的 AI 就緒資料基礎架構和代理程式執行時間功能。 Tanzu 平台定位為 VMware 私人 AI 雲端中的應用程式和代理平台。
自主代理帶來的風險與傳統應用程式有所不同。代理可以獨立查詢資料、呼叫工具、解讀指令，並在互聯繫統中執行操作。如果缺乏足夠的控制措施，代理可能會超出其權限範圍、存取未經授權的資源、洩露敏感訊息，或產生意想不到的基礎設施和雲端出口流量成本。
Tanzu 平台採用預設拒絕的運行時模型來應對這些風險。除非獲得明確授權，否則代理程式無法存取 API、網路、MCP 伺服器或網際網路。隔離的憑證儲存庫對代理程式本身隱藏憑證，從而降低了憑證被盜、濫用和提示注入攻擊的風險。
該平台還包含一個預先建置的開發者工具箱，其中包含已批准的技能、工作流程建置套件、人機互動控制以及整合記憶體服務。這些元件旨在為建置代理程式提供可控的開發路徑，同時在執行過程中保持運作安全保障。
AgentMinder 提供集中式代理控制
博通公司發布了 AgentMinder，作為自主人工智慧代理的中央控制平台。該系統將每個代理視為企業身份，並將該身份與預先定義的任務、已批准的工具和授權資源關聯起來。
運行時策略執行對工具呼叫應用最小權限原則。這使得企業能夠確定代理商可以使用哪些工具以及在何種條件下可以使用。 AgentMinder 也提供代理活動的稽核記錄，使安全和合規團隊能夠了解自主系統所採取的操作。
代理身分、策略執行和可審計性的結合旨在為跨部門和應用程式部署多個代理的組織提供治理層。
具備人工智慧能力的資料基礎架構能夠維持企業內部的脈絡訊息
Tanzu平台全新的AI就緒型資料基礎架構可在客戶可控的環境中處理結構化和非結構化企業資料。由此產生的資料產品旨在為客服人員提供經過篩選、富含上下文資訊的內容，而無需將來源資料離開私有雲。
這些數據產品可以作為受控服務發佈到 Tanzu 平台市場。開發者和代理商可以透過集中式目錄發現和使用這些服務，而資料所有者則保留對資訊準備、公開和管理方式的控制權。
該方法旨在透過向模型提供更相關的信息，提高代理可獲取的上下文質量，減少對未經整理資料的依賴，並降低令牌消耗。它還有助於將敏感資料、元資料和運算資源保留在組織可控的基礎設施內。
庫存情況
博通表示，在 VMware Explore 大會上發表的全新 VMware Tanzu 平台功能將於 2026 年秋季正式推出。
Amazon