思科公佈了企業級 AI 基礎架構的全新藍圖，旨在以安全性、速度和治理為核心，釋放 AI 代理工作負載的潛力。此次發布擴展了思科與 NVIDIA 合作的“安全 AI 工廠”，涵蓋了新的用例，其中最引人注目的是檢索增強生成 (RAG) 管道的加速。這能夠加快資料提取和檢索速度，使 AI 代理能夠安全地即時存取所需資訊。
Agentic AI 的建構模組
該架構的基礎是思科 AI POD，它現在已與 VAST Data AI OS 的關鍵元件 VAST InsightEngine 緊密整合。這些 AI POD 將原始企業資料轉換為 AI 就緒資料集，並利用 NVIDIA AI 資料平台參考設計來簡化效能和部署。
在這些 POD 內部，思科的 UCS 伺服器產品組合搭載 NVIDIA RTX PRO 6000 Blackwell 伺服器版 GPU，提供專為新一代 AI 應用量身打造的高效能運算能力。思科 RTX PRO 伺服器是首批採用 NVIDIA AI 資料平台參考設計的系統之一，進一步鞏固了思科作為企業級 AI 基礎架構供應商的地位。
在網路方面，思科的高效能乙太網路可確保運算和資料節點之間的無縫連接。結合 NVIDIA 加速運算和 AI 軟體，此統一堆疊可降低延遲，使 AI 模型和代理程式能夠更快速地與業務資料互動。
思科運算資深副總裁兼總經理 Jeremy Foster 強調了代理 AI 的變革潛力，並指出思科與 NVIDIA 和 VAST 的合作對於建立支援企業 AI 採用下一章的架構至關重要。
NVIDIA 企業 AI 副總裁 Justin Boitano 補充道，代理 AI 的未來取決於能否在推理過程中安全地利用企業資料作為基礎和上下文。他強調，此次合作旨在創建一個統一的平台，用於可擴展的 AI 代理部署。
VAST Data 策略聯盟總裁 John Mao 表示，VAST InsightEngine 與思科 AI POD 的整合是「一項關鍵進展」。他補充道，此次合作標誌著安全、協作的 AI 代理新時代的開始，其規模之大前所未有，尤其是首次針對 RAG 加速優化的整合設計。
滿足企業 AI 基礎設施需求
Agentic AI 帶來了獨特的基礎設施挑戰。企業的目標是部署能夠與人類以及其他智慧體互動的 AI 代理，以解決複雜且多步驟的問題。為了實現這一目標，基礎設施必須滿足以下要求：
- 減少 RAG 管道的延遲，將資料檢索時間從幾分鐘縮短到幾秒，以實現近乎即時的人工智慧回應。
- 可擴展性設計，因此多個代理程式和工作負載可以同時高吞吐量運行，從而支援企業規模的高階推理和動態學習。
- 安全性和治理已融入架構，包括基於角色的存取控制、合規性功能和審計準備，確保敏感資料受到保護，同時仍推動人工智慧創新。
透過將運算、網路、儲存和治理結合到統一的解決方案中，思科的安全 AI 工廠為企業提供了大規模部署代理 AI 的可信任框架。
庫存情況
思科 AI POD 現已開放訂購，該產品搭載 VAST InsightEngine，由 NVIDIA AI 資料平台提供支援。這款經過 RAG 優化的設計是思科 AI 服務 POD 系列的首款產品，旨在支援各行各業的多樣化企業用例。
Amazon