HPE 發布了 HPE AI Grid，這是一款與NVIDIA AI Grid參考架構相容的綜合基礎架構解決方案。它旨在安全地連接區域和遠端邊緣位置的 AI 工廠和分散式推理叢集。 HPE 將此平台定位為服務提供者的專屬平台，幫助他們將數千個分散式推理站點部署和管理為一個統一的協調系統。
HPE推出AI Grid解決方案，旨在滿足日益增長的對可預測延遲、確定性效能和分散式部署需求的AI原生應用。該公司聲稱，該解決方案可大規模實現超低延遲，並提供零接觸配置、整合編排和自動化安全功能，從而簡化大型、地理位置分散部署的生命週期管理。
HPE 執行副總裁、總裁兼網路業務總經理 Rami Rahim 將該策略描述為將智慧技術更靠近資料產生和使用地點，網路基礎設施將成為即時 AI 服務的關鍵推動因素。 NVIDIA 全球電信業務副總裁 Chris Penrose 強調了 AI Grid 在連接地理位置分散的叢集以及根據效能、成本和延遲動態分配工作負載方面的重要性，其中 HPE 提供多雲路由和邊緣基礎設施，而 NVIDIA 則提供加速運算和網路元件。
全端硬體和網路基礎
HPE 表示，HPE AI Grid 提供了一個統一的軟硬體平台，旨在支援服務供應商的營運模式，包括多租戶和雲端原生安全。該架構以 HPE Juniper 的電信級網路功能為核心，包括多雲路由和用於長途及城域連接的相干光模組。 HPE 還強調了整合防火牆、廣域網路自動化和編排功能，以實現零接觸部署和持續生命週期管理。
在運算方面，HPE 將邊緣伺服器和機架伺服器與 NVIDIA 加速運算以及高效能網路和 I/O 堆疊結合。 HPE 列出了對 NVIDIA RTX PRO 6000 Blackwell 伺服器版 GPU、NVIDIA BlueField DPU、Spectrum-X 乙太網路交換器和 ConnectX SuperNIC 的支援。該堆疊還包含 NVIDIA AI 藍圖，以加速跨分散式網站部署推理服務。
服務提供者重點
HPE 將 AI Grid 定位為面向需要可預測延遲和可靠連接的應用，包括零售個人化、預測性維護、邊緣醫療和營運商級 AI 服務。該公司表示，該平台可以幫助營運商將現有電力和連接設施的站點轉化為支援無線存取網 (RAN) 的 AI Grid 節點，從而有效擴展推理的適用範圍，而無需將每個位置視為單獨的部署。
實地試驗和合作夥伴生態系統
作為更廣泛的AI Grid計劃的一部分，康卡斯特宣佈在其分散式網路上進行新的AI現場試驗，重點是即時邊緣推理。 HPE表示，早期試驗包括在HPE ProLiant伺服器上運行來自Personal AI（HPE Unleash AI合作夥伴計畫的一部分）的小型語言模型，這些模型部署在NVIDIA GPU上，用於為小型企業提供AI驅動的「前台」服務。
Amazon