存儲評論網

NVIDIA Minerva 透過戴爾、聯想和超微等企業將 AIOps 引入 AI 工廠

企業  ◇  軟體

NVIDIA 在柏林 GTC 大會上發布了 Minerva,這是一個 AIOps 平台,它能夠從 GPU、網路、儲存、調度器以及運行在其上的 AI 工作負載中提取遙測數據,然後應用機器學習技術在性能下降的組件影響訓練作業之前將其找出。戴爾科技、聯想和 Supermicro 將在其 AI 工廠運維產品組合中提供 Minerva,IREN 已在運行該平台,而 IBM、Jio、Lambda、Quake AI、特斯拉、Aolani 和 Bitdeer AI 也計劃部署它。 NVIDIA 尚未公佈定價或正式上市日期。

NVIDIA Minerva AIOps 控制面板顯示了異常時間軸、作業失敗調查以及 AI 工廠機架前的 GPU 拓撲圖。

Minerva 針對的問題是每個大型叢集營運商都熟知的:高速架構上的數千個 GPU 如同單一機器運行,因此單一 GPU 效能下降會導致整個作業受到影響。 NVIDIA 舉例說,例如某個 GPU 的溫度高於相鄰 GPU,或者 NVMe 固態硬碟在高負載下效能下降——這類資料訊號如今存在於網路工具、運算工具和機器學習團隊的儀表板中,每個工具都提供對同一叢集的不同視圖。

Minerva手錶

Minerva 建立了一個動態知識圖譜,該圖譜映射了 GPU、SuperNIC、交換器、線纜以及調度到這些設備上的作業,然後利用監督式和非監督式機器學習,分析 NVIDIA 所說的每小時數十億個數據點。這些模型學習工廠的正常行為,標記先前未曾遇到的異常情況,預測正在發生的故障,並利用拓撲結構關聯相關事件,從而能夠追蹤到跨工廠的緩慢訓練作業的罪魁禍首——NVIDIA 的規模可達數十萬個 GPU。

輸出結果以事件的形式組織,相關事件被歸類為單一條目,並附上可能的根本原因。 NVIDIA 表示,這種方式可以將大量警報簡化為一個可操作的條目。內建助理可根據即時遙測數據回答自然語言問題,並建議修復方案。該平台還可以連接到外部代理工具。維運人員可以選擇由人工執行修復,或由 Minerva 透過基礎設施 API 和外部系統交給自動化系統處理。

NVIDIA 將收益定義為 AI 工廠的產量,並以 GPU 運行小時數、吞吐量、叢集正常運行時間和代幣產量來衡量。他們聲稱的成果包括更長的中斷間隔、更快的修復速度和更少的警報處理,使維運團隊從被動維護轉變為主動維護。這些都是廠商的說法,並沒有提供具體數據;NVIDIA 尚未公佈 Minerva 的平均修復時間或正常運行時間數據。

它在堆疊中的位置

NVIDIA 已開始銷售其參考設計的維運軟體。 Mission Control於 2025 年 3 月發布,它透過 Base Command Manager 處理叢集配置,透過 Run:ai 處理工作負載管理,並提供遙測和 DGX SuperPOD 系統的自主作業恢復功能。在 Minerva 發布同一周,NVIDIA 也發布了三個用於 AI 工廠生命週期管理的開源 DSX OS 元件的開發者預覽版:Config Manager 用於網路配置,Rack Management Service 用於機架級電源、庫存、韌體和交換機管理,以及 Cluster Readiness Engine 用於驗證 GPU 叢集的分散式工作負載。

上週Meta公司發布的Prometheus報告充分展現了Minerva旨在解決的問題的規模。 Meta公司將每個NVL72域作為一個64GPU的切片運行,其餘8個GPU作為機架內備用,並保留約2%的機架作為備用,同時隔離所有修復後的系統,直至其通過驗證。經過與NVIDIA工程師長達一年的現場根本原因分析,中斷次數減少了99%,平均中斷間隔時間超過54,000 GPU小時,目標是達到100,000。

那是一家超大規模資料中心營運商,運行著專門建置的遙測管道,並與 NVIDIA 組建了聯合故障排查團隊。 Minerva 看起來像是這套流程的打包版本,更接近企業或新型雲端平台開箱即用的解決方案,能夠提供超大規模資料中心層級的 GPU、網路架構和儲存健康狀況可視性,以及相應的備用重啟工作流程,而且這一切都由銷售機架的同一家 OEM 廠商提供。

NVIDIA尚未說明Minerva與Mission Control或DSX OS的具體關聯,也未透露其將以軟體、裝置或託管服務的形式發布,以及戴爾、聯想和超微等廠商的OEM包裝會是什麼樣子。該產品的文件頁面引導客戶聯絡其NVIDIA客戶經理以取得使用者指南。客戶案例是IREN,NVIDIA表示IREN目前正在使用Minerva來優化其AI工廠。

「NVIDIA Minerva 為我們的營運團隊提供了一個統一的網路視圖,包括 GPU 及其上運行的作業,」IREN 首席技術長 Denis Skrinnikoff 表示,他認為 NVIDIA Minerva 使團隊能夠將更多時間投入到主動維護中。

在儲存方面,一個有趣的說法是,負載下的硬碟行為與GPU和互連架構遙測資料一起作為輸入數據,因為NVMe裝置速度下降時,通常只有在檢查點或資料載入階段停滯時才會反映在GPU利用率中。儲存遙測數據的深度,以及哪些OEM廠商和陣列平台提供這些數據,都是值得我們深入研究的細節,尤其是在該解決方案上市之後。

NVIDIA Minerva

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

布賴恩·比勒

Brian 位於俄亥俄州辛辛那提市,是 StorageReview.com 的首席分析師兼總裁。