存儲評論網

WEKA宣布NeuralMesh AIDP正式上線

AI  ◇  企業

WEKA宣布其NeuralMesh AI數據平台正式發布。該平台是一個面向企業、可組合的基礎架構,專為AI工廠部署而設計。 NeuralMesh AIDP基於NVIDIA AI資料平台參考架構構建,提供了一個整合堆疊,可將AI就緒資料交付到生產環境,重點在於加速大規模AI應用的部署。

該平台旨在解決企業人工智慧應用過程中長期存在的挑戰。雖然許多組織已經完成了概念驗證項目,但將這些實現擴展到生產環境時,往往會暴露出資料基礎設施、效能穩定性和維運複雜性方面的限制。 NeuralMesh 旨在透過提供一個統一的資料平台來應對這一過渡階段,該平台針對早期實驗和生產規模的工作負載都進行了最佳化。

建築與設計

NeuralMesh 平台基於十餘年的 AI 原生儲存開發經驗,並整合了 170 多項專利。該平台旨在高效擴展至 EB 級環境,同時保持卓越的效能和彈性。 WEKA 將 NeuralMesh 定位為自適應系統,能夠隨著部署次數的增加而不斷優化,尤其是在資料存取模式和並發性隨時間增長的分散式 AI 環境中。

WEKA 神經網格儀表板圖形

該平台的核心是 WEKA 的增強型記憶體網格 (Augmented Memory Grid),它透過將推理上下文外部化並持久化來擴展 GPU 記憶體。這種架構透過減少冗餘運算和跨會話維護上下文,提高了 GPU 資源的利用率。在推理工作負載中,該公司報告稱,與傳統儲存方法相比,每個 GPU 最多可處理 6.5 倍的令牌,這反映出在處理大型上下文視窗和並發工作負載方面效率的顯著提升。

與 NVIDIA AI 基礎架構集成

NeuralMesh AIDP 與 NVIDIA 的 AI 資料平台緊密整合,可與 GPU、網路和資料處理技術無縫接軌。該平台旨在支援連續資料管道和持久推理上下文,這對於生產環境中的智慧體 AI 系統至關重要。 NVIDIA 強調了持久上下文層的重要性,它能夠隨著推理工作負載的擴展,保持系統的穩定性和效能。

此解決方案以預先整合平台的形式提供,包含經過驗證的NVIDIA RTX 6000 PRO和 RTX 4500 PRO 伺服器版 GPU 配置,以及來自 Red Hat、Spectro Cloud 和 Supermicro 等供應商的生態系統整合。這種一體機式交付模式降低了部署複雜性,並加快了生產上線速度。

AI工廠賦能

WEKA 將 NeuralMesh AIDP 定位為 AI 工廠的基礎設施,其中資料攝取、處理和推理以連續、互聯的工作流程形式運作。這些環境需要的不僅僅是原始儲存容量,它們還依賴持續的資料傳輸、上下文持久性和負載下的可預測效能。

NeuralMesh旨在透過實現儲存和運算資源之間的連續資料循環來滿足這些需求。這使得組織能夠在維持高GPU利用率的同時,支援包含訓練、微調和推理等動態多階段AI流程。

預先建置的AI工作負載

該平台包含一系列預先配置的AI應用流程,使組織無需進行大量整合即可部署常見工作負載。這些工作負載包括語義搜尋、視訊搜尋和摘要、用於藥物發現的AlphaFold工作流程以及智能體檢索增強生成用例。

在生產環境中,NeuralMesh 已被應用於多個領域。在醫療保健和生命科學領域,它支援大規模資料分析工作流程,例如識別患者群體和處理冷凍電子顯微鏡資料集。在金融服務領域,它能夠分析市場訊號並安全地存取機構知識。公共部門的部署著重於情境威脅偵測和自動化證據合成。在機器人和實體人工智慧領域,該平台縮短了資料收集和模型重新訓練之間的時間,從而提高了系統響應速度和部署週期。

庫存情況

NeuralMesh AI 資料平台可立即以裝置式解決方案的形式提供。

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。