存儲評論網

Backblaze B2 和 WEKA NeuralMesh 被驗證為雙層 AI 儲存管道,B2 中具有 Snap-to-Object 檢查點

AI  ◇  企業

Backblaze 和 WEKA 已驗證其兩個平台在 AI 管線中的兼容性,將WEKA NeuralMesh作為效能層,為 GPU 提供數據,而Backblaze B2 雲端儲存則作為容量層,承載所有其他數據。整合、容量規劃、調優和測試均已完成,因此 AI 基礎架構團隊無需自行建置和驗證,即可部署經過驗證的雙層架構。 B2 對 NeuralMesh 的認證正在進行中,兩家公司都表示客戶可以立即聯繫其中任何一家以開始使用。

WEKA 和 Backblaze 的標誌並排顯示在深紅色和紫色漸變背景上

兩層架構,一個資料生命週期

原始的非結構化數據,例如訓練集、媒體庫和來源文件,儲存在 B2 中。當資料集成為對效能要求較高的作業的一部分時,它會提供給 NeuralMesh,並從那裡提供給加速器。一旦檢查點、輸出或其他任何資源不再需要高效能訪問,它就會傳回 B2,以便在後續運行中重複使用,或在作業需要恢復到早期階段時重新載入。這些公司將其描述為:GPU 所在區域提供速度,其他區域提供容量,資料會根據其存取模式的變化在兩者之間移動。

Backblaze 執行長 Gleb Budman 表示:「AI 團隊需要為 GPU 提供充足的數據,並需要一個性能和容量足以支持完整 AI 數據工作流程的基礎設施。WEKA 在性能層面已經爐火純青。而我們在容量存儲方面也投入了近二十年的時間。” WEKA 首席戰略官 Nilesh Patel 則描述了來自另一個工作方向的壓力: 兩個壓力方面從另一個方面開始存儲能力。需要微秒級的數據存取速度才能保持數據供應,而數據集和檢查點正以 EB 級的速度增長。

針對 B2 進行的捕捉對象測試

另一個有趣的功能是 NeuralMesh 的 Snap-to-Object,兩家公司表示他們已使用 Backblaze 對其進行了測試。 Snap-to-Object 會將 NeuralMesh 檔案系統的一致性快照寫入物件存儲,而以 B2 為目標,該儲存與原始資料和已刪除的檢查點儲存在相同容量層級。對於訓練運行而言,這意味著團隊可以從 B2 回滾到某個檢查點或恢復已保存的推理數據,而無需在作業進行過程中臨時修復,也無需維護單獨的快照存儲位置。其經濟效益體現在 NeuralMesh 背後的雲物件層級,該層級按容量計費,用於儲存快照及其所保護的資料。

Backblaze 全年都在將 B2 定位為 AI 的容量層,從面向 neocloud 平台的 B2 Neo 產品到其性能基準測試程序,而 WEKA 則為它在 GPU 方面提供了一個性能級別的合作夥伴。

Backblaze B2 雲存儲

WEKA 神經網格

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。