存儲評論網

AMD Helios機架正在Meta上運行,配備客製化Instinct GPU,並有1億美元的投資即將推出

AI  ◇  企業

AMD表示,首批AMD Helios機架式系統已在Meta公司安裝並進行測試,後續將進行更大規模的部署。此外,兩家公司已就Meta的工作負載,在EPYC CPU、Instinct GPU、Pensando網路和ROCm等方面,達成了產品路線圖的統一。該公告也宣布,EPYC將應用於Meta的Muse個人AI代理,並為Muse Spark Open和Muse Glimmer模型提供AMD的首日支持,同時AMD承諾向Meta的股權融資投資10億美元。

AMD Helios AI 機架渲染圖,圖中展示了一排 Helios 機架,機架末端門上有 AMD Helios 標誌。

Meta創辦人兼執行長馬克祖克柏表示:「AMD一直是我們建立運行前沿模型的運算能力的關鍵合作夥伴。我們正在大力投資運算能力,以實現人人都能擁有個人超級智慧的目標,而AMD在其中扮演著重要角色。」 AMD董事長兼執行長蘇姿豐表示:「隨著Helios超級電腦在Meta的運行,我們將雙方的合作高度提升到了超級智慧時代」的超級智慧時代,我們將雙方的合作高度提升到了超級智慧時代的超級智能時代。

機架級 Helios 架構與企業級 CPU 部署

AMD並未透露Helios部署的具體機架數量或地點,也未公佈「近期」以外的更大規模部署的具體日期。在CPU方面,Meta已部署了數百萬顆EPYC處理器,涵蓋多個世代,並且是第六代EPYC的主要客戶,該處理器為Muse背後的專用運算環境提供支援。兩家公司也在未來的EPYC處理器系列上展開合作,包括AMD稱為「Verano」的處理器。

自訂直覺加速器和軟體優化

Meta 在生產環境中使用 AMD Instinct GPU 進行訓練、排名和推薦引擎。客製化晶片是其區別於大量採購的關鍵所在:Meta 是 Instinct MI450 架構的早期定義客戶,並將部署針對其工作負載優化的客製化 Instinct GPU。 AMD 表示,此次合作將為未來的平台(包括Instinct MI500 系列和新一代機架式系統)提供借鏡。

AMD Helios機架上的AMD Instinct GPU運算托盤渲染圖,加速器冷板上覆蓋著液冷管路。

該軟體基於 PyTorch 運行,因此開發者在拉取框架時即可獲得 ROCm 支援。 AMD 和 Meta 已針對 Instinct MI350X GPU 優化了建議模型的訓練,並將這些改進貢獻給了 PyTorch、Triton 和 ROCm。在模型方面,AMD 為 Instinct GPU 上的 Muse Spark Open 以及 Ryzen AI PC 和 Radeon GPU 上的 Muse Glimmer 提供了 Day-0 支持,這使得該模型從一開始就能在客戶端硬體上運行。

AMD Helios

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。