存儲評論網

AMD ROCm 10 攜 ROCm.AI 正式版發布:Hyperloom Agents、AMD Skills 以及據稱 3.3 倍的推理效能提升

AI  ◇  企業

AMD 發布了 ROCm 10,恰逢其開源軟體堆疊十週年,並正式向開發者開放了 ROCm.AI。 ROCm.AI 最初在Advancing AI 2026大會上亮相,是一個原生 AI 開發平台,旨在加速 AMD 硬體上的建置、部署和優化工作流程。

ROCm.AI 將 ROCm Hyperloom、AMD Skills 和 ROCm CLI 三個元件整合為一套統一的開發者體驗。該平台旨在將 AMD 特有的專業知識和智慧體優化直接整合到開發者已使用的工具中。

AMD 為 ROCm 10 週年紀念版創作的藝術作品,是一幅由程式碼行構成的抽象雕塑,球體之間相互連結。

AMD 表示,在同等硬體上,採用 ROCm.AI 配置的系統相比 ROCm 7,推理效能平均提升 3.3 倍,訓練效能平均提升 2.4 倍,這是透過 AI 驅動的核心、記憶體管理和調度優化實現的。

自主推理優化

ROCm Hyperloom 作為一個自主代理系統,能夠最佳化跨主機程式碼和 GPU 核心的端到端推理工作負載。該系統會對給定的工作負載進行分析,識別效能瓶頸,探索潛在的最佳化路徑,實施針對性的程式碼更改,然後進行基準測試並驗證結果的正確性。

借助 ROCm 10,Hyperloom 擴展了對 AMD Instinct GPU 的支持,並增加了對 vLLM 和 SGLang 推理框架的兼容性。開發者可以針對 HIP、Triton 和 FlyDSL 程式碼庫進行最佳化,Hyperloom 會產生報告,詳細說明建議的變更以及已測量或預期的效能提升。 Hyperloom 既可以作為獨立的工作流程使用,也可以透過與 AMD Skills 整合來使用。

為人工智慧編碼代理精心挑選的專業知識

AMD Skills 將精選的 AMD 技術知識和經過驗證的工作流程直接整合到受支援的AI 編碼代理中,包括 Claude Code、Cursor 和 Codex。這使得開發人員無需離開現有的開發環境即可獲得 AMD 專屬的指導。

AMD 企業級 AI 參考堆疊圖,包含 ROCm Core SDK、Primus 和 ROCm 推理層,涵蓋 Instinct、Radeon 和 Ryzen AI。

透過 ROCm 10,AMD 技能庫擴展至三大類別:面向本地 AI 和應用整合的用戶端原生工作流程、涵蓋診斷、路由和回放分析的跨堆疊工作流程,以及針對 AMD Instinct GPU 和 AMD EPYC 處理器的伺服器原生工作流程,包括服務、效能分析和效能測試。在 Advancing AI 大會上預覽的技能現已可透過 Claude Code、Codex 和 Cursor 應用程式市場以及 GitHub 上的開放目錄取得。 AMD 表示,每項技能在發布前都會經過結構和行為測試。

統一命令列管理

ROCm CLI 目前是 ROCm.AI 的技術預覽元件,它提供了一個穩定、統一的命令列介面,用於在 AMD 硬體上設定、管理和運行 AI 工作負載。開發人員可以手動使用同一套命令,也可以透過 AI 編碼代理或在持續整合管道中使用,涵蓋系統檢查、ROCm 環境安裝和管理、模型服務、診斷和運行時控制。

ROCm CLI 本機 AI 控制室運行在終端機中,提供設定 ROCm 10、運行模型和進行診斷的選項。

該 CLI 以預先編譯二進位的形式分發,支援 Windows 和 Linux 系統,無需預先安裝 ROCm。它支援託管式 ROCm 環境,可並行運行多個運行時環境,包括運行時啟動和回滾,以及整合的模型服務和引擎管理。目前的適配器支援在部分 AMD 用戶端系統上使用 Lemonade,並支援用於 AMD Instinct GPU 服務的 vLLM。

ROCm CLI 捆綁了 ROCm 控制台(之前內部稱為“dash”),它提供系統狀態和工作負載活動的即時視圖。開發者可以透過它監控 ROCm 運行時健康狀況、模型服務狀態、GPU 使用率和基準測試遙測數據,包括高頻寬記憶體使用情況、功耗以及在支援的 AMD Instinct 系統上的每瓦令牌數。 ROCm CLI 技術預覽版從 ROCm 7.13 開始提供與版本無關的體驗,並計劃正式支援 ROCm 10。

ROCm 10 堆疊更新範圍更廣

這些面向開發者的工具建構於更廣泛的 ROCm 10 軟體堆疊之上,該軟體堆疊引入了更模組化的 ROCm Core SDK。此次發布還包括對庫、編譯器、框架、模型支援、效能調優和支援的硬體平台的更新。

標籤 價值
硬件配置 Supermicro AS-4126GS-NMR-LCC(板 H14DSG-OD)
8x AMD Instinct MI355X
BIOS AMI v1.4a (2025-04-16)
GPU韌體SMC 04.86.11.02
TA RAS 27.69.00.10
TA XGMI 32.00.00.20
RLC43
MEC36
SDMA12
Ubuntu的LTS 22.04.2
內核 5.15.0-70-generic
amdgpu 驅動程式 6.16.6
主機 ROCm 7.1.0
軟體設定 GLM-5 ROCm Docker 映像:rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219,PyTorch 版本 2.8.0,SGLang 版本 0.5.8
Kimi ROCm Docker 映像:vllm/vllm-openai-rocm:v0.16.0,vLLM 版本 0.16.0
DeepSeek-R1 Docker 映像:rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915,SGLang 版本 V0.5.13
與 GLM-5 ROCm Docker 映像:rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post,ATOM v0.1.2.post
Kimi ROCm Docker 映像:vllm/vllm-openai-rocm:v0.22.0,vLLM 版本 V0.22.0

參與 StorageReview

電子報| YouTube | PodcastiTunes / Spotify | Instagram | Twitter | TikTok | RSS訂閱

哈羅德弗里茨

自 IBM 創建 Selectric 以來,我一直在科技行業工作。 不過,我的背景是寫作。 因此,我決定退出售前業務,回歸本源,從事一些寫作工作,但仍從事技術工作。