AMD 发布了 ROCm 10,恰逢其开源软件栈十周年,并正式向开发者开放了 ROCm.AI。ROCm.AI 最初在Advancing AI 2026大会上亮相,是一个原生 AI 开发平台,旨在加速 AMD 硬件上的构建、部署和优化工作流程。
ROCm.AI 将 ROCm Hyperloom、AMD Skills 和 ROCm CLI 三个组件整合为一套统一的开发者体验。该平台旨在将 AMD 特有的专业知识和智能体优化直接集成到开发者已使用的工具中。
AMD 表示,在同等硬件上,采用 ROCm.AI 配置的系统相比 ROCm 7,推理性能平均提升 3.3 倍,训练性能平均提升 2.4 倍,这是通过 AI 驱动的内核、内存管理和调度优化实现的。
自主推理优化
ROCm Hyperloom 作为一个自主代理系统,能够优化跨主机代码和 GPU 内核的端到端推理工作负载。该系统会对给定的工作负载进行分析,识别性能瓶颈,探索潜在的优化路径,实施针对性的代码更改,然后进行基准测试并验证结果的正确性。
借助 ROCm 10,Hyperloom 扩展了对 AMD Instinct GPU 的支持,并增加了对 vLLM 和 SGLang 推理框架的兼容性。开发者可以针对 HIP、Triton 和 FlyDSL 代码库进行优化,Hyperloom 会生成报告,详细说明建议的更改以及已测量或预计的性能提升。Hyperloom 既可以作为独立的工作流程使用,也可以通过与 AMD Skills 集成来使用。
为人工智能编码代理精心挑选的专业知识
AMD Skills 将精选的 AMD 技术知识和经过验证的工作流程直接集成到受支持的AI 编码代理中,包括 Claude Code、Cursor 和 Codex。这使得开发人员无需离开现有的开发环境即可获得 AMD 专属的指导。
借助 ROCm 10,AMD 技能库扩展至三大类别:面向本地 AI 和应用集成的客户端原生工作流程、涵盖诊断、路由和回放分析的跨栈工作流程,以及面向 AMD Instinct GPU 和 AMD EPYC 处理器的服务器原生工作流程,包括服务、性能分析和性能测试。在 Advancing AI 大会上预览的技能现已可通过 Claude Code、Codex 和 Cursor 应用市场以及 GitHub 上的开放目录获取。AMD 表示,每项技能在发布前都会经过结构和行为测试。
统一命令行管理
ROCm CLI 目前是 ROCm.AI 的技术预览组件,它提供了一个稳定、统一的命令行界面,用于在 AMD 硬件上设置、管理和运行 AI 工作负载。开发人员可以手动使用同一套命令,也可以通过 AI 编码代理或在持续集成管道中使用,涵盖系统检查、ROCm 环境安装和管理、模型服务、诊断和运行时控制。
该 CLI 以预编译二进制文件的形式分发,支持 Windows 和 Linux 系统,无需预先安装 ROCm。它支持托管式 ROCm 环境,可并行运行多个运行时环境,包括运行时激活和回滚,以及集成的模型服务和引擎管理。目前的适配器支持在部分 AMD 客户端系统上使用 Lemonade,并支持用于 AMD Instinct GPU 服务的 vLLM。
ROCm CLI 捆绑了 ROCm 控制台(之前内部称为“dash”),它提供系统状态和工作负载活动的实时视图。开发者可以通过它监控 ROCm 运行时健康状况、模型服务状态、GPU 利用率和基准测试遥测数据,包括高带宽内存使用情况、功耗以及在支持的 AMD Instinct 系统上的每瓦令牌数。ROCm CLI 技术预览版从 ROCm 7.13 开始提供与版本无关的体验,并计划正式支持 ROCm 10。
ROCm 10 堆栈更新范围更广
这些面向开发者的工具构建于更广泛的 ROCm 10 软件栈之上,该软件栈引入了更加模块化的 ROCm Core SDK。此次发布还包括对库、编译器、框架、模型支持、性能调优和支持的硬件平台的更新。
| 标签 | 价值 |
|---|---|
| 硬件配置 | Supermicro AS-4126GS-NMR-LCC(板 H14DSG-OD) 8x AMD Instinct MI355X BIOS AMI v1.4a (2025-04-16) GPU固件SMC 04.86.11.02 TA RAS 27.69.00.10 TA XGMI 32.00.00.20 RLC43 MEC36 SDMA12 Ubuntu的LTS 22.04.2 内核 5.15.0-70-generic amdgpu 驱动程序 6.16.6 主机 ROCm 7.1.0 |
| 软件配置 | GLM-5 ROCm Docker 镜像:rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219,PyTorch 版本 2.8.0,SGLang 版本 0.5.8 Kimi ROCm Docker 镜像:vllm/vllm-openai-rocm:v0.16.0,vLLM 版本 0.16.0 DeepSeek-R1 Docker 镜像:rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915,SGLang 版本 V0.5.13 与 GLM-5 ROCm Docker 镜像:rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post,ATOM v0.1.2.post Kimi ROCm Docker 镜像:vllm/vllm-openai-rocm:v0.22.0,vLLM 版本 V0.22.0 |




Amazon