AMD는 자사의 오픈 소프트웨어 스택 출시 10주년을 기념하여 ROCm 10을 출시하고, ROCm.AI를 개발자들에게 정식으로 공개했습니다. Advancing AI 2026 에서 처음 소개된 ROCm.AI는 AMD 하드웨어에서 빌드, 배포 및 최적화 워크플로우를 가속화하도록 설계된 AI 기반 개발 플랫폼입니다.
ROCm.AI는 ROCm Hyperloom, AMD Skills, ROCm CLI의 세 가지 구성 요소를 통합하여 개발자 경험을 향상시키는 플랫폼입니다. 이 플랫폼은 AMD 관련 전문 지식과 에이전트 기반 최적화 기능을 개발자가 이미 사용하고 있는 도구에 직접 통합하도록 설계되었습니다.
AMD에 따르면 ROCm.AI로 구성된 시스템은 동일한 하드웨어에서 ROCm 7 대비 추론 성능이 평균 3.3배, 학습 성능이 2.4배 향상되었으며, 이는 커널, 메모리 관리 및 스케줄링에 대한 AI 기반 최적화를 통해 달성되었습니다.
자율 추론 최적화
ROCm Hyperloom은 호스트 코드와 GPU 커널 모두에서 엔드투엔드 추론 워크로드를 최적화하는 자율 에이전트 시스템으로 작동합니다. 이 시스템은 주어진 워크로드를 프로파일링하고, 성능 병목 현상을 식별하고, 잠재적인 최적화 경로를 탐색하고, 목표에 맞는 코드 변경 사항을 구현한 다음, 벤치마킹을 통해 결과를 검증하고 정확성을 확인합니다.
ROCm 10을 통해 Hyperloom은 AMD Instinct GPU 지원을 확장하고 vLLM 및 SGLang 추론 프레임워크와의 호환성을 추가했습니다. 개발자는 HIP, Triton 및 FlyDSL 코드베이스 전반에 걸쳐 최적화를 지시할 수 있으며, Hyperloom은 제안된 변경 사항과 측정 또는 예상 성능 향상을 자세히 보여주는 보고서를 생성합니다. Hyperloom은 독립형 워크플로우로 사용하거나 AMD Skills와 통합하여 사용할 수 있습니다.
AI 코딩 에이전트를 위한 엄선된 전문 지식
AMD Skills는 엄선된 AMD 기술 지식과 검증된 워크플로를 Claude Code, Cursor, Codex를 포함한 지원되는 AI 코딩 에이전트 에 직접 제공합니다 . 이를 통해 개발자는 기존 개발 환경을 벗어나지 않고도 AMD 관련 지침을 얻을 수 있습니다.
ROCm 10을 통해 AMD 스킬 카탈로그는 세 가지 범주로 확장됩니다. 로컬 AI 및 애플리케이션 통합을 위한 클라이언트 네이티브 워크플로, 진단, 라우팅 및 재생 분석을 포함하는 크로스 스택 워크플로, 그리고 서비스, 프로파일링 및 성능 분석을 포함한 AMD Instinct GPU 및 AMD EPYC 프로세서용 서버 네이티브 워크플로가 그것입니다. Advancing AI에서 미리 공개된 스킬은 이제 Claude Code, Codex, Cursor 마켓플레이스와 GitHub의 오픈 카탈로그를 통해 이용할 수 있습니다. AMD는 각 스킬이 출시 전에 구조적 및 동작적 테스트를 거친다고 밝혔습니다.
통합 명령줄 관리
현재 ROCm.AI의 기술 미리보기 구성 요소인 ROCm CLI는 AMD 하드웨어에서 AI 워크로드를 설정, 관리 및 실행하기 위한 안정적이고 통합된 명령줄 인터페이스를 제공합니다. 개발자는 시스템 검사, ROCm 환경 설치 및 관리, 모델 제공, 진단 및 런타임 제어를 포함하는 동일한 명령 세트를 수동으로, AI 코딩 에이전트를 통해 또는 지속적 통합 파이프라인 내에서 사용할 수 있습니다.
CLI는 Windows 및 Linux용 사전 빌드된 바이너리로 배포되며 기존 ROCm 설치가 필요하지 않습니다. 런타임 활성화 및 롤백을 포함한 여러 런타임을 동시에 실행할 수 있는 관리형 ROCm 환경을 지원하며, 통합 모델 서빙 및 엔진 관리 기능도 제공합니다. 현재 어댑터는 일부 AMD 클라이언트 시스템에서 Lemonade를 지원하고 AMD Instinct GPU 서빙을 위해 vLLM을 지원합니다.
CLI와 함께 제공되는 ROCm 콘솔(이전에는 내부적으로 "dash"로 알려짐)은 시스템 상태 및 워크로드 활동을 실시간으로 보여줍니다. 개발자는 ROCm 런타임 상태, 모델 서빙 상태, GPU 사용률, 벤치마크 원격 측정 데이터(예: 지원되는 AMD Instinct 시스템에서 고대역폭 메모리 사용량, 전력 소비량, 와트당 토큰 수)를 모니터링할 수 있습니다. ROCm CLI 기술 미리보기는 ROCm 7.13부터 버전과 관계없이 사용할 수 있으며, ROCm 10에 대한 공식 지원도 계획되어 있습니다.
ROCm 10 스택 업데이트 확대
이러한 개발자용 도구는 더욱 모듈화된 ROCm Core SDK를 도입한 ROCm 10 소프트웨어 스택을 기반으로 구축되었습니다. 이번 릴리스에는 라이브러리, 컴파일러, 프레임워크, 모델 지원, 성능 튜닝 및 지원 하드웨어 플랫폼에 대한 업데이트도 포함되어 있습니다.
| 라벨 | 가치관 |
|---|---|
| 하드웨어 구성 | Supermicro AS-4126GS-NMR-LCC (보드 H14DSG-OD) 8x AMD Instinct MI355X BIOS AMI v1.4a (2025-04-16) GPU 펌웨어 SMC 04.86.11.02 TA RAS 27.69.00.10 TA XGMI 32.00.00.20 RLC43 MEC36 SDMA12 우분투 LTS 22.04.2 커널 5.15.0-70-generic amdgpu 드라이버 6.16.6 호스트 ROCm 7.1.0 |
| 소프트웨어 구성(들) | GLM-5 ROCm Docker 이미지: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, PyTorch 버전 2.8.0, SGLang v0.5.8 Kimi ROCm Docker 이미지: vllm/vllm-openai-rocm:v0.16.0, vLLM 버전 0.16.0 DeepSeek-R1 Docker 이미지: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, SGLang 버전 V0.5.13 vs GLM-5 ROCm Docker 이미지: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post Kimi ROCm Docker 이미지: vllm/vllm-openai-rocm:v0.22.0, vLLM 버전 V0.22.0 |
아마존