StorageReview.com

AMD ROCm 10 přichází s ROCm.AI GA: agenti Hyperloom, dovednosti AMD a údajný 3.3násobný inferenční nárůst

AI  ◇  Enterprise

Společnost AMD vydala ROCm 10, u příležitosti desátého výročí svého otevřeného softwarového balíčku, a zpřístupnila vývojářům platformu ROCm.AI. ROCm.AI, poprvé představená na konferenci Advancing AI 2026 , je vývojová platforma s nativní umělou inteligencí, jejímž cílem je urychlit pracovní postupy sestavování, nasazení a optimalizace na hardwaru AMD.

ROCm.AI kombinuje tři komponenty, ROCm Hyperloom, AMD Skills a ROCm CLI, do jednotné sady vývojářských prostředí. Platforma je navržena tak, aby přenesla specifické odborné znalosti AMD a agentní optimalizaci přímo do nástrojů, které vývojáři již používají.

Umělecké dílo AMD k 10. výročí vydání ROCm, abstraktní socha síťových koulí nad řádky kódu

Podle společnosti AMD systém konfigurovaný s ROCm.AI přináší průměrné 3.3násobné zlepšení výkonu inference a 2.4násobné zlepšení výkonu trénování oproti ROCm 7 na ekvivalentním hardwaru, čehož je dosaženo optimalizací jader, správy paměti a plánování řízenou umělou inteligencí.

Autonomní inferenční optimalizace

ROCm Hyperloom funguje jako autonomní agentní systém pro optimalizaci end-to-end inferenčních úloh napříč hostitelským kódem i jádry GPU. Systém profiluje danou pracovní zátěž, identifikuje úzká hrdla výkonu, zkoumá potenciální optimalizační cesty, implementuje cílené změny kódu a poté porovnává a ověřuje správnost výsledků.

S verzí ROCm 10 rozšiřuje Hyperloom podporu pro grafické procesory AMD Instinct a přidává kompatibilitu s inferenčními frameworky vLLM a SGLang. Vývojáři mohou řídit optimalizace napříč kódovými základnami HIP, Triton a FlyDSL, přičemž Hyperloom generuje zprávy, které podrobně popisují navrhované změny spolu s naměřenými nebo předpokládanými zvýšeními výkonu. Hyperloom je dostupný jak jako samostatný pracovní postup, tak prostřednictvím integrace s AMD Skills.

Vybraná odbornost pro agenty kódování s umělou inteligencí

AMD Skills poskytuje vybrané technické znalosti AMD a ověřené pracovní postupy přímo do podporovaných kódovacích agentů AI , včetně Claude Code, Cursor a Codex. To poskytuje vývojářům specifické pokyny pro AMD, aniž by museli opustit své stávající vývojové prostředí.

Schéma referenčního zásobníku AMD Enterprise AI s vrstvami ROCm Core SDK, Primus a ROCm Inference zahrnující Instinct, Radeon a Ryzen AI

S ROCm 10 se katalog dovedností AMD rozšiřuje do tří kategorií: klientské nativní pracovní postupy pro lokální AI a integraci aplikací, cross-stack pracovní postupy zahrnující diagnostiku, směrování a analýzu přehrávání a serverové nativní pracovní postupy pro GPU AMD Instinct a procesory AMD EPYC, včetně obsluhy, profilování a analýzy výkonu. Dovednosti představené na Advancing AI jsou nyní k dispozici prostřednictvím tržišť Claude Code, Codex a Cursor, a také v otevřeném katalogu na GitHubu. AMD uvádí, že každá dovednost před vydáním prochází strukturálním a behaviorálním testováním.

Sjednocená správa příkazového řádku

Rozhraní příkazového řádku ROCm, které je v současnosti součástí Technology Preview v rámci ROCm.AI, poskytuje stabilní a jednotné rozhraní příkazového řádku pro nastavení, správu a spouštění úloh umělé inteligence na hardwaru AMD. Vývojáři mohou stejnou sadu příkazů používat ručně, prostřednictvím kódovacího agenta umělé inteligence nebo v rámci procesů kontinuální integrace, které zahrnují kontrolu systému, instalaci a správu prostředí ROCm, obsluhu modelů, diagnostiku a řízení za běhu.

Lokální řídicí místnost umělé inteligence v ROCm CLI běžící v terminálu s možnostmi nastavení ROCm 10, obsluhy modelu a spuštění diagnostiky

Rozhraní CLI je distribuováno jako předpřipravený binární soubor pro Windows a Linux a nevyžaduje předinstalovanou instalaci ROCm. Podporuje spravovaná prostředí ROCm s více souběžnými běhovými prostředími, včetně aktivace a vrácení předchozích verzí za běhu, spolu s integrovaným obsluhováním modelů a správou enginu. Aktuální adaptéry podporují Lemonade na vybraných klientských systémech AMD a vLLM pro obsluhu GPU AMD Instinct.

Součástí rozhraní CLI je i konzole ROCm, dříve interně známá jako „dash“, která poskytuje přehled o stavu systému a aktivitě pracovní zátěže v reálném čase. Umožňuje vývojářům monitorovat běhové prostředí ROCm, stav obsluhy modelů, využití GPU a telemetrii benchmarků, včetně využití paměti s vysokou šířkou pásma, spotřeby energie a počtu tokenů na watt na podporovaných systémech AMD Instinct. Náhled technologie ROCm CLI nabízí zážitek nezávislý na verzi počínaje verzí ROCm 7.13, přičemž formální podpora ROCm 10 je plánována.

Širší aktualizace ROCm 10 Stack

Tyto nástroje pro vývojáře jsou postaveny na širším softwarovém balíčku ROCm 10, který představuje modulárnější sadu ROCm Core SDK. Verze také obsahuje aktualizace knihoven, kompilátorů, frameworků, podpory modelů, ladění výkonu a podporovaných hardwarových platforem.

etiketa Hodnota
Konfigurace hardwaru Supermicro AS-4126GS-NMR-LCC (deska H14DSG-OD)
8x AMD Instinct MI355X
BIOS AMI v1.4a (16. 04. 2025)
Firmware grafické karty SMC 04.86.11.02
TA RAS 27.69.00.10
TA XGMI 32.00.00.20
RLC43
MEC36
SDMA12
Ubuntu LTS 22.04.2
jádro 5.15.0-70-generic
Ovladač amdgpu 6.16.6
HOST ROCm 7.1.0
Konfigurace softwaru Dockerový obraz GLM-5 ROCm: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, PyTorch verze 2.8.0, SGLang v0.5.8
Obrázek Kimi ROCm Docker: vllm/vllm-openai-rocm:v0.16.0, vLLM verze 0.16.0
Dockerový obraz DeepSeek-R1: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, verze SGLang V0.5.13
vs. GLM-5 ROCm Docker Image: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post
Obrázek Kimi ROCm Docker: vllm/vllm-openai-rocm:v0.22.0, verze vLLM V0.22.0

Zapojte se do StorageReview

Zpravodaj | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS kanál

Harold Fritts

V technologickém průmyslu působím od doby, kdy IBM založila Selectric. Mám ale zkušenosti s psaním. Rozhodl jsem se tedy opustit předprodejní byznys a vrátit se ke svým kořenům, trochu psát, ale stále se věnovat technologiím.