AMD ha rilasciato ROCm 10, in concomitanza con il decimo anniversario del suo stack software open source, e ha reso ROCm.AI generalmente disponibile agli sviluppatori. Presentato per la prima volta ad Advancing AI 2026 , ROCm.AI è una piattaforma di sviluppo nativa per l'intelligenza artificiale, pensata per accelerare i flussi di lavoro di compilazione, distribuzione e ottimizzazione sull'hardware AMD.
ROCm.AI combina tre componenti, ROCm Hyperloom, AMD Skills e ROCm CLI, in un set unificato di esperienze di sviluppo. La piattaforma è progettata per integrare competenze specifiche di AMD e ottimizzazione basata su agenti direttamente negli strumenti che gli sviluppatori già utilizzano.
Secondo AMD, un sistema configurato con ROCm.AI offre un miglioramento medio delle prestazioni di inferenza di 3.3 volte e un miglioramento delle prestazioni di addestramento di 2.4 volte rispetto a ROCm 7 su hardware equivalente, ottenuto grazie all'ottimizzazione basata sull'intelligenza artificiale di kernel, gestione della memoria e pianificazione.
Ottimizzazione dell'inferenza autonoma
ROCm Hyperloom funziona come un sistema autonomo per l'ottimizzazione dei carichi di lavoro di inferenza end-to-end, sia a livello di codice host che di kernel GPU. Il sistema profila un determinato carico di lavoro, identifica i colli di bottiglia delle prestazioni, esplora i potenziali percorsi di ottimizzazione, implementa modifiche mirate al codice e infine esegue benchmark e convalida i risultati per verificarne la correttezza.
Con ROCm 10, Hyperloom amplia il supporto per le GPU AMD Instinct e aggiunge la compatibilità con i framework di inferenza vLLM e SGLang. Gli sviluppatori possono indirizzare le ottimizzazioni sui codebase di HIP, Triton e FlyDSL, con Hyperloom che genera report dettagliati sulle modifiche proposte, insieme ai miglioramenti prestazionali misurati o previsti. Hyperloom è accessibile sia come flusso di lavoro autonomo sia tramite l'integrazione con AMD Skills.
Competenze selezionate per agenti di programmazione basati sull'IA
AMD Skills offre conoscenze tecniche AMD selezionate e flussi di lavoro validati direttamente negli agenti di codifica AI supportati , tra cui Claude Code, Cursor e Codex. Questo fornisce agli sviluppatori una guida specifica per AMD senza che debbano uscire dal loro ambiente di sviluppo esistente.
Con ROCm 10, il catalogo AMD Skills si espande in tre categorie: flussi di lavoro nativi client per l'intelligenza artificiale locale e l'integrazione delle applicazioni, flussi di lavoro cross-stack che coprono diagnostica, routing e analisi di replay, e flussi di lavoro nativi server per GPU AMD Instinct e processori AMD EPYC, tra cui serving, profilazione e analisi delle prestazioni. Le Skill presentate in anteprima ad Advancing AI sono ora disponibili tramite i marketplace Claude Code, Codex e Cursor, nonché in un catalogo aperto su GitHub. AMD afferma che ogni Skill viene sottoposta a test strutturali e comportamentali prima del rilascio.
Gestione unificata tramite riga di comando
La CLI di ROCm, attualmente un componente in anteprima tecnologica di ROCm.AI, fornisce un'interfaccia a riga di comando stabile e unificata per la configurazione, la gestione e l'esecuzione di carichi di lavoro di intelligenza artificiale su hardware AMD. Gli sviluppatori possono utilizzare lo stesso set di comandi manualmente, tramite un agente di codifica AI o all'interno di pipeline di integrazione continua, che coprono l'ispezione del sistema, l'installazione e la gestione dell'ambiente ROCm, la distribuzione dei modelli, la diagnostica e il controllo in fase di esecuzione.
L'interfaccia a riga di comando (CLI) viene distribuita come binario precompilato per Windows e Linux e non richiede un'installazione preesistente di ROCm. Supporta ambienti ROCm gestiti con runtime multipli affiancati, inclusa l'attivazione e il rollback in fase di runtime, insieme alla gestione integrata dei modelli e dei motori. Gli adattatori attuali supportano Lemonade su alcuni sistemi client AMD e vLLM per la gestione delle GPU AMD Instinct.
Insieme alla CLI è inclusa la console ROCm, precedentemente nota internamente come "dash", che fornisce una visualizzazione in tempo reale dello stato del sistema e dell'attività del carico di lavoro. Consente agli sviluppatori di monitorare lo stato di salute del runtime di ROCm, lo stato di erogazione del modello, l'utilizzo della GPU e la telemetria dei benchmark, inclusi l'utilizzo della memoria ad alta larghezza di banda, il consumo energetico e i token per watt sui sistemi AMD Instinct supportati. La Technology Preview della CLI di ROCm offre un'esperienza indipendente dalla versione a partire da ROCm 7.13, con il supporto ufficiale previsto per ROCm 10.
Aggiornamenti più ampi dello stack ROCm 10
Questi strumenti per sviluppatori sono basati sulla più ampia architettura software di ROCm 10, che introduce un SDK ROCm Core più modulare. La release include anche aggiornamenti a librerie, compilatori, framework, supporto per i modelli, ottimizzazione delle prestazioni e piattaforme hardware supportate.
| etichetta | Valore |
|---|---|
| Configurazione hardware | Supermicro AS -4126GS-NMR-LCC (scheda H14DSG-OD) 8x AMD Instinct MI355X BIOS AMI v1.4a (2025-04-16) Firmware GPU SMC 04.86.11.02 TA RAS 27.69.00.10 TA XGMI 32.00.00.20 RLC43 MEC36 SDMA12 Ubuntu LTS 22.04.2 kernel 5.15.0-70-generico Driver amdgpu 6.16.6 HOST ROCm 7.1.0 |
| Configurazione(i) del software | Immagine Docker GLM-5 ROCm: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, versione PyTorch 2.8.0, SGLang v0.5.8 Immagine Docker Kimi ROCm: vllm/vllm-openai-rocm:v0.16.0, vLLM versione 0.16.0 Immagine Docker di DeepSeek-R1: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, versione SGLang V0.5.13 vs GLM-5 ROCm Docker Image: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post Immagine Docker Kimi ROCm: vllm/vllm-openai-rocm:v0.22.0, versione vLLM V0.22.0 |




Amazon