StorageReview.com

AMD ROCm 10 arriva con ROCm.AI GA: agenti Hyperloom, funzionalità AMD e un aumento dichiarato delle prestazioni di inferenza pari a 3.3 volte.

AI  ◇  Impresa

AMD ha rilasciato ROCm 10, in concomitanza con il decimo anniversario del suo stack software open source, e ha reso ROCm.AI generalmente disponibile agli sviluppatori. Presentato per la prima volta ad Advancing AI 2026 , ROCm.AI è una piattaforma di sviluppo nativa per l'intelligenza artificiale, pensata per accelerare i flussi di lavoro di compilazione, distribuzione e ottimizzazione sull'hardware AMD.

ROCm.AI combina tre componenti, ROCm Hyperloom, AMD Skills e ROCm CLI, in un set unificato di esperienze di sviluppo. La piattaforma è progettata per integrare competenze specifiche di AMD e ottimizzazione basata su agenti direttamente negli strumenti che gli sviluppatori già utilizzano.

Illustrazione AMD per la release del decimo anniversario di ROCm 10: una scultura astratta di sfere interconnesse sopra linee di codice.

Secondo AMD, un sistema configurato con ROCm.AI offre un miglioramento medio delle prestazioni di inferenza di 3.3 volte e un miglioramento delle prestazioni di addestramento di 2.4 volte rispetto a ROCm 7 su hardware equivalente, ottenuto grazie all'ottimizzazione basata sull'intelligenza artificiale di kernel, gestione della memoria e pianificazione.

Ottimizzazione dell'inferenza autonoma

ROCm Hyperloom funziona come un sistema autonomo per l'ottimizzazione dei carichi di lavoro di inferenza end-to-end, sia a livello di codice host che di kernel GPU. Il sistema profila un determinato carico di lavoro, identifica i colli di bottiglia delle prestazioni, esplora i potenziali percorsi di ottimizzazione, implementa modifiche mirate al codice e infine esegue benchmark e convalida i risultati per verificarne la correttezza.

Con ROCm 10, Hyperloom amplia il supporto per le GPU AMD Instinct e aggiunge la compatibilità con i framework di inferenza vLLM e SGLang. Gli sviluppatori possono indirizzare le ottimizzazioni sui codebase di HIP, Triton e FlyDSL, con Hyperloom che genera report dettagliati sulle modifiche proposte, insieme ai miglioramenti prestazionali misurati o previsti. Hyperloom è accessibile sia come flusso di lavoro autonomo sia tramite l'integrazione con AMD Skills.

Competenze selezionate per agenti di programmazione basati sull'IA

AMD Skills offre conoscenze tecniche AMD selezionate e flussi di lavoro validati direttamente negli agenti di codifica AI supportati , tra cui Claude Code, Cursor e Codex. Questo fornisce agli sviluppatori una guida specifica per AMD senza che debbano uscire dal loro ambiente di sviluppo esistente.

Diagramma dello stack di riferimento AMD Enterprise AI con ROCm Core SDK, Primus e i livelli di inferenza ROCm che coprono Instinct, Radeon e Ryzen AI.

Con ROCm 10, il catalogo AMD Skills si espande in tre categorie: flussi di lavoro nativi client per l'intelligenza artificiale locale e l'integrazione delle applicazioni, flussi di lavoro cross-stack che coprono diagnostica, routing e analisi di replay, e flussi di lavoro nativi server per GPU AMD Instinct e processori AMD EPYC, tra cui serving, profilazione e analisi delle prestazioni. Le Skill presentate in anteprima ad Advancing AI sono ora disponibili tramite i marketplace Claude Code, Codex e Cursor, nonché in un catalogo aperto su GitHub. AMD afferma che ogni Skill viene sottoposta a test strutturali e comportamentali prima del rilascio.

Gestione unificata tramite riga di comando

La CLI di ROCm, attualmente un componente in anteprima tecnologica di ROCm.AI, fornisce un'interfaccia a riga di comando stabile e unificata per la configurazione, la gestione e l'esecuzione di carichi di lavoro di intelligenza artificiale su hardware AMD. Gli sviluppatori possono utilizzare lo stesso set di comandi manualmente, tramite un agente di codifica AI o all'interno di pipeline di integrazione continua, che coprono l'ispezione del sistema, l'installazione e la gestione dell'ambiente ROCm, la distribuzione dei modelli, la diagnostica e il controllo in fase di esecuzione.

ROCm CLI, sala di controllo AI locale in esecuzione in un terminale, con opzioni per configurare ROCm 10, eseguire un modello e avviare la diagnostica.

L'interfaccia a riga di comando (CLI) viene distribuita come binario precompilato per Windows e Linux e non richiede un'installazione preesistente di ROCm. Supporta ambienti ROCm gestiti con runtime multipli affiancati, inclusa l'attivazione e il rollback in fase di runtime, insieme alla gestione integrata dei modelli e dei motori. Gli adattatori attuali supportano Lemonade su alcuni sistemi client AMD e vLLM per la gestione delle GPU AMD Instinct.

Insieme alla CLI è inclusa la console ROCm, precedentemente nota internamente come "dash", che fornisce una visualizzazione in tempo reale dello stato del sistema e dell'attività del carico di lavoro. Consente agli sviluppatori di monitorare lo stato di salute del runtime di ROCm, lo stato di erogazione del modello, l'utilizzo della GPU e la telemetria dei benchmark, inclusi l'utilizzo della memoria ad alta larghezza di banda, il consumo energetico e i token per watt sui sistemi AMD Instinct supportati. La Technology Preview della CLI di ROCm offre un'esperienza indipendente dalla versione a partire da ROCm 7.13, con il supporto ufficiale previsto per ROCm 10.

Aggiornamenti più ampi dello stack ROCm 10

Questi strumenti per sviluppatori sono basati sulla più ampia architettura software di ROCm 10, che introduce un SDK ROCm Core più modulare. La release include anche aggiornamenti a librerie, compilatori, framework, supporto per i modelli, ottimizzazione delle prestazioni e piattaforme hardware supportate.

etichetta Valore
Configurazione hardware Supermicro AS -4126GS-NMR-LCC (scheda H14DSG-OD)
8x AMD Instinct MI355X
BIOS AMI v1.4a (2025-04-16)
Firmware GPU SMC 04.86.11.02
TA RAS 27.69.00.10
TA XGMI 32.00.00.20
RLC43
MEC36
SDMA12
Ubuntu LTS 22.04.2
kernel 5.15.0-70-generico
Driver amdgpu 6.16.6
HOST ROCm 7.1.0
Configurazione(i) del software Immagine Docker GLM-5 ROCm: rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219, versione PyTorch 2.8.0, SGLang v0.5.8
Immagine Docker Kimi ROCm: vllm/vllm-openai-rocm:v0.16.0, vLLM versione 0.16.0
Immagine Docker di DeepSeek-R1: rocm/7.0:…sgl-dev-v0.5.2-rocm7.0-mi35x-20250915, versione SGLang V0.5.13
vs GLM-5 ROCm Docker Image: rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post, ATOM v0.1.2.post
Immagine Docker Kimi ROCm: vllm/vllm-openai-rocm:v0.22.0, versione vLLM V0.22.0

Interagisci con StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Feed RSS

Harold Fritt

Lavoro nel settore tecnologico da quando IBM ha creato Selectric. Il mio background, però, è la scrittura. Così ho deciso di uscire dal business delle prevendite e tornare alle mie radici, scrivendo un po’ ma rimanendo comunque coinvolto nella tecnologia.