AMD ha dichiarato di aver raggiunto un aumento stimato di 4 volte nell'efficienza energetica dell'IA dal 2024 alla metà del 2026, superando l'obiettivo di 3 volte previsto per il periodo. L'azienda sta lavorando per migliorare di 20 volte l'efficienza dell'addestramento e dell'inferenza dell'IA su scala rack entro il 2030 , un obiettivo che si era prefissata nel giugno 2025.
L'azienda misura i progressi rispetto a una baseline del 2024 utilizzando metriche di prestazioni per watt su configurazioni rack AMD rappresentative. AMD ha osservato che i suoi risultati del 2026 combinano dati di prodotto misurati con stime modellate laddove i dati di prestazioni finali non erano disponibili. Quando AMD ha fissato l'obiettivo di 20 volte, ha affermato che il target stesso superava di quasi 3 volte il trend di miglioramento del settore dal 2018 al 2025; il risultato intermedio di 4 volte si colloca addirittura al di sopra di questa accelerazione.
Il supercomputer Lux è in fase di costruzione presso l'Oak Ridge National Laboratory nel Tennessee. Basato su tecnologia AMD, Lux è progettato per essere la prima piattaforma operativa della missione Genesis e contribuirà ad ampliare la leadership del Dipartimento dell'Energia degli Stati Uniti nel campo dell'intelligenza artificiale, accelerando il progresso e l'innovazione nella ricerca energetica, nella scienza dei materiali, nella medicina e nella produzione avanzata. (Credito: Oak Ridge National Laboratory)
A livello di rack, non a livello di componente.
L'iniziativa 20×30 di AMD punta a ottenere miglioramenti a livello di rack, piuttosto che a livello di singoli componenti. L'azienda sta impostando il suo approccio attorno a progressi coordinati tra silicio di calcolo, tecnologia di processo, larghezza di banda di memoria e interconnessione, software e progettazione di sistema. Ciò riflette la crescente importanza dell'ottimizzazione full-stack, dato che l'infrastruttura AI si sta spostando da singoli acceleratori a rack densamente integrati. "La prossima ondata di efficienza dell'IA dipenderà da una co-ottimizzazione più stretta tra silicio di calcolo, memoria, interconnessioni, software e progettazione di sistemi a livello di rack", ha affermato Sam Naffziger, vicepresidente senior e Corporate Fellow di AMD, nell'annuncio. Si tratta dello stesso approccio full-stack alla base di Lux, il sistema basato su AMD che è diventato il primo supercomputer della missione Genesis presso l'Oak Ridge National Laboratory.
L'azienda prevede che una maggiore efficienza energetica porterà a due risultati entro il 2030, a seconda di come i clienti utilizzeranno le prestazioni disponibili. In uno scenario, AMD prevede che circa due rack futuri potrebbero offrire la stessa capacità di calcolo di rack 570 a partire dal 2024, riducendo il consumo di elettricità nella fase di utilizzo di 20 volte e l'intensità di carbonio di 28 volte. In alternativa, i miglioramenti previsti potrebbero consentire una capacità di calcolo 20 volte superiore, misurata in operazioni in virgola mobile al secondo per watt, con lo stesso consumo energetico.
Le tecnologie di memoria e interconnessione sono fondamentali per questo obiettivo. AMD ha identificato memorie ad alta larghezza di banda, cache più grandi e una maggiore integrazione tra memoria e calcolo come meccanismi per alimentare le risorse di calcolo riducendo al contempo il trasferimento di dati ad alta intensità energetica. Si prevede inoltre che le interconnessioni ad alta velocità , il cuore del rack MI455X Helios a 72 GPU di AMD, diventeranno sempre più importanti man mano che i carichi di lavoro di intelligenza artificiale più complessi richiederanno una comunicazione più efficiente tra GPU, CPU, memoria e altri componenti a livello di rack.
Il software potrebbe portarlo a 100 volte
Il software rimane un altro elemento fondamentale della strategia di efficienza dell'azienda. AMD ha dichiarato che la sua suite software ROCm, gli standard aperti e le iniziative di ottimizzazione per i clienti mirano a migliorare la velocità di elaborazione dell'addestramento e dell'inferenza dell'IA, riducendo al contempo il consumo energetico per token generato. L'azienda prevede che i progressi a livello di software, algoritmi e modelli si amplificheranno con i miglioramenti hardware e di sistema, supportando potenzialmente un miglioramento complessivo dell'efficienza energetica dell'IA fino a 100 volte entro il 2030.
L'attenzione si concentra sempre più sulla potenza di calcolo utile per watt disponibile. Poiché l'alimentazione elettrica, la capacità di raffreddamento e l'infrastruttura fisica diventano vincoli per l'espansione dell'IA, i miglioramenti nelle prestazioni a livello di rack per watt potrebbero ridurre il consumo di elettricità e migliorare l'utilizzo dell'infrastruttura senza richiedere che il consumo energetico aumenti linearmente con la domanda di calcolo.
Amazon