A AMD afirmou ter alcançado um aumento estimado de 4 vezes na eficiência energética de IA entre 2024 e meados de 2026, superando sua meta projetada de 3 vezes para o período. A empresa está trabalhando para uma melhoria de 20 vezes na eficiência de treinamento e inferência de IA em escala de rack até 2030 , uma meta estabelecida em junho de 2025.
A empresa mede o progresso em relação a uma linha de base de 2024 usando métricas de desempenho por watt em configurações representativas de racks da AMD. A AMD observou que seus resultados de 2026 combinam dados de produtos medidos com estimativas modeladas nos casos em que os dados finais de desempenho não estavam disponíveis. Quando a AMD estabeleceu a meta de 20x, afirmou que a própria meta superou a tendência de melhoria do setor de 2018 a 2025 em quase 3 vezes; o resultado intermediário de 4x supera até mesmo essa aceleração.
O supercomputador Lux está em construção no Laboratório Nacional de Oak Ridge, no Tennessee. Equipado com tecnologia AMD, o Lux foi projetado para ser a primeira plataforma operacional da Missão Genesis e ajudará a expandir a liderança do Departamento de Energia dos EUA em IA, além de acelerar o progresso e a inovação em pesquisa energética, ciência dos materiais, medicina e manufatura avançada. (Crédito: Laboratório Nacional de Oak Ridge)
Escala de rack, não nível de componente
A iniciativa 20x30 da AMD visa ganhos em escala de rack, em vez de melhorias apenas em nível de componente. A empresa está posicionando sua abordagem em torno de avanços coordenados em silício de computação, tecnologia de processo, memória e largura de banda de interconexão, software e design de sistema. Isso reflete a crescente importância da otimização de toda a pilha, à medida que a infraestrutura de IA migra de aceleradores individuais para racks densamente integrados. "A próxima onda de eficiência em IA dependerá de uma co-otimização mais estreita em silício de computação, memória, interconexões, software e design de sistema em escala de rack", disse Sam Naffziger, vice-presidente sênior e Corporate Fellow da AMD, no anúncio. É a mesma proposta de otimização de pilha completa por trás do Lux, o sistema com tecnologia AMD que se tornou o primeiro supercomputador da Missão Genesis no Laboratório Nacional de Oak Ridge.
A empresa espera que a maior eficiência energética proporcione dois resultados até 2030, dependendo de como os clientes implementarem o desempenho disponível. Em um cenário, a AMD projeta que aproximadamente dois racks futuros poderão oferecer a mesma capacidade de computação que 570 racks a partir de 2024, reduzindo o consumo de eletricidade na fase de uso em 20 vezes e a intensidade de carbono em 28 vezes. Alternativamente, as melhorias projetadas podem permitir 20 vezes mais computação, medida em operações de ponto flutuante por segundo por watt, com o mesmo consumo de energia.
As tecnologias de memória e interconexão são fundamentais para esse esforço. A AMD identificou memória de alta largura de banda, caches maiores e uma integração mais estreita entre memória e computação como mecanismos para manter os recursos de computação alimentados, reduzindo a movimentação de dados que consome muita energia. Interconexões de alta velocidade e escalonáveis , a estrutura central do rack Helios MI455X de 72 GPUs da AMD, também devem se tornar cada vez mais importantes à medida que cargas de trabalho de IA maiores exigem uma comunicação mais eficiente entre GPUs, CPUs, memória e outros componentes do rack.
O software poderia multiplicar por 100
O software continua sendo outro componente da estratégia de eficiência da empresa. A AMD afirmou que sua plataforma de software ROCm, padrões abertos e esforços de otimização para clientes visam aprimorar o desempenho do treinamento e da inferência de IA, reduzindo o consumo de energia por token gerado. A empresa espera que os avanços em software, algoritmos e modelos ampliem os ganhos em hardware e sistemas, podendo resultar em uma melhoria geral de até 100 vezes na eficiência energética da IA até 2030.
O foco está cada vez mais na capacidade computacional útil por watt disponível. À medida que o fornecimento de energia, a capacidade de refrigeração e a infraestrutura física se tornam fatores limitantes para a expansão da IA, melhorias no desempenho em escala de rack por watt podem reduzir o consumo de eletricidade e melhorar a utilização da infraestrutura sem exigir que o consumo de energia seja proporcional à demanda computacional.
Amazon