AMD는 2024년부터 2026년 중반까지 AI 에너지 효율을 약 4배 향상시켜 목표치인 3배를 넘어섰다고 밝혔습니다. 또한 , 2025년 6월에 설정한 목표인 2030년까지 랙 규모 AI 학습 및 추론 효율을 20배 향상시키는 것을 목표로 하고 있다고 덧붙였습니다.
AMD는 대표적인 AMD 랙 구성 전반에 걸쳐 와트당 성능 지표를 사용하여 2024년 기준선 대비 진행 상황을 측정합니다. AMD는 2026년 결과는 실제 제품 데이터와 최종 성능 데이터가 아직 확보되지 않은 경우 모델링 추정치를 결합한 것이라고 밝혔습니다. AMD는 20배 향상 목표를 설정하면서 이 목표 자체가 2018년부터 2025년까지 업계 개선 추세보다 거의 3배 빠르다고 언급했는데, 이번 중간 결과인 4배 향상은 그 가속화된 추세보다도 앞선 수치입니다.
럭스(Lux) 슈퍼컴퓨터는 테네시주 오크리지 국립연구소에서 건설 중입니다. AMD 기술로 구동되는 럭스는 최초의 운영 가능한 제네시스 미션 플랫폼으로 설계되었으며, 미국 에너지부의 인공지능(AI) 리더십을 강화하고 에너지 연구, 재료 과학, 의학 및 첨단 제조 분야의 발전과 혁신을 가속화하는 데 기여할 것입니다. (사진 제공: 오크리지 국립연구소)
랙 스케일이지, 컴포넌트 레벨이 아닙니다.
AMD의 20×30 이니셔티브는 단순히 부품 수준의 개선이 아닌 랙 규모의 성능 향상을 목표로 합니다. AMD는 컴퓨팅 실리콘, 공정 기술, 메모리 및 인터커넥트 대역폭, 소프트웨어, 시스템 설계 전반에 걸친 통합적인 발전을 중심으로 접근 방식을 취하고 있습니다. 이는 AI 인프라가 개별 가속기에서 고밀도 통합 랙으로 전환됨에 따라 풀스택 최적화의 중요성이 커지고 있음을 반영합니다. AMD의 수석 부사장 겸 기업 펠로우인 샘 나프지거는 발표에서 "차세대 AI 효율성은 컴퓨팅 실리콘, 메모리, 인터커넥트, 소프트웨어 및 랙 규모 시스템 설계 전반에 걸친 더욱 긴밀한 공동 최적화에 달려 있습니다."라고 밝혔습니다. 이는 오크리지 국립 연구소의 제네시스 미션 슈퍼컴퓨터 1호인 Lux에 적용된 것과 동일한 풀스택 전략입니다.
AMD는 에너지 효율성 향상이 2030년까지 고객이 활용 가능한 성능을 어떻게 사용하는지에 따라 두 가지 결과를 가져올 것으로 예상합니다. 한 시나리오에서는 향후 약 2개의 랙으로 2024년 기준 570개의 랙과 동일한 컴퓨팅 성능을 제공할 수 있으며, 이를 통해 사용 단계의 전력 소비는 20배, 탄소 배출량은 28배 감소할 것으로 예측합니다. 또 다른 시나리오에서는 이러한 개선을 통해 동일한 에너지 사용량으로 와트당 초당 부동 소수점 연산 처리량 기준으로 20배 더 많은 컴퓨팅 성능을 구현할 수 있을 것으로 예상합니다.
메모리와 인터커넥트 기술은 이러한 노력의 핵심입니다. AMD는 컴퓨팅 리소스에 지속적으로 자원을 공급하면서 에너지 소모가 많은 데이터 이동을 줄이는 메커니즘으로 고대역폭 메모리, 대용량 캐시, 그리고 더욱 긴밀한 메모리-컴퓨팅 통합을 제시했습니다. AMD의 72개 GPU로 구성된 MI455X Helios 랙의 핵심 패브릭인 고속 스케일업 인터커넥트는 대규모 AI 워크로드가 GPU, CPU, 메모리 및 기타 랙 레벨 구성 요소 간의 더욱 효율적인 통신을 요구함에 따라 점점 더 중요해질 것으로 예상됩니다.
소프트웨어 덕분에 100배까지 증가할 수도 있다.
소프트웨어는 AMD의 효율성 전략의 또 다른 핵심 요소입니다. AMD는 ROCm 소프트웨어 스택, 개방형 표준, 그리고 고객 최적화 노력을 통해 AI 학습 및 추론 처리량을 향상시키면서 토큰 생성당 에너지 사용량을 줄이는 것을 목표로 한다고 밝혔습니다. 회사는 소프트웨어, 알고리즘, 모델 수준의 발전이 하드웨어 및 시스템 성능 향상과 시너지 효과를 내어 2030년까지 AI 에너지 효율성을 최대 100배까지 향상시킬 수 있을 것으로 기대하고 있습니다.
점점 더 사용 가능한 와트당 유용한 컴퓨팅 성능에 초점이 맞춰지고 있습니다. 전력 공급, 냉각 용량 및 물리적 인프라가 AI 확장의 제약 조건이 됨에 따라, 랙 규모의 와트당 성능을 개선하면 컴퓨팅 수요에 따라 전력 소비량이 선형적으로 증가할 필요 없이 전력 사용량을 줄이고 인프라 활용도를 향상시킬 수 있습니다.
아마존