AMDは、2024年から2026年半ばにかけてAIのエネルギー効率が推定4倍向上し、同期間の目標である3倍を上回ったと発表した。同社は、 2025年6月に設定した目標である、ラック規模のAIトレーニングと推論の効率を2030年までに20倍向上させることを目指している。
同社は、代表的なAMDラック構成におけるワットあたりの性能指標を用いて、2024年の基準値に対する進捗状況を測定している。AMDは、2026年の結果は、最終的な性能データが入手できなかった部分について、測定された製品データとモデルによる推定値を組み合わせたものであると指摘した。AMDは20倍の目標を設定した際、その目標自体が2018年から2025年までの業界全体の改善傾向を3倍近く上回ると述べていたが、今回の中間結果である4倍は、その加速した傾向さえも上回っている。
Luxスーパーコンピュータは、テネシー州のオークリッジ国立研究所で建設中です。AMDの技術を搭載したLuxは、Genesis Mission初の運用プラットフォームとなるよう設計されており、米国エネルギー省のAI分野におけるリーダーシップを拡大し、エネルギー研究、材料科学、医学、先端製造における進歩と革新を加速させるのに役立ちます。（写真提供：オークリッジ国立研究所）
ラック単位、コンポーネントレベルではない
AMDの20×30イニシアチブは、コンポーネントレベルの改善だけでなく、ラック規模での向上を目指しています。同社は、コンピューティングシリコン、プロセス技術、メモリと相互接続の帯域幅、ソフトウェア、システム設計にわたる協調的な進歩を中心にアプローチを展開しています。これは、AIインフラストラクチャが個々のアクセラレータから高密度に統合されたラックへと移行するにつれて、フルスタック最適化の重要性が高まっていることを反映しています。「AI効率の次の波は、コンピューティングシリコン、メモリ、相互接続、ソフトウェア、ラック規模のシステム設計にわたるより緊密な協調最適化にかかっています」と、AMDの上級副社長兼コーポレートフェローであるサム・ナフツィガー氏は発表の中で述べています。これは、オークリッジ国立研究所で最初のジェネシスミッションスーパーコンピュータとなったAMD搭載システムLuxの背後にあるのと同じフルスタックの考え方です。
同社は、エネルギー効率の向上により、顧客が利用可能なパフォーマンスをどのように活用するかによって、2030年までに2つの成果が得られると予測している。1つのシナリオでは、将来のラック約2台で、2024年時点のラック570台と同等の演算能力を実現でき、使用段階の電力消費量を20分の1、炭素排出量を28分の1に削減できるとAMDは予測している。あるいは、予測される改善により、同じエネルギー消費量で、1秒あたりの浮動小数点演算回数を20倍に増やすことが可能になるかもしれない。
メモリと相互接続技術は、この取り組みの中核を成すものです。AMDは、高帯域幅メモリ、大容量キャッシュ、そしてメモリと演算処理のより緊密な統合を、エネルギー消費の大きいデータ転送を削減しつつ、演算処理リソースへのデータ供給を維持するためのメカニズムとして特定しました。AMDの72個のGPUを搭載したMI455X Heliosラックの中核を成す高速スケールアップ相互接続も、より大規模なAIワークロードにおいてGPU、CPU、メモリ、その他のラックレベルコンポーネント間の通信効率の向上が求められるようになるにつれ、ますます重要になると予想されます。
ソフトウェアによって100倍にまで拡大できる可能性がある
ソフトウェアは、同社の効率化戦略におけるもう一つの重要な要素です。AMDは、ROCmソフトウェアスタック、オープンスタンダード、および顧客最適化の取り組みは、AIのトレーニングと推論のスループットを向上させつつ、生成されるトークンあたりのエネルギー消費量を削減することを目的としていると述べています。同社は、ソフトウェア、アルゴリズム、およびモデルレベルの進歩がハードウェアとシステムの性能向上を相乗的に促進し、2030年までにAIのエネルギー効率を最大100倍向上させる可能性があると見込んでいます。
利用可能なワット数あたりの有効演算能力にますます注目が集まっている。電力供給、冷却能力、物理インフラがAIの拡大における制約となるにつれ、ラック規模のワット数あたりの性能向上は、電力消費量を演算需要に比例させることなく、電力使用量を削減し、インフラ利用率を向上させる可能性がある。
Amazon