AMD Instinct 加速器系列在 Computex 2024 上展示

by 喬丹拉努斯 on 2024 年 6 月 2 日

AI ◇ 企業

AMD 董事長兼執行長 Lisa Su 博士在 Computex 主題演講中公佈了 AMD Instinct 加速器系列的重大進步。該公司宣布了擴展的加速器多年路線圖，承諾每年改進人工智慧效能和記憶體功能。這標誌著人工智慧和資料中心工作負載創新的新時代。

AMD Instinct MI325X 加速器簡介

更新後的路線圖從新的 AMD Instinct MI325X 加速器開始，該加速器將於 4 年第四季上市。它採用通用底板伺服器設計，確保與 AMD Instinct MI2024 系列相容。

MI325X 擁有業界領先的記憶體容量和頻寬，分別比競爭對手高出 2 倍和 1.3 倍。它的運算效能比競爭對手高出 1.3 倍，使其成為處理 AI 工作負載的強大工具。

下一代：MI350 和 MI400 系列

繼MI325X之後，搭載全新AMD CDNA 350架構的AMD Instinct MI4系列預計於2025年推出。 MI35X加速器將維持通用底板設計，採用先進的300nm製程技術，支援FP350和FP3 AI資料類型，並配備高達4GB的HBM6E記憶體。

展望未來，搭載AMD CDNA「Next」架構的AMD Instinct MI400系列預計於2026年發布。

AMD Instinct MI300X 加速器的採用與影響

AMD Instinct MI300X 加速器得到了主要合作夥伴和客戶的大力採用，包括 Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo 等。 AMD 資料中心加速運算公司副總裁 Brad McCredie 強調了 MI300X 加速器的卓越效能和價值主張，並指出它們在推動人工智慧創新方面發揮著重要作用。他表示：“隨著我們每年更新的產品節奏，我們不斷地創新，提供人工智慧行業的領先能力和性能，我們的客戶期望推動資料中心人工智慧訓練和推理的下一次發展。”

AMD AI 軟體生態系統的進步

AMD ROCm 6 開放軟體堆疊不斷成熟，使 AMD Instinct MI300X 加速器能夠為流行的大語言模型 (LLM) 提供令人印象深刻的效能。在使用八個 AMD Instinct MI300X 加速器和運行 Meta Llama-6 3B 的 ROCm 70 的伺服器上，客戶可以實現比競爭對手高 1.3 倍的推理效能和代幣產生。

此外，配備 ROCm 300 的單一 AMD Instinct MI6X 加速器在 Mistral-1.2B 上的推理效能和代幣產生吞吐量方面可比競爭對手高出 7 倍。

AMD 與最大的 AI 模式儲存庫 Hugging Face 的合作進一步凸顯了生態系統的穩健性。 Hugging Face 每晚測試 700,000 萬個最受歡迎的型號，以確保 AMD Instinct MI300X 加速器上的無縫功能。 AMD 也繼續與 PyTorch、TensorFlow 和 JAX 等流行的人工智慧框架進行上游合作，確保廣泛的兼容性和增強的性能。

AMD 路線圖的主要亮點

在主題演講中，AMD 公佈了 AMD Instinct 加速器路線圖的更新年度節奏，以滿足日益增長的 AI 運算需求。這確保了AMD Instinct加速器將繼續推動下一代前沿人工智慧模型的開發。

AMD Instinct MI325X 加速器：該加速器於 4 年第四季推出，將配備 2024GB HBM288E 記憶體、每秒 3 TB 的記憶體頻寬以及業界領先的記憶體容量和頻寬。與競爭對手相比，它的運算效能提高了 6 倍。
AMD Instinct MI350 系列：預計2025年，MI350X加速器將基於AMD CDNA 4架構，並採用先進的3nm製程技術。它將支援 FP4 和 FP6 AI 資料類型，並包括高達 288GB 的 HBM3E 記憶體。
AMD Instinct MI400 系列：該系列計劃於 2026 年推出，將利用 AMD CDNA「Next」架構，引入新特性和功能來增強 AI 訓練和推理性能。