Computex 기조 연설에서 AMD의 회장 겸 CEO인 Lisa Su 박사는 AMD Instinct 가속기 제품군의 중요한 발전을 공개했습니다. 이 회사는 가속기에 대한 확장된 다년간의 로드맵을 발표하여 AI 성능과 메모리 기능의 연간 개선을 약속했습니다. 이는 AI 및 데이터 센터 워크로드에 대한 혁신의 새로운 시대를 의미합니다.
AMD Instinct MI325X 가속기 소개
업데이트된 로드맵은 325년 4분기에 출시될 예정인 새로운 AMD Instinct MI2024X 가속기로 시작됩니다. 이 가속기는 288GB의 HBM3E 메모리와 초당 6TB의 메모리 대역폭을 제공합니다. Universal Baseboard 서버 설계를 활용하여 AMD Instinct MI300 시리즈와의 호환성을 보장합니다.
MI325X는 업계 최고의 메모리 용량과 대역폭을 자랑하며 경쟁 제품보다 각각 2배, 1.3배 더 뛰어납니다. 경쟁사보다 1.3배 더 나은 컴퓨팅 성능을 제공하므로 AI 워크로드를 위한 강력한 도구입니다.
미래 세대: MI350 및 MI400 시리즈
MI325X에 이어 새로운 AMD CDNA 350 아키텍처를 기반으로 하는 AMD Instinct MI4 시리즈가 2025년에 출시될 예정입니다. 이 시리즈는 AI 추론 성능이 크게 향상되어 AMD에 비해 최대 35배 향상될 것으로 예상됩니다. 본능 MI300 시리즈. MI350X 가속기는 범용 베이스보드 설계를 유지하고 고급 3nm 공정 기술을 활용하며 FP4 및 FP6 AI 데이터 유형을 지원하고 최대 288GB의 HBM3E 메모리를 제공합니다.
더 나아가, AMD CDNA "Next" 아키텍처를 기반으로 하는 AMD Instinct MI400 시리즈는 2026년에 출시될 예정입니다. 이 시리즈는 대규모 AI 훈련 및 추론을 위한 성능과 효율성을 향상시키도록 설계된 최신 기능을 소개합니다. 작업.
AMD Instinct MI300X 가속기의 채택 및 영향
AMD Instinct MI300X 가속기는 Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo 등을 포함한 주요 파트너 및 고객으로부터 강력한 채택을 보였습니다. AMD의 데이터 센터 가속 컴퓨팅 부문 기업 부사장인 Brad McCredie는 MI300X 가속기의 뛰어난 성능과 가치 제안을 강조하면서 MIXNUMXX 가속기가 AI 혁신을 주도하는 데 중요한 역할을 한다고 언급했습니다. 그는 "업데이트된 연간 제품 흐름을 통해 우리는 끊임없는 혁신 속도로 AI 업계에 리더십 기능과 성능을 제공하고 있으며 고객은 데이터 센터 AI 교육 및 추론의 차세대 발전을 주도할 것으로 기대하고 있습니다."라고 말했습니다.
AMD AI 소프트웨어 생태계의 발전
AMD ROCm 6 개방형 소프트웨어 스택은 계속 발전하여 AMD Instinct MI300X 가속기가 널리 사용되는 LLM(대형 언어 모델)에 인상적인 성능을 제공할 수 있게 되었습니다. 300개의 AMD Instinct MI6X 가속기와 Meta Llama-3 70B를 실행하는 ROCm 1.3을 사용하는 서버에서 고객은 경쟁사에 비해 XNUMX배 더 나은 추론 성능과 토큰 생성을 달성할 수 있습니다.
또한 ROCm 300을 탑재한 단일 AMD Instinct MI6X 가속기는 Mistral-1.2B의 추론 성능 및 토큰 생성 처리량에서 경쟁사보다 7배 더 뛰어난 성능을 발휘할 수 있습니다.
AI 모델을 위한 최대 저장소인 Hugging Face와의 AMD의 협력은 생태계의 견고성을 더욱 강조합니다. Hugging Face는 AMD Instinct MI700,000X 가속기에서 원활한 기능을 보장하기 위해 밤마다 가장 인기 있는 모델 300개를 테스트합니다. AMD는 또한 PyTorch, TensorFlow 및 JAX와 같은 인기 있는 AI 프레임워크와의 업스트림 작업을 계속하여 광범위한 호환성과 향상된 성능을 보장하고 있습니다.
주요 AMD 로드맵 하이라이트
기조연설에서 AMD는 증가하는 AI 컴퓨팅 수요를 충족하기 위해 AMD Instinct 가속기 로드맵에 대한 업데이트된 연간 흐름을 공개했습니다. 이를 통해 AMD Instinct 가속기는 차세대 최첨단 AI 모델 개발을 계속해서 주도할 것입니다.
- AMD 본능 MI325X 가속기: 4년 2024분기에 출시되는 이 가속기는 288GB의 HBM3E 메모리, 초당 6테라바이트의 메모리 대역폭, 업계 최고의 메모리 용량 및 대역폭을 갖추고 있습니다. 경쟁 제품에 비해 1.3배 더 나은 컴퓨팅 성능을 제공합니다.
- AMD 본능 MI350 시리즈: 2025년에 예상되는 MI350X 가속기는 AMD CDNA 4 아키텍처를 기반으로 하며 고급 3nm 공정 기술을 사용합니다. FP4 및 FP6 AI 데이터 유형을 지원하고 최대 288GB의 HBM3E 메모리를 포함합니다.
- AMD 본능 MI400 시리즈: 2026년으로 예정된 이 시리즈는 AMD CDNA "Next" 아키텍처를 활용하여 AI 교육 및 추론 성능을 향상시키는 새로운 기능을 도입합니다.
광범위한 산업 채택
AMD Instinct MI300X 가속기에 대한 수요는 까다로운 AI 워크로드를 위해 이러한 가속기를 활용하는 수많은 파트너와 고객들과 함께 계속 증가하고 있습니다.
- Microsoft Azure: Azure OpenAI 서비스 및 새로운 Azure ND MI300X V300 가상 머신용 MI5X 가속기를 활용합니다.
- Dell 기술: 엔터프라이즈 AI 워크로드를 위해 PowerEdge XE300에 MI9680X 가속기를 통합합니다.
- 슈퍼 마이크로: AMD Instinct 가속기를 통합한 다양한 솔루션을 제공합니다.
- 레노버: ThinkSystem SR685a V3로 하이브리드 AI 혁신을 강화합니다.
- HPE: MI300X 가속기를 사용하여 HPE Cray XD675에서 AI 워크로드를 향상합니다.
AMD가 Computex 2024에서 확장된 Instinct 가속기 로드맵을 도입한 것은 회사의 AI 및 데이터 센터 전략에서 중요한 이정표입니다. 연간 제품 업데이트, 향상된 성능 및 광범위한 업계 채택에 대한 약속을 통해 AMD Instinct 가속기는 차세대 AI 혁신을 주도할 예정입니다.
아마존