Tijdens haar Computex keynote speech onthulde AMD's voorzitter en CEO, Dr. Lisa Su, belangrijke verbeteringen in de AMD Instinct-acceleratorfamilie. Het bedrijf kondigde een uitgebreide meerjarige routekaart voor de accelerators aan, waarin jaarlijkse verbeteringen in de AI-prestaties en geheugenmogelijkheden worden beloofd. Dit markeert een nieuw tijdperk van innovatie voor AI en datacenterworkloads.
Tijdens haar Computex keynote speech onthulde AMD's voorzitter en CEO, Dr. Lisa Su, belangrijke verbeteringen in de AMD Instinct-acceleratorfamilie. Het bedrijf kondigde een uitgebreide meerjarige routekaart voor de accelerators aan, waarin jaarlijkse verbeteringen in de AI-prestaties en geheugenmogelijkheden worden beloofd. Dit markeert een nieuw tijdperk van innovatie voor AI en datacenterworkloads.
Maak kennis met de AMD Instinct MI325X-accelerator
De bijgewerkte roadmap begint met de nieuwe AMD Instinct MI325X-accelerator, die beschikbaar zal zijn in het vierde kwartaal van 4. Deze accelerator beschikt over 2024 GB HBM288E-geheugen en een geheugenbandbreedte van 3 terabytes per seconde. Het maakt gebruik van het Universal Baseboard-serverontwerp, waardoor compatibiliteit met de AMD Instinct MI6-serie wordt gegarandeerd.
De MI325X beschikt over toonaangevende geheugencapaciteit en bandbreedte en presteert respectievelijk 2x en 1.3x beter dan de concurrentie. Het biedt 1.3x betere rekenprestaties dan concurrenten, waardoor het een krachtig hulpmiddel is voor AI-workloads.
Toekomstige generaties: MI350- en MI400-serie
Na de MI325X zal naar verwachting in 350 de AMD Instinct MI4-serie, aangedreven door de nieuwe AMD CDNA 2025-architectuur, worden gelanceerd. Deze serie zal een substantiële sprong voorwaarts betekenen in de AI-inferentieprestaties, met prognoses die een toename tot 35x aangeven in vergelijking met de AMD Instinct MI300-serie. De MI350X-accelerator behoudt het Universal Baseboard-ontwerp, maakt gebruik van geavanceerde 3nm-procestechnologie, ondersteunt FP4- en FP6 AI-datatypes en beschikt over maximaal 288 GB HBM3E-geheugen.
Verder vooruitkijkend staat de release van de AMD Instinct MI400-serie, mogelijk gemaakt door de AMD CDNA ‘Next’-architectuur, gepland voor 2026. Deze serie introduceert de nieuwste functies en mogelijkheden die zijn ontworpen om de prestaties en efficiëntie te verbeteren voor grootschalige AI-training en -inferentie. taken.
Adoptie en impact van AMD Instinct MI300X-accelerators
De AMD Instinct MI300X-accelerators hebben een sterke acceptatie gezien van grote partners en klanten, waaronder Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo en anderen. Brad McCredie, corporate vice-president van Data Center Accelerated Compute bij AMD, benadrukte de uitzonderlijke prestaties en waardepropositie van de MI300X-accelerators en wees op hun belangrijke rol bij het stimuleren van AI-innovatie. Hij verklaarde: “Met onze bijgewerkte jaarlijkse cadans van producten zijn we meedogenloos in ons innovatietempo en bieden we de leiderschapscapaciteiten en prestaties die de AI-industrie nodig heeft, en onze klanten verwachten de volgende evolutie van datacenter AI-training en gevolgtrekking te stimuleren.”
Vooruitgang in het AMD AI-software-ecosysteem
De AMD ROCm 6 open softwarestack wordt steeds volwassener, waardoor AMD Instinct MI300X-accelerators indrukwekkende prestaties kunnen leveren voor populaire grote taalmodellen (LLM's). Op servers die acht AMD Instinct MI300X-accelerators en ROCm 6 met Meta Llama-3 70B gebruiken, kunnen klanten 1.3x betere inferentieprestaties en tokengeneratie behalen vergeleken met de concurrentie.
Bovendien kan een enkele AMD Instinct MI300X-accelerator met ROCm 6 1.2x beter presteren dan de concurrentie op het gebied van inferentieprestaties en doorvoer van tokengeneratie op Mistral-7B.
AMD's samenwerking met Hugging Face, de grootste opslagplaats voor AI-modellen, onderstreept de robuustheid van het ecosysteem verder. Hugging Face test elke nacht 700,000 van hun populairste modellen om naadloze functionaliteit op AMD Instinct MI300X-accelerators te garanderen. AMD zet ook zijn upstream-werk voort met populaire AI-frameworks zoals PyTorch, TensorFlow en JAX, waardoor brede compatibiliteit en verbeterde prestaties worden gegarandeerd.
Belangrijkste hoogtepunten van de AMD Roadmap
Tijdens de keynote onthulde AMD een bijgewerkte jaarlijkse cadans voor de AMD Instinct accelerator roadmap om tegemoet te komen aan de groeiende vraag naar AI-compute. Dit zorgt ervoor dat AMD Instinct-accelerators de ontwikkeling van grensverleggende AI-modellen van de volgende generatie zullen blijven stimuleren.
- AMD Instinct MI325X-versneller: Deze accelerator wordt gelanceerd in het vierde kwartaal van 4 en beschikt over 2024 GB HBM288E-geheugen, 3 terabytes per seconde aan geheugenbandbreedte en toonaangevende geheugencapaciteit en bandbreedte. Het biedt 6x betere rekenprestaties vergeleken met de concurrentie.
- AMD Instinct MI350-serie: Naar verwachting in 2025 zal de MI350X-accelerator gebaseerd zijn op de AMD CDNA 4-architectuur en gebruik maken van geavanceerde 3nm-procestechnologie. Het ondersteunt FP4- en FP6 AI-datatypes en bevat maximaal 288 GB HBM3E-geheugen.
- AMD Instinct MI400-serie: Deze serie, gepland voor 2026, zal gebruik maken van de AMD CDNA “Next”-architectuur, waarbij nieuwe functies en mogelijkheden worden geïntroduceerd om de AI-training en de inferentieprestaties te verbeteren.
Wijdverbreide adoptie door de industrie
De vraag naar AMD Instinct MI300X-accelerators blijft groeien, waarbij talloze partners en klanten deze accelerators inzetten voor hun veeleisende AI-workloads.
- Microsoft Azure: Gebruik maken van MI300X-accelerators voor Azure OpenAI-services en de nieuwe Azure ND MI300X V5 virtuele machines.
- Dell Technologies: Integratie van MI300X-accelerators in de PowerEdge XE9680 voor zakelijke AI-workloads.
- Supermicro: Het bieden van meerdere oplossingen met AMD Instinct-accelerators.
- Lenovo: Hybride AI-innovatie mogelijk maken met de ThinkSystem SR685a V3.
- HPE: MI300X-accelerators gebruiken om de AI-workloads in de HPE Cray XD675 te verbeteren.
AMD's introductie van de uitgebreide Instinct accelerator roadmap op Computex 2024 markeert een belangrijke mijlpaal in de AI- en datacenterstrategie van het bedrijf. Met een toewijding aan jaarlijkse productupdates, verbeterde prestaties en brede acceptatie door de industrie, zullen AMD Instinct-accelerators de volgende generatie AI-innovatie aandrijven.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
