Lors de son discours d'ouverture au Computex, la présidente et PDG d'AMD, le Dr Lisa Su, a dévoilé des avancées significatives dans la famille d'accélérateurs AMD Instinct. La société a annoncé une feuille de route pluriannuelle élargie pour les accélérateurs, promettant des améliorations annuelles des performances de l'IA et des capacités de mémoire. Cela marque une nouvelle ère d’innovation pour les charges de travail de l’IA et des centres de données.
Présentation de l'accélérateur AMD Instinct MI325X
La feuille de route mise à jour démarre avec le nouvel accélérateur AMD Instinct MI325X, qui devrait être disponible au quatrième trimestre 4. Cet accélérateur dispose de 2024 Go de mémoire HBM288E et d'une bande passante mémoire de 3 téraoctets par seconde. Il utilise la conception du serveur Universal Baseboard, garantissant la compatibilité avec la série AMD Instinct MI6.
Le MI325X offre une capacité de mémoire et une bande passante de pointe, surpassant respectivement la concurrence de 2x et 1.3x. Il offre des performances de calcul 1.3 fois supérieures à celles de ses concurrents, ce qui en fait un outil puissant pour les charges de travail d'IA.
Générations futures : séries MI350 et MI400
Après le MI325X, la série AMD Instinct MI350, alimentée par la nouvelle architecture AMD CDNA 4, devrait être lancée en 2025. Cette série apportera un bond substantiel dans les performances d'inférence de l'IA, avec des projections indiquant une augmentation jusqu'à 35 fois par rapport à l'AMD. Série Instinct MI300. L'accélérateur MI350X conservera la conception de la carte de base universelle, utilisera une technologie de processus avancée de 3 nm, prendra en charge les types de données AI FP4 et FP6 et comportera jusqu'à 288 Go de mémoire HBM3E.
À plus long terme, la série AMD Instinct MI400, alimentée par l'architecture AMD CDNA « Next », devrait sortir en 2026. Cette série présentera les dernières fonctionnalités et capacités conçues pour améliorer les performances et l'efficacité de la formation et de l'inférence de l'IA à grande échelle. Tâches.
Adoption et impact des accélérateurs AMD Instinct MI300X
Les accélérateurs AMD Instinct MI300X ont été fortement adoptés par les principaux partenaires et clients, notamment Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo et d'autres. Brad McCredie, vice-président de Data Center Accelerated Compute chez AMD, a souligné les performances exceptionnelles et la proposition de valeur des accélérateurs MI300X, soulignant leur rôle important dans l'innovation en matière d'IA. Il a déclaré : « Avec notre cadence annuelle de produits mise à jour, nous innovons sans relâche, offrant des capacités et des performances de pointe au secteur de l'IA, et nos clients s'attendent à piloter la prochaine évolution de la formation et de l'inférence de l'IA dans les centres de données. »
Avancées de l’écosystème logiciel AMD AI
La pile logicielle ouverte AMD ROCm 6 continue de mûrir, permettant aux accélérateurs AMD Instinct MI300X d'offrir des performances impressionnantes pour les modèles de langage étendu (LLM) populaires. Sur les serveurs utilisant huit accélérateurs AMD Instinct MI300X et ROCm 6 exécutant Meta Llama-3 70B, les clients peuvent obtenir des performances d'inférence et une génération de jetons 1.3 fois supérieures à celles de la concurrence.
De plus, un seul accélérateur AMD Instinct MI300X avec ROCm 6 peut surpasser ses concurrents de 1.2 fois en termes de performances d'inférence et de débit de génération de jetons sur Mistral-7B.
La collaboration d'AMD avec Hugging Face, le plus grand référentiel de modèles d'IA, souligne encore la robustesse de l'écosystème. Hugging Face teste chaque nuit 700,000 300 de ses modèles les plus populaires pour garantir une fonctionnalité transparente sur les accélérateurs AMD Instinct MIXNUMXX. AMD poursuit également son travail en amont avec des frameworks d'IA populaires tels que PyTorch, TensorFlow et JAX, garantissant une large compatibilité et des performances améliorées.
Points saillants de la feuille de route AMD
Au cours du discours d'ouverture, AMD a dévoilé une cadence annuelle mise à jour pour la feuille de route de l'accélérateur AMD Instinct afin de répondre à la demande croissante de calcul d'IA. Cela garantit que les accélérateurs AMD Instinct continueront à piloter le développement de modèles d’IA de nouvelle génération.
- Accélérateur AMD Instinct MI325X: Lancé au quatrième trimestre 4, cet accélérateur comportera 2024 Go de mémoire HBM288E, 3 téraoctets par seconde de bande passante mémoire, ainsi qu'une capacité de mémoire et une bande passante de pointe. Il offre des performances de calcul 6 fois supérieures à celles de la concurrence.
- Série AMD Instinct MI350: Attendu pour 2025, l'accélérateur MI350X sera basé sur l'architecture AMD CDNA 4 et utilisera une technologie de traitement avancée en 3 nm. Il prendra en charge les types de données AI FP4 et FP6 et comprendra jusqu'à 288 Go de mémoire HBM3E.
- Série AMD Instinct MI400: Prévue pour 2026, cette série exploitera l'architecture AMD CDNA « Next », introduisant de nouvelles fonctionnalités et capacités pour améliorer les performances d'entraînement et d'inférence de l'IA.
Adoption généralisée par l’industrie
La demande pour les accélérateurs AMD Instinct MI300X continue de croître, de nombreux partenaires et clients tirant parti de ces accélérateurs pour leurs charges de travail d'IA exigeantes.
- Microsoft Azure: Utilisation des accélérateurs MI300X pour les services Azure OpenAI et les nouvelles machines virtuelles Azure ND MI300X V5.
- Dell Technologies: Intégration des accélérateurs MI300X dans le PowerEdge XE9680 pour les charges de travail d'IA d'entreprise.
- Supermicro: Fournir de multiples solutions intégrant les accélérateurs AMD Instinct.
- Lenovo: Alimenter l’innovation en matière d’IA hybride avec le ThinkSystem SR685a V3.
- HPE: Utilisation des accélérateurs MI300X pour améliorer les charges de travail d'IA dans le HPE Cray XD675.
L'introduction par AMD de la feuille de route élargie de l'accélérateur Instinct au Computex 2024 marque une étape importante dans la stratégie d'IA et de centre de données de l'entreprise. Avec un engagement envers des mises à jour annuelles des produits, des performances améliorées et une large adoption par l'industrie, les accélérateurs AMD Instinct sont prêts à piloter la prochaine génération d'innovation en matière d'IA.
Amazon