La série AMD Instinct MI300 introduit une nouvelle approche de l'architecture des accélérateurs pour l'IA, combinant des technologies avancées pour faire progresser le calcul haute performance et l'intelligence artificielle. Avec sa conception sophistiquée, la série MI300 promet de redéfinir les limites de la puissance et de l'efficacité de calcul.
Présentation de la famille MI300
Il y a beaucoup de chemin à parcourir ici, et la nuance entre les deux est subtile mais importante.
| Spécifications | MI300x | MI300a |
|---|---|---|
| Cœurs de CPU | 12 chiplets en un seul appareil • Quatre IOD et huit XCD • Infinity Fabric AP et emballage 3D |
13 chiplets dans un seul APU • Processeur 8c 16t x86 x 3 CCD (24 cœurs au total) • Quatre IOD, trois CCD et six XCD • Infinity Fabric AP et emballage 3D |
| Cache (L3) | 32 Mo de cache L3 partagé par huit cœurs | L1 et L2 uniquement |
| Capacité du HBM3 | 196GB | 128GB |
| Cache infini | • 256 Mo à 17 To/s de bande passante maximale • Amplification de bande passante XCD • Réduction de puissance HBM • Cohérence du cache multi-XCD et CCD • Prefetcher pour la latence de la mémoire du processeur |
• 256 Mo à 17 To/s de bande passante maximale • Amplification de bande passante XCD • Réduction de puissance HBM • Cohérence du cache multi-XCD |
| Architecture unifiée | N/D | HBM unifié et Infinity Cache • Partage de données CCD et XCD • Mouvement de données réduit • Programmation simplifiée |
Die complexe CPU Zen 4 (CCD) et améliorations
Au cœur de l'APU MI300A se trouve le CPU Complex Die (CCD) « Zen 4 », doté de huit cœurs AMD « Zen 4 » x86 multithread, chacun doté de 1 Mo de cache L2 et de 32 Mo de cache L3 partagé. Cette architecture robuste prend en charge le multithreading simultané (SMT) et intègre les mises à jour ISA essentielles, notamment BFLOAT16, VNNI et AVX-512, avec un chemin de données de 256 bits. Le système de mémoire est tout aussi impressionnant, avec une adressabilité virtuelle/physique de 48b/48b, garantissant une prise en charge étendue de la mémoire.
Unité de calcul et système de mémoire CDNA 3
L'unité de calcul CDNA 3 de la série MI300 introduit des améliorations notables. Chaque Accelerator Complex Die (XCD) héberge 38 unités de calcul CDNA 3, soutenues par un cache L4 partagé de 2 Mo et un cache L1 optimisé pour les octets/FLOP. Ces unités prennent en charge une gamme de formats numériques tels que TF32 et FP8 et sont conformes aux normes OCP FP8. Le système de mémoire est conçu pour maximiser l'efficacité du partage de données et réduire la latence, grâce aux innovations Infinity Cache et Infinity Fabric Interface d'AMD.
Packaging de liaisons hybrides 3.5D : un bond en avant dans l'intégration
L'un des points forts de la famille MI300 est son boîtier hybride 3.5D, qui augmente considérablement le calcul et la mémoire HBM (High Bandwidth Memory) au sein d'un boîtier. Cette méthode de packaging offre des interconnexions de chipsets denses et économes en énergie, améliorant ainsi l’efficacité globale du système. La série MI300 utilise une approche de construction modulaire, permettant des configurations flexibles et une évolutivité.
Gestion avancée de l’alimentation et conception thermique
Le système de gestion de l'énergie de la famille MI300 est conçu pour gérer des charges de travail informatiques intensives, avec une conception axée sur l'efficacité énergétique et l'extraction de chaleur. L'architecture thermique unique prend en charge des TDP (Thermal Design Power) supérieurs à 550 W, garantissant des performances fiables même dans des conditions exigeantes. Le système de distribution d'énergie est ingénieusement conçu pour s'adapter à différentes matrices et orientations empilées, garantissant ainsi un alignement et une efficacité précis.
Performances de l'AMD MI300
AMD a lancé un produit intéressant sur le marché avec sa plate-forme Instinct MI300X et le positionne comme un concurrent sérieux du difficile H100 HGX de Nvidia. La plate-forme MI300X est livrée avec 1.5 To de mémoire HBM3, ce qui éclipse considérablement la capacité de mémoire de 640 Go du H100 HGX, ce que tous les développeurs seront heureux d'avoir. Du côté de la puissance de calcul brute, AMD prend la tête avec environ 10.4 pétaFLOPS de performances FP16/BF16, soit environ 1.3 fois celle du H100 HGX, promettant une efficacité améliorée pour les calculs complexes.
Concernant les autres spécifications clés, les deux plates-formes sont proches de la parité, correspondant aux progrès en termes de bande passante bidirectionnelle globale et de capacités d'interface réseau, chacune fournissant jusqu'à 400 GbE et maintenant la parité avec les interfaces PCIe Gen 5 à 128 Go/s. Le duel entre AMD et NVIDIA témoigne d'une innovation rapide sans précédent dans le secteur HPC/IA alors que les fabricants continuent de lancer de nouvelles technologies pour répondre aux demandes croissantes de mémoire supplémentaire et de calcul plus rapide.
Réflexions de clôture
La série AMD Instinct MI300, avec son architecture modulaire et chiplet avancée, ses puissants cœurs CPU et GPU, ainsi que son packaging et sa gestion de l'énergie innovants, a beaucoup à offrir en matière de calcul haute performance et d'intelligence artificielle. Sa conception reflète une intégration bien pensée de puissance, de performances et d’efficacité, établissant de nouvelles références pour les futures technologies informatiques.
Alors que le monde informatique attend avec impatience le déploiement complet de la série MI300, il sera intéressant de voir si AMD peut suivre le rythme de l'offre et des avancées technologiques tout en favorisant continuellement l'innovation dans les domaines HPC et IA. AMD propose une solution convaincante et comparable à la série MI300.
Amazon