Amazon Web Services et NVIDIA ont annoncé un important renforcement de leurs initiatives communes en matière d'infrastructure, prévoyant le déploiement de 2 millions de GPU NVIDIA supplémentaires dans les centres de données AWS entre 2027 et 2028. S'appuyant sur une collaboration technique de 16 ans, cette expansion vise à assurer une mise à l'échelle complète de l'infrastructure d'IA, englobant la capacité d'accélération, les architectures de processeurs hôtes, les interconnexions à large bande passante, les déploiements pour les gouvernements souverains et les pipelines de traitement de données accélérés.
« Les clients souhaitent avoir la liberté de choisir les meilleurs outils pour leurs charges de travail d'IA et la certitude que tout fonctionnera parfaitement ensemble », a déclaré Matt Garman, PDG d'AWS. Jensen Huang, fondateur et PDG de NVIDIA, a affirmé que les deux entreprises « ont bâti l'un des plus grands moteurs de croissance de l'ère de l'IA et que la demande dépasse toutes les prévisions », soulignant une expansion qui englobe les GPU, les CPU, les réseaux, les modèles ouverts et les logiciels permettant à l'IA, tant physique que comportementale, de fonctionner à grande échelle.
Déploiements GPU à grande échelle et instances EC2 G7
Ce déploiement pluriannuel intégrera 2 millions de GPU NVIDIA Blackwell Ultra, Rubin et Rubin Ultra à l'infrastructure mondiale AWS, spécialement conçue pour alimenter de grandes usines d'IA gérant la formation distribuée, la simulation scientifique, l'automatisation d'entreprise et les flux de travail d'agents.
AWS étend également sa flotte Blackwell de dernière génération en introduisant des GPU NVIDIA RTX PRO 4500 Blackwell Server Edition dans les instances Amazon EC2 G7. AWS est le premier grand fournisseur de cloud à proposer des instances accélérées par la RTX PRO 4500, offrant des performances d'inférence IA jusqu'à 4.6 fois supérieures et un débit graphique 2.1 fois plus élevé que les instances EC2 G6 de génération précédente. Afin de maintenir un débit global et une faible latence sur ces nœuds haute densité, les deux entreprises collaborent sur des optimisations réseau NVIDIA Spectrum adaptées aux grands clusters d'entraînement GPU.
Processeurs NVIDIA Vera et NVLink Fusion avec mémoire HBM personnalisée
Pour répondre aux besoins de calcul des charges de travail d'IA multi-étapes, AWS et NVIDIA collaborent afin de proposer une infrastructure basée sur les processeurs NVIDIA Vera sur AWS. NVIDIA décrit Vera comme une solution conçue spécifiquement pour l'IA de nouvelle génération, offrant aux clients AWS une option de processeur haute performance associée à une infrastructure accélérée et complétant la stratégie d'AWS qui consiste à proposer le plus large choix possible de solutions de calcul, allant de ses propres puces aux processeurs et accélérateurs de partenaires.
Dans le domaine de l'interconnexion et de la mémoire, NVIDIA et Annapurna Labs (Amazon) renforcent leur partenariat autour de NVIDIA NVLink Fusion. Initialement conçue pour les processeurs Trainium de nouvelle génération d'AWS, la technologie NVLink Fusion est désormais associée à la mémoire haute performance personnalisée (NVHBM) de NVIDIA, développée en collaboration avec des fournisseurs de mémoire. Selon NVIDIA, cette combinaison permettra à Trainium d'accéder à une mémoire plus rapide et plus économe en énergie, permettant ainsi à Annapurna Labs d'intégrer les puces Trainium et les GPU NVIDIA au sein d'une architecture rack partagée et évolutive.
Usines d'IA dédiées aux charges de travail fédérales et de sécurité nationale
Pour répondre aux besoins du secteur public, AWS et NVIDIA développent conjointement des plateformes d'IA dédiées, équipées de 100 000 GPU et déployées sur une infrastructure AWS isolée et sécurisée. Cet environnement est conçu pour prendre en charge les charges de travail sensibles des agences fédérales et de la défense, garantissant la conformité et la sécurité opérationnelle pour les classifications de niveau d'impact 6 (IL6) et supérieur.
Intégrations de la plateforme principale : Nitro, traitement des données et robotique
L'alliance élargie continue de tirer parti des intégrations techniques de base existantes sur l'ensemble de la pile AWS :
- Système AWS Nitro et EFA : Toutes les instances EC2 basées sur les GPU NVIDIA et Trainium s'appuient sur le système AWS Nitro pour la virtualisation déportée et la sécurité matérielle, associé à la mise en réseau Elastic Fabric Adapter (EFA) pour fournir une interconnexion évolutive à débit de ligne et à faible latence.
- Modèles ouverts gérés : La famille de modèles ouverts NVIDIA Nemotron reste nativement intégrée à AWS, proposée sous forme de points de terminaison entièrement gérés et sans serveur sur Amazon Bedrock et sous forme de modèles de base personnalisables sur Amazon SageMaker.
- Analyse et recherche accélérées par le matériel : Amazon EMR exploite les instances Amazon EC2 G7 et la bibliothèque NVIDIA cuDF pour offrir un débit de traitement des données jusqu'à 3.7 fois plus rapide et un rapport prix/performances amélioré de 30 % par rapport aux configurations CPU standard. De plus, Amazon OpenSearch Service tire parti des GPU dédiés via les bibliothèques NVIDIA CUDA-X cuVS pour l'indexation vectorielle, ce qui permet d'obtenir des temps de création d'index jusqu'à 9 fois plus rapides pour un coût d'infrastructure environ quatre fois inférieur, que ce soit pour des déploiements gérés ou sans serveur.
- IA physique et automatisation robotique : Amazon Robotics intègre la suite d'IA physique de NVIDIA, qui comprend les modules de calcul en périphérie NVIDIA Jetson, les bibliothèques de simulation Omniverse et la plateforme robotique Isaac. Fonctionnant sur des instances EC2 accélérées par GPU, ce pipeline prend en charge la génération de données synthétiques à grande échelle, la simulation, l'entraînement des robots, l'optimisation des itinéraires, la sécurité fonctionnelle et la validation entre le réel et la simulation pour les systèmes d'entrepôt automatisés.
Amazon