NVIDIA et Google Cloud ont profité de Google Cloud Next à Las Vegas pour présenter une nouvelle phase de leur partenariat d'ingénierie de longue date, en dévoilant des mises à jour de la plateforme d'hypercalculateurs Google Cloud AI afin de permettre le déploiement à grande échelle de l'IA, tant physique que comportementale, dans les environnements de production. Les deux entreprises continuent de concevoir conjointement une infrastructure complète (silicium, systèmes, réseau et logiciels) pour prendre en charge des charges de travail d'IA de plus en plus complexes, notamment les agents autonomes, la robotique et les jumeaux numériques.
L'infrastructure A5X basée sur Vera Rubin cible les usines d'IA à grande échelle
Google Cloud a lancé les instances bare metal A5X, basées sur des systèmes rack NVIDIA Vera Rubin NVL72 . Ces systèmes sont conçus pour améliorer considérablement l'économie et l'efficacité de l'inférence, offrant un coût par jeton jusqu'à 10 fois inférieur et un débit de jetons par mégawatt jusqu'à 10 fois supérieur à la génération précédente.
La plateforme A5X intègre des cartes réseau NVIDIA ConnectX-9 SuperNIC à la pile réseau Virgo de nouvelle génération de Google. Cette architecture permet une mise à l'échelle des clusters jusqu'à 80 000 GPU Rubin sur un seul site et jusqu'à 960 000 GPU sur plusieurs sites. Elle est conçue pour les environnements d'entraînement et d'inférence d'IA à très grande échelle, où les performances réseau et l'optimisation au niveau système sont essentielles.
Google Cloud a souligné que des infrastructures étroitement intégrées et des services d'IA gérés sont indispensables pour prendre en charge la prochaine génération de charges de travail d'IA. Cette solution combinée permet aux clients d'entraîner, d'optimiser et de déployer des modèles en mettant l'accent sur la performance, l'efficacité et l'évolutivité opérationnelle.
Le vaste portefeuille de Blackwell permet une accélération adaptée
Google Cloud a également présenté son portefeuille d'instances basées sur NVIDIA Blackwell, couvrant un large éventail de tailles de déploiement et de profils de performances. L'offre comprend des machines virtuelles A4 basées sur des systèmes NVIDIA HGX B200, des configurations A4X et A4X Max construites sur les plateformes GB200 et GB300 NVL72, ainsi qu'un accès fractionné au GPU via des instances G4 avec des GPU RTX PRO 6000 Blackwell Server Edition.
Cette gamme permet aux entreprises d'adapter leur infrastructure à leurs besoins en matière de charge de travail. Les configurations vont des GPU fractionnés pour les tâches d'inférence légères aux racks NVL72 complets, équipés de 72 GPU interconnectés via la technologie NVLink de cinquième génération et NVLink Switch. Pour les déploiements les plus complexes, il est possible d'atteindre plusieurs dizaines de milliers de GPU pour l'entraînement de modèles complexes et l'inférence distribuée.
Ces systèmes sont conçus pour prendre en charge une gamme de charges de travail d'IA, notamment les modèles de mélange d'experts (MoE), l'inférence multimodale, le traitement de données à grande échelle et les charges de travail de simulation pour la robotique et l'IA physique.
Les premiers utilisateurs exploitent déjà la plateforme. Thinking Machines Lab utilise des instances A4X Max basées sur GB300 NVL72 pour adapter l'entraînement de son API Tinker, tandis qu'OpenAI exécute des charges de travail d'inférence à grande échelle, notamment ChatGPT, sur des instances basées sur GB200 et GB300 sur Google Cloud.
L'IA confidentielle s'étend aux GPU Blackwell
Google Cloud étend ses capacités de calcul confidentiel à son infrastructure d'IA. Les modèles Gemini exécutés sur les GPU NVIDIA Blackwell et Blackwell Ultra sont désormais disponibles en avant-première sur Google Distributed Cloud, permettant aux entreprises de déployer des modèles au plus près de leurs sources de données sensibles.
NVIDIA Confidential Computing permet de créer des environnements d'exécution chiffrés où les invites et les données de paramétrage restent protégées contre tout accès non autorisé, y compris par les opérateurs cloud. Cette fonctionnalité est également disponible pour les environnements mutualisés via les machines virtuelles Confidential G4 équipées de GPU RTX PRO 6000 Blackwell.
Il s'agit de la première implémentation de calcul confidentiel pour les GPU Blackwell dans le cloud public, ciblant les secteurs réglementés qui exigent une protection stricte des données tout en maintenant l'accès à une infrastructure d'IA haute performance.
Modèles ouverts et pipelines d'apprentissage par renforcement gérés pour l'IA agentique
La plateforme prend en charge un vaste écosystème de modèles, notamment les modèles Gemini et Gemma de Google et les modèles ouverts Nemotron de NVIDIA. NVIDIA Nemotron 3 Super est désormais intégré à la plateforme Gemini Enterprise Agent, permettant aux développeurs de créer et de déployer des flux de travail multi-agents basés sur le raisonnement.
Google Cloud lance également Managed Training Clusters avec une API d'apprentissage par renforcement basée sur NVIDIA NeMo. Ce service automatise le provisionnement des clusters, l'orchestration des tâches et la gestion des erreurs, permettant ainsi un entraînement RL à grande échelle. L'objectif est de réduire la complexité opérationnelle et de permettre aux équipes de se concentrer sur le comportement et l'optimisation des modèles.
CrowdStrike utilise les outils NVIDIA NeMo, notamment Data Designer, Automodel et Megatron Bridge, pour générer des données synthétiques et affiner les modèles de cybersécurité spécifiques à chaque domaine. Ces processus s'exécutent sur une infrastructure Blackwell, accélérant ainsi la détection des menaces et les chaînes de réponse.
Développement des charges de travail de l'IA industrielle et physique
La plateforme commune cible également les cas d'usage de l'IA industrielle et physique. Les applications de Cadence et de Siemens Digital Industries Software sont désormais disponibles sur Google Cloud avec l'accélération NVIDIA, prenant en charge les flux de travail de conception, de simulation et de fabrication dans des secteurs tels que les semi-conducteurs, l'automobile, l'aérospatiale et les équipements lourds.
Les bibliothèques NVIDIA Omniverse et Isaac Sim sont disponibles sur Google Cloud Marketplace, permettant le développement de jumeaux numériques physiquement précis et de pipelines de simulation robotique. Ces outils permettent aux entreprises de simuler et de valider leurs systèmes avant leur déploiement.
De plus, les microservices NVIDIA NIM peuvent être déployés sur Vertex AI et Google Kubernetes Engine pour prendre en charge les charges de travail d'IA de vision et de robotique. Ces services offrent des fonctionnalités telles que l'analyse vidéo en temps réel, la planification robotique et le traitement automatisé des données.
Focus sur la plateforme : de l’expérimentation à la production
Ces mises à jour positionnent Google Cloud AI Hypercomputer comme une plateforme complète permettant de déployer des charges de travail d'IA de la recherche à la production. Grâce à une intégration étroite des capacités de calcul, de réseau, de logiciel et de sécurité, la plateforme est conçue pour prendre en charge les systèmes multi-agents à grande échelle, l'automatisation industrielle et les applications d'IA en temps réel.
Amazon