A NVIDIA e o Google Cloud aproveitaram o Google Cloud Next em Las Vegas para delinear uma nova fase de sua parceria de longa data em engenharia, apresentando atualizações para a plataforma Google Cloud AI Hypercomputer para escalar IA física e genérica em ambientes de produção. As empresas continuam a desenvolver em conjunto infraestrutura que abrange silício, sistemas, redes e software para suportar cargas de trabalho de IA cada vez mais complexas, incluindo agentes autônomos, robótica e gêmeos digitais.
A infraestrutura A5X, baseada em Vera Rubin, tem como alvo fábricas de IA em larga escala.
O Google Cloud lançou instâncias bare-metal A5X construídas em sistemas de rack NVIDIA Vera Rubin NVL72 . Esses sistemas foram projetados para melhorar significativamente a economia e a eficiência da inferência, oferecendo um custo por token até 10 vezes menor e uma taxa de transferência de tokens por megawatt até 10 vezes maior do que a geração anterior.
A plataforma A5X integra placas NVIDIA ConnectX-9 SuperNIC com a pilha de rede Virgo de última geração do Google. Essa arquitetura permite o escalonamento de clusters para até 80,000 GPUs Rubin em um único local e para até 960,000 GPUs em implantações com vários locais. O projeto é voltado para ambientes de treinamento e inferência de IA em hiperescala, onde o desempenho da rede e a otimização em nível de sistema são críticos.
O Google Cloud enfatizou que uma infraestrutura altamente integrada e serviços de IA gerenciados são necessários para suportar a próxima onda de cargas de trabalho de IA. Essa combinação permite que os clientes treinem, ajustem e implementem modelos com foco em desempenho, eficiência e escalabilidade operacional.
Amplo portfólio da Blackwell possibilita aceleração na medida certa.
O Google Cloud também apresentou seu portfólio de instâncias baseadas em NVIDIA Blackwell, abrangendo uma ampla gama de tamanhos de implantação e perfis de desempenho. As ofertas incluem VMs A4 baseadas em sistemas NVIDIA HGX B200, configurações A4X e A4X Max construídas nas plataformas GB200 e GB300 NVL72 e acesso fracionado à GPU por meio de instâncias G4 com GPUs RTX PRO 6000 Blackwell Server Edition.
Essa variedade permite que as organizações alinhem a infraestrutura com os requisitos de carga de trabalho. As configurações variam de GPUs fracionárias para tarefas de inferência mais leves a racks NVL72 completos com 72 GPUs interconectadas por meio da tecnologia NVLink de quinta geração e switches NVLink. No segmento de alto desempenho, as implementações podem ser escaladas para dezenas de milhares de GPUs para treinamento de modelos complexos e inferência distribuída.
Esses sistemas são projetados para suportar uma variedade de cargas de trabalho de IA, incluindo modelos de mistura de especialistas (MoE), inferência multimodal, processamento de dados em larga escala e cargas de trabalho de simulação para robótica e IA física.
Os primeiros usuários já estão aproveitando a plataforma. O Thinking Machines Lab está usando instâncias A4X Max baseadas em GB300 NVL72 para escalar o treinamento de sua API Tinker, enquanto a OpenAI está executando cargas de trabalho de inferência em larga escala, incluindo o ChatGPT, em instâncias baseadas em GB200 e GB300 no Google Cloud.
Inteligência Artificial Confidencial chega às GPUs da Blackwell
O Google Cloud está expandindo os recursos de computação confidencial para sua infraestrutura de IA. Os modelos Gemini executados em GPUs NVIDIA Blackwell e Blackwell Ultra agora estão disponíveis em versão prévia no Google Distributed Cloud, permitindo que as organizações implantem modelos mais próximos das fontes de dados confidenciais.
A tecnologia NVIDIA Confidential Computing permite ambientes de execução criptografados nos quais os prompts e os dados de ajuste fino permanecem protegidos contra acesso não autorizado, inclusive por operadores de nuvem. Essa funcionalidade também estará disponível em ambientes multi-inquilinos por meio das VMs Confidential G4 com GPUs RTX PRO 6000 Blackwell.
Esta iniciativa marca a primeira implementação de computação confidencial para GPUs Blackwell na nuvem pública, visando setores regulamentados que exigem proteção de dados rigorosa, mantendo o acesso a infraestrutura de IA de alto desempenho.
Modelos abertos e pipelines de RL gerenciados para IA agente
A plataforma suporta um amplo ecossistema de modelos, incluindo os modelos Gemini e Gemma do Google e os modelos abertos Nemotron da NVIDIA. O NVIDIA Nemotron 3 Super agora está integrado à plataforma Gemini Enterprise Agent, permitindo que os desenvolvedores criem e implementem fluxos de trabalho de agentes orientados por raciocínio.
O Google Cloud também está lançando Clusters de Treinamento Gerenciados com uma API de aprendizado por reforço baseada no NVIDIA NeMo. Esse serviço automatiza o provisionamento de clusters, a orquestração de tarefas e o tratamento de falhas, permitindo o treinamento de aprendizado por reforço em larga escala. O objetivo é reduzir a complexidade operacional e permitir que as equipes se concentrem no comportamento e na otimização do modelo.
A CrowdStrike utiliza as ferramentas NVIDIA NeMo, incluindo Data Designer, Automodel e Megatron Bridge, para gerar dados sintéticos e ajustar modelos de cibersegurança específicos para cada domínio. Esses fluxos de trabalho são executados em infraestrutura baseada em Blackwell, acelerando os processos de detecção e resposta a ameaças.
Expansão das cargas de trabalho de IA industrial e física
A plataforma conjunta também visa casos de uso de IA industrial e física. Aplicativos da Cadence e da Siemens Digital Industries Software agora estão disponíveis no Google Cloud com aceleração NVIDIA, oferecendo suporte a fluxos de trabalho de projeto, simulação e fabricação em setores como semicondutores, automotivo, aeroespacial e de equipamentos pesados.
As bibliotecas NVIDIA Omniverse e Isaac Sim estão disponíveis no Google Cloud Marketplace, permitindo o desenvolvimento de gêmeos digitais fisicamente precisos e fluxos de trabalho de simulação robótica. Essas ferramentas permitem que as organizações simulem e validem sistemas antes da implementação.
Além disso, os microsserviços NVIDIA NIM podem ser implementados no Vertex AI e no Google Kubernetes Engine para dar suporte a cargas de trabalho de IA de visão e robótica. Esses serviços possibilitam recursos como análise de vídeo em tempo real, planejamento robótico e processamento automatizado de dados.
Plataforma em foco: da experimentação à produção
As atualizações posicionam o Google Cloud AI Hypercomputer como uma plataforma completa para levar cargas de trabalho de IA da pesquisa à produção. Com recursos de computação, rede, software e segurança altamente integrados, a plataforma foi projetada para suportar sistemas de agentes em larga escala, automação industrial e aplicações de IA em tempo real.
Amazon