Durante a palestra AWS re:Invent, AWS e NVIDIA anunciaram um desenvolvimento significativo para inteligência artificial (IA). O CEO da AWS, Adam Selipsky, convidou o CEO da NVIDIA, Jensen Huang, ao palco para falar sobre os esforços de colaboração estratégica das duas empresas. Esta parceria visa fornecer a infraestrutura, o software e os serviços mais avançados, alimentando inovações generativas de IA. A colaboração é uma combinação da tecnologia de ponta da NVIDIA e da robusta infraestrutura em nuvem da AWS, marcando uma nova era no desenvolvimento de IA.
Revolucionando a IA na nuvem com os superchips NVIDIA GH200 Grace Hopper
Um dos pilares dessa colaboração é a introdução, pela AWS, dos superchips GH200 Grace Hopper da NVIDIA na nuvem, uma inovação inédita entre os provedores de nuvem. Esses superchips representam um salto significativo na computação de IA baseada em nuvem. A plataforma multi-nó GH200 NVL32, que conecta 32 superchips Grace Hopper usando as tecnologias NVIDIA NVLink e NVSwitch, será integrada às instâncias do Amazon EC2. Essas novas instâncias do Amazon EC2 atendem a diversas cargas de trabalho de IA, HPC e computação gráfica.
Cada Superchip GH200 combina uma CPU Grace baseada em Arm com uma GPU de arquitetura NVIDIA Hopper no mesmo módulo, permitindo que uma única instância EC2 forneça até 20 TB de memória compartilhada para alimentar cargas de trabalho em escala de terabytes. Esta configuração permite que clientes conjuntos aumentem para milhares de Superchips GH200, oferecendo poder computacional sem precedentes para pesquisas e aplicações de IA.
Impulsionando IA generativa, HPC, design e simulação
A AWS está lançando três novas instâncias EC2: as instâncias P5e, equipadas com GPUs NVIDIA H200 Tensor Core , são projetadas para cargas de trabalho de IA generativa e HPC de grande escala e de ponta. As instâncias G6 e G6e, equipadas com GPUs NVIDIA L4 e L40S, respectivamente, são adequadas para otimização de IA, inferência, gráficos e cargas de trabalho de vídeo. As instâncias G6e são particularmente adequadas para o desenvolvimento de fluxos de trabalho 3D, gêmeos digitais e aplicativos usando o NVIDIA Omniverse, uma plataforma para a criação de aplicativos 3D com IA generativa.
As instâncias EC200 com NVIDIA GH2 contarão com 4.5 TB de memória HBM3e. Isso representa um aumento de 7.2x em comparação com as atuais instâncias EC100 P2d com tecnologia H5. A interconexão de memória CPU-GPU fornecerá largura de banda até 7x maior que a PCIe, permitindo comunicações chip-a-chip que ampliam a memória total disponível para aplicativos.
As instâncias AWS com GH200 NVL32 serão a primeira infraestrutura de IA na AWS a apresentar refrigeração líquida. Isso ajudará a garantir que racks de servidores densamente compactados operem com eficiência e desempenho máximo. As instâncias EC2 com GH200 NVL32 também se beneficiarão do AWS Nitro System, a plataforma subjacente para instâncias EC2 de próxima geração. O Nitro transfere E/S para funções da CPU/GPU host para hardware especializado, proporcionando desempenho mais consistente com segurança aprimorada para proteger o código e os dados do cliente durante o processamento.
Software NVIDIA na AWS impulsiona desenvolvimento de IA generativa
Em mais um anúncio revolucionário, o software da NVIDIA executado na AWS impulsionará o desenvolvimento de IA generativa. O microsserviço NVIDIA NeMo Retriever oferecerá ferramentas para criar chatbots precisos e ferramentas de sumarização usando recuperação semântica acelerada.
As empresas farmacêuticas podem acelerar a descoberta de medicamentos com NVIDIA BioNeMo, que está disponível no Amazon SageMaker e chegando ao DGX Cloud.
Aproveitando a estrutura NVIDIA NeMo, a AWS treinará Amazon Titan LLMs selecionados de próxima geração. A Amazon Robotics está usando o NVIDIA Omniverse Isaac para criar gêmeos digitais para automatizar, otimizar e planejar armazéns autônomos em ambientes virtuais antes da implantação no mundo real.
NVIDIA DGX Cloud hospedada na AWS: democratizando o treinamento em IA
Outro aspecto crucial desta parceria é a hospedagem do NVIDIA DGX Cloud na AWS. Este serviço de treinamento de IA será o primeiro a apresentar a GH200 NVL32, oferecendo aos desenvolvedores a maior memória compartilhada em uma única instância. O DGX Cloud na AWS acelerará significativamente o treinamento de IA generativa de ponta e grandes modelos de linguagem (LLMs), podendo alcançar mais de 1 trilhão de parâmetros. Este serviço democratiza o acesso a recursos de treinamento de IA de alto desempenho, anteriormente disponíveis apenas para aqueles com infraestrutura computacional robusta.
Projeto Ceiba: Construindo o supercomputador de IA alimentado por GPU mais rápido do mundo
Em um movimento ambicioso, a AWS e a NVIDIA estão colaborando no Projeto Ceiba para construir o supercomputador de IA alimentado por GPU mais rápido do mundo. Este sistema, com 16,384 Superchips NVIDIA GH200 e capaz de processar 65 exaflops de IA, será hospedado pela AWS para a equipe de pesquisa e desenvolvimento da NVIDIA. O supercomputador impulsionará a inovação generativa de IA da NVIDIA, impactando áreas como biologia digital, robótica, veículos autônomos e previsão climática.
Uma nova era de desenvolvimento de IA na AWS
Esta colaboração ampliada entre AWS e NVIDIA é mais do que apenas um avanço tecnológico; é uma mudança de paradigma na computação de IA baseada em nuvem. Ao combinar a infraestrutura avançada de IA da NVIDIA e os recursos de nuvem da AWS, esta parceria irá revolucionar a forma como a IA generativa é desenvolvida e implantada em vários setores. Dos produtos farmacêuticos aos veículos autónomos, as implicações desta colaboração são vastas e de longo alcance, prometendo desbloquear novas possibilidades na IA e muito mais.
Amazon