StorageReview.com

AWS y NVIDIA desplegarán 2 millones de GPU adicionales entre 2027 y 2028, incorporando las CPU Vera y NVHBM personalizado a Trainium.

Cloud  ◇  Empresa

Amazon Web Services y NVIDIA han anunciado una importante expansión de sus iniciativas conjuntas de infraestructura, detallando planes para desplegar 2 millones de GPU NVIDIA adicionales en los centros de datos de AWS entre 2027 y 2028. Basándose en una relación de ingeniería de 16 años, la colaboración ampliada tiene como objetivo la escalabilidad integral de la infraestructura de IA, abarcando la capacidad de aceleración, las arquitecturas de CPU anfitrionas, las interconexiones de alto ancho de banda, los despliegues gubernamentales y las canalizaciones de procesamiento de datos aceleradas.

«Los clientes quieren tener la libertad de elegir las mejores herramientas para sus cargas de trabajo de IA y la seguridad de que todo funcione a la perfección», afirmó Matt Garman, director ejecutivo de AWS. Jensen Huang, fundador y director ejecutivo de NVIDIA, señaló que ambas compañías «han creado uno de los mayores motores de crecimiento de la era de la IA, y la demanda supera todas las previsiones», destacando una expansión que abarca GPU, CPU, redes, modelos abiertos y software para que la IA cinética y física funcione a gran escala.

Logotipos de AWS y NVIDIA, que marcan la ampliación de la colaboración añadiendo 2 millones de GPU a la infraestructura de AWS.

Implementaciones de GPU a gran escala e instancias EC2 G7

El despliegue plurianual integrará 2 millones de GPU NVIDIA Blackwell Ultra, Rubin y Rubin Ultra en la infraestructura global de AWS, diseñada específicamente para impulsar grandes centros de IA que gestionan el entrenamiento distribuido, la simulación científica, la automatización empresarial y los flujos de trabajo basados ​​en agentes.

Renderización de NVIDIA de la GPU RTX PRO Blackwell Server Edition con refrigeración pasiva que llegará a las instancias AWS EC2 G7.

AWS también está ampliando su flota Blackwell de última generación con la introducción de GPU NVIDIA RTX PRO 4500 Blackwell Server Edition en instancias Amazon EC2 G7. AWS es el primer gran proveedor de nube en ofrecer instancias aceleradas por la RTX PRO 4500, que ofrece un rendimiento de inferencia de IA hasta 4.6 veces superior y un rendimiento gráfico 2.1 veces superior en comparación con las instancias EC2 G6 de la generación anterior. Para mantener un rendimiento uniforme en todo el clúster y una baja latencia en estos nodos de alta densidad, las empresas están colaborando en optimizaciones de red de NVIDIA Spectrum diseñadas específicamente para grandes clústeres de entrenamiento de GPU.

Procesadores NVIDIA Vera y NVLink Fusion con memoria HBM personalizada

Para satisfacer las necesidades de computación de las cargas de trabajo de IA agente de múltiples pasos, AWS y NVIDIA colaboran para integrar la infraestructura basada en CPU NVIDIA Vera en AWS. NVIDIA describe Vera como una solución diseñada específicamente para la próxima generación de IA, que ofrece a los clientes de AWS una opción de CPU de alto rendimiento junto con una infraestructura acelerada y complementa la estrategia de AWS de ofrecer la más amplia gama de opciones de computación, desde sus propios chips personalizados hasta CPU y aceleradores de socios.

Renderizado del módulo de CPU NVIDIA Vera con dos chips de cómputo rodeados de paquetes de memoria.

En el ámbito de la interconexión y la memoria, NVIDIA y Annapurna Labs de Amazon están ampliando su colaboración en torno a NVIDIA NVLink Fusion. Originalmente presentada para los procesadores AWS Trainium de próxima generación, NVLink Fusion ahora se combina con la tecnología de memoria de alto ancho de banda (NVHBM) personalizada de NVIDIA, en colaboración con proveedores de memoria. NVIDIA afirma que esta combinación permitirá a Trainium acceder a una memoria más rápida y con mayor eficiencia energética, lo que posibilitará a Annapurna Labs integrar los chips de Trainium y las GPU de NVIDIA en una arquitectura de rack compartida y escalable.

Fábricas de IA dedicadas a cargas de trabajo de seguridad federal y nacional.

Para satisfacer las necesidades del sector gubernamental, AWS y NVIDIA están desarrollando conjuntamente centros de IA especializados, equipados con 100 000 GPU e implementados en una infraestructura AWS aislada y segura. Este entorno está diseñado para dar soporte a cargas de trabajo confidenciales de agencias federales y de defensa, garantizando el cumplimiento normativo y la seguridad operativa para clasificaciones de Nivel de Impacto 6 (IL6) y superiores.

Integraciones de la plataforma principal: Nitro, procesamiento de datos y robótica.

La alianza ampliada continúa aprovechando las integraciones técnicas centrales existentes en toda la plataforma de AWS:

  • Sistema AWS Nitro y EFA: Todas las instancias EC2 basadas en GPU NVIDIA y Trainium dependen del sistema AWS Nitro para la virtualización descargada y la seguridad del hardware, junto con la red Elastic Fabric Adapter (EFA) para ofrecer interconectividad escalable a velocidad de línea y baja latencia.
  • Modelos abiertos gestionados: La familia de modelos abiertos NVIDIA Nemotron sigue integrada de forma nativa en AWS, ofreciéndose como puntos finales totalmente gestionados y sin servidor en Amazon Bedrock y como modelos base personalizables en Amazon SageMaker.
  • Análisis y búsqueda acelerados por hardware: Amazon EMR utiliza instancias Amazon EC2 G7 y la biblioteca NVIDIA cuDF para ofrecer un rendimiento de procesamiento de datos hasta 3.7 veces superior y una mejora del 30 % en la relación precio-rendimiento con respecto a las configuraciones de CPU estándar. Además, Amazon OpenSearch Service aprovecha las GPU dedicadas mediante las bibliotecas NVIDIA CUDA-X cuVS para la indexación vectorial, logrando tiempos de creación de índices hasta 9 veces más rápidos con un coste de infraestructura aproximadamente cuatro veces menor en implementaciones gestionadas y sin servidor.
  • Inteligencia artificial física y automatización robótica: Amazon Robotics está incorporando la cartera de IA física de NVIDIA, que incluye los módulos de computación perimetral NVIDIA Jetson, las bibliotecas de simulación Omniverse y la plataforma robótica Isaac. Esta canalización, que se ejecuta en instancias EC2 aceleradas por GPU, admite la generación de datos sintéticos a gran escala, la simulación, el entrenamiento de robots, la optimización de rutas, la seguridad funcional y la validación entre la realidad y la simulación para sistemas de almacenes automatizados.

Interactuar con StorageReview

Boletín informativo | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Canal RSS

harold fritts

He estado en la industria de la tecnología desde que IBM creó Selectric. Mi experiencia, sin embargo, es la escritura. Así que decidí dejar el negocio de preventa y volver a mis raíces, escribir un poco pero seguir involucrado en tecnología.