Jensen Huang, de NVIDIA, se encuentra esta semana en Computex 2023 en Taiwán, donde ofreció una conferencia magistral repleta de anuncios de nuevos productos, con especial énfasis en el desarrollo de modelos de próxima generación para aplicaciones de IA generativa, análisis de datos y sistemas de recomendación. La supercomputadora NVIDIA DGX , impulsada por los superchips NVIDIA GH200 Grace Hopper, y el sistema de conmutación NVIDIA NVLink fueron los protagonistas.
La NVIDIA DGX GH200 utiliza la tecnología de interconexión NVLink con el sistema de conmutación NVLink para combinar 256 superchips GH200 y funcionar como una sola GPU, proporcionando 1 exaflop de rendimiento y 144 terabytes de memoria compartida. ¡Eso es casi 500 veces más memoria que un solo sistema NVIDIA DGX A100!
La tecnología NVLink amplía la IA a escala
Los superchips GH200 combinan la CPU NVIDIA Grace basada en Arm con la GPU NVIDIA H100 Tensor Core mediante interconexiones de chip NVLink-C2C , eliminando la necesidad de la conexión PCIe tradicional entre la CPU y la GPU. El ancho de banda entre la GPU y la CPU se incrementa siete veces en comparación con la última tecnología PCIe, reduciendo el consumo de energía de la interconexión en más de cinco veces y proporcionando un bloque de construcción de GPU con arquitectura Hopper de 600 GB para las supercomputadoras DGX GH200.
Esta es la primera supercomputadora que combina Grace Hopper Superchips con el sistema de conmutación NVLink. Esta nueva interconexión permite que todas las GPU en un sistema DGX GH200 funcionen como una sola, en comparación con el límite de ocho GPU combinado con NVLink como una sola GPU sin afectar el rendimiento. La arquitectura DGX GH200 ofrece 10 veces más ancho de banda que la generación anterior, brindando la potencia de una supercomputadora de inteligencia artificial masiva con la simplicidad de programar una sola GPU.
Los pioneros de la IA obtienen nuevas herramientas de investigación
Se espera que los primeros en acceder a la nueva supercomputadora sean Google Cloud, Meta y Microsoft, lo que les permitirá explorar sus capacidades para cargas de trabajo generativas de IA. NVIDIA tiene la intención de proporcionar el diseño DGX GH200 como modelo para los proveedores de servicios en la nube y otros hiperescaladores para que puedan personalizarlo para su infraestructura.
Los investigadores y equipos de desarrollo de NVIDIA tendrán acceso a la nueva supercomputadora NVIDIA Helios con cuatro sistemas DGX GH200. Helios incluirá 1,024 Grace Hopper Superchips y se espera que esté en línea a finales de año. Cada sistema en la supercomputadora Helios estará interconectado con la red NVIDIA Quantum-2 InfiniBand con un rendimiento de datos de ancho de banda de hasta 400 Gb/s para entrenar grandes modelos de IA.
Integrado y construido a propósito
Las supercomputadoras DGX GH200 incluirán software de NVIDIA que proporciona una solución integral llave en mano, compatible con las mayores cargas de trabajo de IA y análisis de datos. El software NVIDIA Base Command ofrece gestión de flujos de trabajo de IA, gestión de clústeres de nivel empresarial, bibliotecas para acelerar la computación, el almacenamiento y la infraestructura de red, así como software de sistema optimizado para ejecutar cargas de trabajo de IA. También se incluirá el software NVIDIA AI Enterprise, que proporciona más de 100 marcos de trabajo, modelos reentrenados y herramientas de desarrollo para optimizar el desarrollo y la implementación de IA en producción, incluyendo IA generativa, visión artificial, IA de voz y otras.
Disponibilidad
Se espera que las supercomputadoras NVIDIA DGX GH200 estén disponibles a finales de año.
Amazon