NVIDIA anunció hoy que, con la ayuda de algunos de sus socios globales, lanzará nuevos sistemas NVIDIA HGX A100. Los nuevos sistemas buscan acelerar la IA y la HPC agregando elementos de NVIDIA como NVIDIA A100 80GB PCIe GPU, NVIDIA NDR 400G InfiniBand networking y el software NVIDIA Magnum IO GPUDirect Storage. Estos nuevos sistemas HGX serán lanzados al mercado por socios como Atos, Dell Technologies, Hewlett Packard Enterprise (HPE), Lenovo, Microsoft Azure y NetApp.
NVIDIA ha fabricado GPU de alta potencia durante años. El mercado emergente de IA, particularmente en HPC, ha impulsado a más y más supercomputadoras para aprovechar la tecnología de la empresa. Los propios NVIDIA han estado fabricando estaciones de trabajo y servidores HPC durante los últimos años con modelos DGX y HGX. Este último ha reunido varias IP de NVIDIA bajo un mismo techo para un mejor rendimiento. Los nuevos sistemas hacen esto una vez más con lo último y lo mejor que NVIDIA tiene para ofrecer.
GPU NVIDIA A100 80 GB PCIe
La NVIDIA A100 se anunció el año pasado en GTC. Esta nueva GPU de 7 nm aprovecha la arquitectura Ampere de la empresa y contiene 54 millones de transistores. NVIDIA mejoró rápidamente el producto con la introducción de la GPU PCIe NVIDIA A100 de 80 GB, duplicando su memoria. La GPU PCIe A100 de 80 GB es la primera parte de los nuevos sistemas HGX A100. Su gran capacidad de memoria y alto ancho de banda permiten almacenar más datos y redes neuronales más grandes en la memoria. Esto significa menos comunicación entre nudos y menos consumo de energía. La alta memoria también permite un mayor rendimiento que puede conducir a resultados más rápidos.
Como se indicó, la GPU PCIe NVIDIA A100 de 80 GB funciona con la arquitectura Ampere de la compañía. Esta arquitectura cuenta con GPU de múltiples instancias, también conocida como MIG. MIG puede ofrecer aceleración para cargas de trabajo más pequeñas, es decir, inferencia de IA. Esta característica permite a los usuarios escalar tanto el cómputo como la memoria con una QoS garantizada.
Los socios que rodean la GPU PCIe NVIDIA A100 de 80 GB incluyen Atos, Cisco, Dell Technologies, Fujitsu, H3C, HPE, Inspur, Lenovo, Penguin Computing, QCT y Supermicro. Hay algunos servicios en la nube que también proporcionan la tecnología, incluidos AWS, Azure y Oracle.
Redes NVIDIA NDR 400G InfiniBand
La segunda pieza del rompecabezas del sistema NVIDIA HGX A100 son los nuevos sistemas de conmutación NVIDIA NDR 400G InfiniBand. Esto puede parecer obvio, pero los sistemas HPC necesitan un rendimiento de datos muy alto. NVIDIA adquirió Mellanox hace unos años por casi 7 mil millones de dólares . Desde entonces, ha estado lanzando nuevos productos constantemente, mientras que gradualmente reemplaza el nombre Mellanox por solo NVIDIA. El año pasado lanzó su NVIDIA NDR 400G InfiniBand con 3 veces la densidad de puertos y 32 veces la aceleración de IA. Esto se está integrando en los nuevos sistemas HGX a través del sistema de conmutación de configuración fija NVIDIA Quantum-2. Se dice que este sistema proporciona 64 puertos NDR 400Gb/s InfiniBand por puerto o 128 puertos NDR200.
Según la compañía, los nuevos conmutadores modulares NVIDIA Quantum-2 brindan configuraciones de puertos escalables hasta 2,048 puertos de NDR 400Gb/s InfiniBand (o 4,096 puertos de NDR200) con un rendimiento bidireccional total de 1.64 petabits por segundo. Esto representa una mejora de más de 5 veces con respecto a la generación anterior con una escalabilidad 6.5 veces mayor. Utilizando una topología de red DragonFly+, los usuarios pueden conectarse a más de un millón de nodos. Finalmente, la compañía ha agregado en su tecnología de reducción de datos NVIDIA SHARP In-Network Computing de tercera generación, que continúa afirmando que puede ver una aceleración de IA 3 veces mayor en comparación con las generaciones anteriores.
Los conmutadores NVIDIA Quantum-2 son compatibles con versiones anteriores y posteriores. Los socios de fabricación incluyen Atos, DDN, Dell Technologies, Excelero, GIGABYTE, HPE, Lenovo, Penguin, QCT, Supermicro, VAST y WekaIO.
Almacenamiento Magnum IO GPUDirect
La pieza final del nuevo rompecabezas NVIDIA HDX A100 es el nuevo Magnum IO GPUDirect Storage. Esto permite el acceso directo a la memoria entre la memoria GPU y el almacenamiento. Esto tiene varios beneficios, incluida una latencia de E/S más baja, un uso máximo del ancho de banda de los adaptadores de red y un impacto menor en la CPU. Varios socios tienen Magnum IO GPUDirect Storage disponible ahora, incluidos DDN, Dell Technologies, Excelero, HPE, IBM Storage, Micron, NetApp, Pavilion, ScaleFlux, VAST y WekaIO.
Amazon