Hoje a NVIDIA anunciou que, com a ajuda de alguns de seus parceiros globais, está lançando novos sistemas NVIDIA HGX A100. Os novos sistemas procuram acelerar AI e HPC adicionando elementos NVIDIA, como NVIDIA A100 80GB PCIe GPU, NVIDIA NDR 400G InfiniBand networking e NVIDIA Magnum IO GPUDirect Storage software. Esses novos sistemas HGX serão lançados no mercado por parceiros como Atos, Dell Technologies, Hewlett Packard Enterprise (HPE), Lenovo, Microsoft Azure e NetApp.
A NVIDIA fabrica GPUs de alta potência há anos. O emergente mercado de IA, particularmente em HPC, levou cada vez mais supercomputadores a alavancar a tecnologia da empresa. A própria NVIDIA fabrica servidores e estações de trabalho HPC nos últimos anos com modelos DGX e HGX. Este último reuniu vários IPs da NVIDIA sob o mesmo teto para melhor desempenho. Os novos sistemas fazem isso mais uma vez com o que a NVIDIA tem de melhor e mais recente a oferecer.
GPU NVIDIA A100 80GB PCIe
A NVIDIA A100 foi anunciada no ano passado na GTC. Esta nova GPU de 7 nm aproveita a arquitetura Ampere da empresa e contém 54 milhões de transistores. A NVIDIA aprimorou rapidamente o produto com a introdução da GPU NVIDIA A100 80GB PCIe, dobrando sua memória. A GPU A100 80GB PCIe é a primeira parte dos novos sistemas HGX A100. Sua grande capacidade de memória e alta largura de banda permitem que mais dados e redes neurais maiores sejam mantidos na memória. Isso significa menos comunicação entre nós, bem como menos consumo de energia. A alta memória também permite maior rendimento, o que pode levar a resultados mais rápidos.
Conforme declarado, a GPU PCIe NVIDIA A100 de 80 GB é alimentada pela arquitetura Ampere da empresa. Essa arquitetura apresenta GPU de várias instâncias, também conhecida como MIG. O MIG pode fornecer aceleração para cargas de trabalho menores, ou seja, inferência de IA. Esse recurso permite que os usuários dimensionem a computação e a memória para baixo com uma QoS garantida.
Os parceiros em torno da GPU NVIDIA A100 80GB PCIe incluem Atos, Cisco, Dell Technologies, Fujitsu, H3C, HPE, Inspur, Lenovo, Penguin Computing, QCT e Supermicro. Existem alguns serviços de nuvem que fornecem a tecnologia, incluindo AWS, Azure e Oracle.
Rede NVIDIA NDR 400G InfiniBand
A segunda peça do quebra-cabeça do sistema NVIDIA HGX A100 são os novos switches NVIDIA NDR 400G InfiniBand. Isso pode parecer óbvio, mas sistemas HPC precisam de altíssima taxa de transferência de dados. A NVIDIA adquiriu a Mellanox há alguns anos por quase US$ 7 bilhões . Desde então, vem lançando novos produtos constantemente, enquanto gradualmente elimina o nome Mellanox, adotando apenas NVIDIA. No ano passado, lançou o NVIDIA NDR 400G InfiniBand com densidade de portas 3 vezes maior e aceleração de IA 32 vezes mais rápida. Essa tecnologia está sendo integrada aos novos sistemas HGX por meio do switch de configuração fixa NVIDIA Quantum-2. Diz-se que esse sistema oferece 64 portas NDR 400Gb/s InfiniBand por porta ou 128 portas NDR200.
De acordo com a empresa, os novos switches modulares NVIDIA Quantum-2 fornecem configurações de porta escaláveis de até 2,048 portas de NDR 400Gb/s InfiniBand (ou 4,096 portas de NDR200) com uma taxa de transferência bidirecional total de 1.64 petabits por segundo. Isso representa uma melhoria de mais de 5 vezes em relação à geração anterior, com escalabilidade 6.5 vezes maior. Usando uma topologia de rede DragonFly+, os usuários podem se conectar a mais de um milhão de nós. Por fim, a empresa adicionou em sua tecnologia de redução de dados NVIDIA SHARP In-Network Computing de 3ª geração, que afirma poder obter uma aceleração de IA 32 vezes maior em comparação com as gerações anteriores.
Os switches NVIDIA Quantum-2 são compatíveis com versões anteriores e futuras. Os parceiros de fabricação incluem Atos, DDN, Dell Technologies, Excelero, GIGABYTE, HPE, Lenovo, Penguin, QCT, Supermicro, VAST e WekaIO.
Armazenamento Magnum IO GPUDirect
A peça final do novo quebra-cabeça NVIDIA HDX A100 é o novo Magnum IO GPUDirect Storage. Isso permite acesso direto à memória entre a memória e o armazenamento da GPU. Isso tem vários benefícios, incluindo menor latência de E/S, uso excessivo de largura de banda dos adaptadores de rede e menos impacto na CPU. Vários parceiros têm Magnum IO GPUDirect Storage disponível agora, incluindo DDN, Dell Technologies, Excelero, HPE, IBM Storage, Micron, NetApp, Pavilion, ScaleFlux, VAST e WekaIO.
Amazon