Hoje, no SC20, a NVIDIA anunciou que sua popular GPU A100 verá uma duplicação da memória de alta largura de banda com o lançamento da GPU NVIDIA A100 de 80 GB. Esta nova GPU será a inovação que alimenta a nova plataforma de supercomputação NVIDIA HGX AI. Com o dobro da memória, a nova GPU espera ajudar pesquisadores e engenheiros a atingir velocidade e desempenho sem precedentes para desbloquear a próxima onda de IA e descobertas científicas.
No início deste ano, durante a GTC, a NVIDIA anunciou o lançamento de sua GPU de 7 nm, a NVIDIA A100 . Como escrevemos na época, a A100 é baseada na arquitetura Ampere da NVIDIA e contém 54 bilhões de transistores. Assim como as GPUs anteriores da NVIDIA para data centers, a A100 inclui Tensor Cores. Os Tensor Cores são partes especializadas da GPU projetadas especificamente para executar rapidamente um tipo de cálculo de multiplicação e adição de matrizes comumente usado em inferência. Com GPUs mais robustas, vêm Tensor Cores ainda mais robustos. Anteriormente, os Tensor Cores da NVIDIA suportavam apenas números de ponto flutuante de até 32 bits. A A100 suporta operações de ponto flutuante de 64 bits, permitindo uma precisão muito maior.
Aumentar a memória de alta largura de banda (HBM2e) para 80 GB é capaz de fornecer 2 terabytes por segundo de largura de banda de memória. Esse novo impulso ajuda com os aplicativos emergentes em HPC que têm enormes requisitos de memória de dados, como treinamento de IA, processamento de linguagem natural e análise de big data, para citar alguns.
Principais características do A100 80GB
O A100 80GB inclui muitos recursos inovadores da arquitetura NVIDIA Ampere:
- Núcleos Tensores de Terceira Geração: Fornece até 20x AI da geração Volta anterior com um novo formato TF32, bem como 2.5x FP64 para HPC, 20x INT8 para inferência AI e suporte para o formato de dados BF16.
- Memória de GPU HBM2e maior e mais rápida: dobra a capacidade de memória e é a primeira na indústria a oferecer mais de 2 TB por segundo de largura de banda de memória.
- Tecnologia MIG: Duplica a memória por instância isolada, disponibilizando até sete MIGs com 10GB cada.
- Structural Sparsity: Oferece até 2x de aceleração de inferência de modelos esparsos.
- NVLink e NVSwitch de terceira geração: fornece o dobro da largura de banda de GPU para GPU da tecnologia de interconexão da geração anterior, acelerando as transferências de dados para a GPU para cargas de trabalho intensivas em dados para 600 gigabytes por segundo.
Disponibilidade
Os fornecedores de sistemas Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta e Supermicro devem começar a oferecer sistemas construídos usando placas de base integradas HGX A100 com GPUs A100 de 80 GB no primeiro semestre do próximo ano.
Amazon