Hoje a GIGABYTE Technology lançou um novo servidor para HPC, AI e análise de dados, o GIGABYTE G262-ZR0. O novo servidor é construído em torno do desempenho de alto nível na computação de GPU. O servidor aproveita a taxa de transferência PCIe 4.0 e NVIDIA HGX, bem como NVIDIA NVLink para desempenho de largura de banda ultra-alta.
O GIGABYTE G262-ZR0 é um servidor 2U, mas se destaca pela alta densidade de GPUs. O servidor utiliza dois processadores AMD EPYC de segunda geração com até 128 núcleos e 160 linhas PCIe Gen 4, necessárias para maximizar a taxa de transferência entre as conexões CPU-CPU e CPU-GPU. Para memória, o G262 possui 16 slots DIMM, totalizando 4 TB de RAM DDR4 de 3200 MHz. Há 6 slots de baixo perfil (Gen 4), um slot OCP 3.0 e duas portas LAN de 1 GbE. Para armazenamento, o servidor conta com seis baias, quatro de 2.5” e dois slots M.2, mas o foco principal é a GPU. O servidor foi projetado com ênfase no design térmico, já que todas essas GPUs, CPUs e memórias precisam ser mantidas resfriadas.
Os principais benefícios/recursos do GIGABYTE G262-ZR0 incluem:
- NVIDIA A100 com 40 GB ou 80 GB: 40 GB de VRAM com 1.6 TB/s de largura de banda de memória ou 80 G de VRAM com largura de banda de 2.0 TB/s para taxa de transferência computacional de alto nível.
- Excelente comunicação de GPU para GPU via NVIDIA NVLink de 3ª geração com largura de banda de 600 GB/s.
- Redução na latência e na utilização da CPU com a tecnologia Mellanox Socket Direct. Neste servidor de soquete duplo, uma única CPU pode acessar a rede ignorando o barramento de comunicação entre processadores e a CPU adjacente.
- O PCIe 4.0 permite uma interconexão mais rápida (em comparação com o PCIe 3.0) e baixa latência para NICs e unidades NVMe por meio da malha do comutador PCIe.
- Acesso ultrarrápido de 200 Gbps de GPUs em outros servidores com RDMA e HDR InfiniBand.
Amazon