Vandaag heeft GIGABYTE Technology een nieuwe server uitgebracht voor HPC, AI en data-analyse, de GIGABYTE G262-ZR0. De nieuwe server is gebouwd rondom hoogwaardige prestaties in GPU-computing. De server maakt gebruik van PCIe 4.0-doorvoer en NVIDIA HGX en NVIDIA NVLink voor ultrahoge bandbreedteprestaties.
De GIGABYTE G262-ZR0 is een 2U-server, maar claimt een hoge GPU-dichtheid te bieden. De server maakt gebruik van twee tweede generatie AMD EPYC-processoren met maximaal 128 cores en 160 PCIe Gen 4-lanes voor maximale doorvoer tussen CPU's onderling en tussen CPU's en GPU's. Voor het geheugen heeft de G262 16 DIMM-slots voor een totaal van 4 TB DDR4 RAM met een kloksnelheid van 3200 MHz. Er zijn 6 low-profile (Gen 4) slots, één OCP 3.0-slot en twee 1GbE LAN-poorten. Voor opslag heeft de server slechts zes bays: vier 2.5-inch en twee M.2-slots, maar de focus ligt hier meer op de GPU. Het ontwerp van de server is gericht op koeling, aangezien al die GPU's, CPU's en het geheugen koel moeten blijven.
De belangrijkste voordelen/kenmerken van de GIGABYTE G262-ZR0 zijn:
- NVIDIA A100 met 40 GB of 80 GB: 40 GB VRAM met 1.6 TB/s geheugenbandbreedte of 80 G VRAM met 2.0 TB/s bandbreedte voor rekenkracht op hoog niveau.
- Uitstekende GPU-naar-GPU-communicatie via 3e generatie NVIDIA NVLink met een bandbreedte van 600 GB/s.
- Vermindering van latentie en CPU-gebruik met Mellanox Socket Direct-technologie. In deze dual-socket server heeft een enkele CPU toegang tot het netwerk door de communicatiebus tussen de processors en de aangrenzende CPU te omzeilen.
- PCIe 4.0 zorgt voor snellere onderlinge verbindingen (vergeleken met PCIe 3.0) en lage latentie voor NIC's en NVMe-schijven via de PCIe-switchfabric.
- Ultrasnelle 200 Gbps toegang van GPU's op andere servers met RDMA en HDR InfiniBand.
Amazon