技嘉科技今天发布了一款用于高性能计算、人工智能和数据分析的新服务器——技嘉G262-ZR0。 新服务器围绕 GPU 计算的高级性能而构建。 该服务器利用 PCIe 4.0 吞吐量和 NVIDIA HGX 以及 NVIDIA NVLink 实现超高带宽性能。
技嘉 G262-ZR0 是一款 2U 服务器，号称拥有极高的 GPU 密度。该服务器采用双路第二代 AMD EPYC 处理器，最高可达 128 个核心，并配备 160 条 PCIe Gen 4 通道，以实现 CPU 间和 CPU 与 GPU 间连接的最大吞吐量。内存方面，G262 拥有 16 个 DIMM 插槽，最高支持 4TB DDR4 3200MHz 内存。其中包括 6 个低矮型（Gen 4）内存插槽、1 个 OCP 3.0 插槽和双千兆以太网端口。存储方面，该服务器仅提供 6 个硬盘位，包括 4 个 2.5 英寸硬盘位和 2 个 M.2 插槽，但其设计重点在于 GPU 性能。由于所有 GPU、CPU 和内存都需要保持低温运行，因此该服务器的设计重点在于散热。
技嘉 G262-ZR0 的主要优点/特点包括：
- 100GB 或 40GB 的 NVIDIA A80：40GB 的 VRAM 和 1.6 TB/s 的内存带宽或 80G 的 VRAM 和 2.0TB/s 的带宽用于高水平的计算吞吐量。
- 通过具有 3GB/s 带宽的第三代 NVIDIA NVLink 实现出色的 GPU 到 GPU 通信。
- 使用 Mellanox Socket Direct 技术减少延迟和 CPU 利用率。 在这种双路服务器中，单个 CPU 可以绕过处理器间通信总线和相邻 CPU 访问网络。
- PCIe 4.0 允许通过 PCIe 交换结构实现更快的互连（与 PCIe 3.0 相比）和 NIC 和 NVMe 驱动器的低延迟。
- 使用 RDMA 和 HDR InfiniBand 以超快的 200Gbps 速度访问其他服务器上的 GPU。
Amazon