GIGABYTE의 자회사인 Giga Computing은 최근 고급 냉각 인프라를 통해 복잡한 AI 작업 부하를 처리하고 에너지 효율성을 향상시키는 솔루션을 출시했습니다. NVIDIA 인증 시스템 제공업체인 GIGABYTE 서버는 이제 NVIDIA AI Enterprise 소프트웨어 플랫폼의 일부인 NVIDIA NIM 추론 마이크로서비스를 지원합니다.
GIGABYTE는 랙 규모 AI 솔루션인 GIGA POD를 포함하여 최신 CPU와 가속 컴퓨팅 기술을 선보였습니다. GIGA POD의 유연성은 HGX B100, HGX H200, GH200 Grace Hopper Superchip 및 기타 OAM 베이스보드 GPU 시스템과 같은 최신 NVIDIA 솔루션을 통해 입증됩니다. 이 턴키 솔루션은 대규모 베이스보드 가속기를 지원하고 스위치, 네트워킹, 컴퓨팅 노드 등을 통합하는 동시에 생성적 AI 인프라에서 강력한 네트워킹 기능을 위해 NVIDIA Spectrum-X를 활용합니다.
쇼케이스의 하이라이트는 NVIDIA GB200 NVL72 시스템이었습니다. 이 시스템은 30배 더 빠른 실시간 LLM(대형 언어 모델) 추론을 제공하고, 총 소유 비용(TCO)을 25배 절감하며, 25배 더 적은 에너지를 소비합니다. 수냉식 랙 규모 솔루션은 NVIDIA NVLink를 사용하여 NVIDIA Grace CPU 36개와 NVIDIA Blackwell GPU 72개를 연결하여 초당 130테라바이트(TB/s) 대역폭을 갖춘 대규모 단일 GPU를 구성합니다.
고급 냉각 솔루션 통합
GIGABYTE의 포트폴리오에는 차세대 컴퓨팅에 필수적이며 기존 공기 냉각보다 더 나은 열 방출이 요구되는 직접 액체 냉각(DLC) 및 단상 침수 냉각 기술이 포함되어 있습니다. GIGABYTE DLC 랙에는 CDU 파트너 CoolIT Systems 및 Motivair가 지원하는 AMD, Intel 및 NVIDIA 기술용 서버가 있습니다.
전시된 주요 제품은 다음과 같습니다.
- G4L3-SD1: 효율적인 냉각을 위해 냉각판을 활용하여 듀얼 Intel Xeon 프로세서와 NVIDIA HGX B200 8-GPU를 지원하는 DLC 서버입니다.
- G593-ZX1: 고성능 냉각 솔루션을 보여주는 AMD EPYC 9004 프로세서 및 OAM 모듈용 액체 냉각 장치를 갖춘 서버입니다.
클라우드에서 엣지로 데이터 활용
GIGABYTE는 클라우드 및 엣지 애플리케이션을 모두 목표로 하는 범용 서버부터 ARM 기반 플랫폼 및 OCP 솔루션까지 다양한 서버를 선보였습니다. 전시된 새로운 시스템에는 E3.S 또는 E1.S 드라이브를 지원하는 스토리지 서버와 차세대 AMD EPYC 프로세서를 위해 준비된 서버가 포함되었습니다. 전체적으로 25개 이상의 서버가 전시되었습니다.
AMD EPYC 4004, Intel Xeon W-3400 및 Intel Xeon 6 시리즈와 같은 프로세서용 GIGABYTE 마더보드에는 RAS 및 BMC 칩을 포함한 서버급 기능이 함께 제공됩니다. 이 마더보드는 보급형 서버와 HBA, RAID 및 OCP LAN 카드용 Broadcom 기반 솔루션을 포함하는 라인업의 일부입니다. 이 하드웨어는 원격 서버 관리 및 모니터링 기능을 통해 유연하고 다양하며 안정적으로 설계되었습니다.
GIGABYTE는 NVIDIA GB200 NVL72 시스템이 1년 2025분기에 출시될 것으로 예상합니다.
아마존