엔비디아의 젠슨 황 CEO는 이번 주 대만에서 열리는 컴퓨텍스 2023에 참석하여 차세대 생성형 AI 애플리케이션, 데이터 분석 및 추천 시스템 개발을 지원하는 신제품 발표로 가득 찬 기조연설을 진행했습니다. 특히 엔비디아 GH200 그레이스 호퍼 슈퍼칩과 엔비디아 NVLink 스위치 시스템으로 구동되는 엔비디아 DGX 슈퍼컴퓨터가 핵심적인 역할을 했습니다.
NVIDIA DGX GH200은 NVLink 인터커넥트 기술과 NVLink 스위치 시스템을 사용하여 256개의 GH200 슈퍼칩을 하나의 GPU처럼 작동하도록 결합하여 1엑사플롭의 성능과 144테라바이트의 공유 메모리를 제공합니다. 이는 단일 NVIDIA DGX A100 시스템보다 거의 500배 더 많은 메모리 용량입니다!
NVLink 기술로 대규모 AI 확장
GH200 슈퍼칩은 Arm 기반 NVIDIA Grace CPU와 NVIDIA H100 Tensor Core GPU를 NVLink-C2C 칩 인터커넥트를 사용하여 결합함으로써 기존의 CPU-GPU PCIe 연결이 필요 없어졌습니다. GPU와 CPU 간 대역폭은 최신 PCIe 기술 대비 7배 증가했으며, 인터커넥트 전력 소비는 5배 이상 감소했습니다. 또한 DGX GH200 슈퍼컴퓨터를 위한 600GB Hopper 아키텍처 GPU 구성 요소를 제공합니다.
Grace Hopper Superchips와 NVLink 스위치 시스템을 결합한 최초의 슈퍼컴퓨터입니다. 이 새로운 상호 연결을 통해 DGX GH200 시스템의 모든 GPU는 성능에 영향을 주지 않고 단일 GPU로 NVLink와 결합된 200개의 GPU 제한과 비교하여 하나로 작동할 수 있습니다. DGX GH10 아키텍처는 이전 세대보다 XNUMX배 더 많은 대역폭을 제공하여 단일 GPU 프로그래밍의 단순성과 함께 대규모 AI 슈퍼컴퓨터의 성능을 제공합니다.
AI 선구자들은 새로운 연구 도구를 얻습니다
새로운 슈퍼컴퓨터에 가장 먼저 액세스하는 것은 Google Cloud, Meta 및 Microsoft가 될 것으로 예상되며 생성 AI 워크로드에 대한 기능을 탐색할 수 있습니다. NVIDIA는 DGX GH200 설계를 클라우드 서비스 제공업체 및 기타 하이퍼스케일러에 청사진으로 제공하여 인프라에 맞게 맞춤화할 수 있도록 할 계획입니다.
NVIDIA 연구원 및 개발 팀은 200개의 DGX GH1,024 시스템을 갖춘 새로운 NVIDIA Helios 슈퍼컴퓨터에 액세스할 수 있습니다. Helios는 2개의 Grace Hopper Superchips를 포함할 예정이며 연말까지 온라인 상태가 될 것으로 예상됩니다. Helios 슈퍼컴퓨터의 각 시스템은 대규모 AI 모델 교육을 위해 최대 400Gb/s 대역폭 데이터 처리량으로 NVIDIA Quantum-XNUMX InfiniBand 네트워킹과 상호 연결됩니다.
통합 및 특수 제작
DGX GH200 슈퍼컴퓨터에는 최대 규모의 AI 및 데이터 분석 워크로드를 지원하는 완벽한 솔루션을 제공하는 NVIDIA 소프트웨어가 포함됩니다. NVIDIA Base Command 소프트웨어는 AI 워크플로우 관리, 엔터프라이즈급 클러스터 관리, 컴퓨팅, 스토리지 및 네트워크 인프라를 가속화하는 라이브러리, 그리고 AI 워크로드 실행에 최적화된 시스템 소프트웨어를 제공합니다. NVIDIA AI Enterprise 소프트웨어는 100개 이상의 프레임워크, 재학습된 모델, 개발 도구를 제공하여 생성형 AI, 컴퓨터 비전, 음성 AI 등을 포함한 다양한 AI 솔루션의 개발 및 배포를 간소화합니다.
이용 가능 여부 (Availability)
NVIDIA DGX GH200 슈퍼컴퓨터는 연말까지 출시될 예정입니다.
아마존