NVIDIA의 Jensen Huang은 이번 주 대만에서 열리는 Computex 2023에서 제너레이티브 AI 애플리케이션, 데이터 분석 및 추천 시스템을 위한 차세대 모델 개발 지원에 중점을 둔 신제품 발표로 가득 찬 기조 연설을 합니다. 그만큼 엔비디아 DGX NVIDIA GH200 Grace Hopper Superchips와 NVIDIA NVLink 스위치 시스템으로 구동되는 슈퍼컴퓨터가 중심 무대에 올랐습니다.
NVIDIA의 Jensen Huang은 이번 주 대만에서 열리는 Computex 2023에서 제너레이티브 AI 애플리케이션, 데이터 분석 및 추천 시스템을 위한 차세대 모델 개발 지원에 중점을 둔 신제품 발표로 가득 찬 기조 연설을 합니다. 그만큼 엔비디아 DGX NVIDIA GH200 Grace Hopper Superchips와 NVIDIA NVLink 스위치 시스템으로 구동되는 슈퍼컴퓨터가 중심 무대에 올랐습니다.
The 엔비디아 DGX GH200 NVLink 스위치 시스템과 함께 NVLink 인터커넥트 기술을 사용하여 256개의 GH200 Superchip을 결합하여 단일 GPU로 작동하여 1엑사플롭의 성능과 144테라바이트의 공유 메모리를 제공합니다. 단일 NVIDIA DGX A500 시스템보다 거의 100배 더 많은 메모리입니다!
NVLink 기술로 대규모 AI 확장
GH200 Superchips는 Arm 기반 NVIDIA Grace CPU와 NVIDIA H100 Tensor Core GPU를 결합합니다. NV링크-C2C 칩 상호 연결을 통해 기존의 CPU-GPU PCIe 연결이 필요하지 않습니다. GPU와 CPU 사이의 대역폭은 최신 PCIe 기술에 비해 7배 증가하여 상호 연결 전력 소비를 5배 이상 줄이고 DGX GH600 슈퍼컴퓨터를 위한 200GB 호퍼 아키텍처 GPU 빌딩 블록을 제공합니다.
Grace Hopper Superchips와 NVLink 스위치 시스템을 결합한 최초의 슈퍼컴퓨터입니다. 이 새로운 상호 연결을 통해 DGX GH200 시스템의 모든 GPU는 성능에 영향을 주지 않고 단일 GPU로 NVLink와 결합된 200개의 GPU 제한과 비교하여 하나로 작동할 수 있습니다. DGX GH10 아키텍처는 이전 세대보다 XNUMX배 더 많은 대역폭을 제공하여 단일 GPU 프로그래밍의 단순성과 함께 대규모 AI 슈퍼컴퓨터의 성능을 제공합니다.
AI 선구자들은 새로운 연구 도구를 얻습니다
새로운 슈퍼컴퓨터에 가장 먼저 액세스하는 것은 Google Cloud, Meta 및 Microsoft가 될 것으로 예상되며 생성 AI 워크로드에 대한 기능을 탐색할 수 있습니다. NVIDIA는 DGX GH200 설계를 클라우드 서비스 제공업체 및 기타 하이퍼스케일러에 청사진으로 제공하여 인프라에 맞게 맞춤화할 수 있도록 할 계획입니다.
NVIDIA 연구원 및 개발 팀은 200개의 DGX GH1,024 시스템을 갖춘 새로운 NVIDIA Helios 슈퍼컴퓨터에 액세스할 수 있습니다. Helios는 2개의 Grace Hopper Superchips를 포함할 예정이며 연말까지 온라인 상태가 될 것으로 예상됩니다. Helios 슈퍼컴퓨터의 각 시스템은 대규모 AI 모델 교육을 위해 최대 400Gb/s 대역폭 데이터 처리량으로 NVIDIA Quantum-XNUMX InfiniBand 네트워킹과 상호 연결됩니다.
통합 및 특수 제작
DGX GH200 슈퍼컴퓨터에는 최대 규모의 AI 및 데이터 분석 워크로드를 지원하는 턴키 풀 스택 솔루션을 제공하는 NVIDIA 소프트웨어가 포함됩니다. NVIDIA 기본 명령 소프트웨어는 AI 워크플로 관리, 엔터프라이즈급 클러스터 관리, 컴퓨팅, 스토리지 및 네트워크 인프라를 가속화하는 라이브러리, AI 워크로드 실행에 최적화된 시스템 소프트웨어를 제공합니다. NVIDIA AI Enterprise 생성 AI, 컴퓨터 비전, 음성 AI 등을 포함하여 프로덕션 AI의 개발 및 배포를 간소화하기 위해 100개 이상의 프레임워크, 재학습된 모델 및 개발 도구를 제공하는 소프트웨어가 포함됩니다.
유효성
NVIDIA DGX GH200 슈퍼컴퓨터는 연말까지 출시될 예정입니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
