AWS re:Invent 기조연설에서 AWS와 NVIDIA는 인공 지능(AI)에 대한 중요한 개발을 발표했습니다. AWS CEO인 Adam Selipsky는 NVIDIA CEO Jensen Huang을 무대에 초대하여 두 회사의 전략적 협력 노력에 대해 자세히 설명했습니다. 이 파트너십은 가장 발전된 인프라, 소프트웨어 및 서비스를 제공하여 생성적 AI 혁신을 촉진할 예정입니다. 이번 협력은 NVIDIA의 최첨단 기술과 AWS의 강력한 클라우드 인프라가 결합되어 AI 개발의 새로운 시대를 열었습니다.
NVIDIA GH200 Grace Hopper 슈퍼칩으로 클라우드 AI 혁신
이번 협력의 핵심은 AWS가 클라우드 제공업체 최초로 NVIDIA의 GH200 Grace Hopper 슈퍼칩을 클라우드에 도입하는 것입니다. 이 슈퍼칩은 클라우드 기반 AI 컴퓨팅에 있어 획기적인 도약을 의미합니다. NVIDIA NVLink 및 NVSwitch 기술을 사용하여 32개의 Grace Hopper 슈퍼칩을 연결하는 GH200 NVL32 멀티노드 플랫폼은 Amazon EC2 인스턴스에 통합될 예정입니다. 이러한 새로운 Amazon EC2 인스턴스는 다양한 AI, HPC 및 그래픽 워크로드를 지원합니다.
각 GH200 Superchip은 Arm 기반 Grace CPU와 NVIDIA Hopper 아키텍처 GPU를 동일한 모듈에 결합하여 단일 EC2 인스턴스가 최대 20TB의 공유 메모리를 제공하여 테라바이트 규모의 워크로드를 처리할 수 있도록 합니다. 이 설정을 통해 공동 고객은 수천 개의 GH200 슈퍼칩으로 확장하여 AI 연구 및 애플리케이션을 위한 전례 없는 컴퓨팅 성능을 제공할 수 있습니다.
생성적 AI, HPC, 설계 및 시뮬레이션 강화
AWS는 NVIDIA H200 Tensor Core GPU를 탑재한 P5e 인스턴스를 비롯한 세 가지 새로운 EC2 인스턴스를 출시합니다. P5e 인스턴스 는 대규모의 최첨단 생성형 AI 및 HPC 워크로드에 최적화되어 있습니다. NVIDIA L4 및 L40S GPU를 각각 탑재한 G6 및 G6e 인스턴스는 AI 미세 조정, 추론, 그래픽 및 비디오 워크로드에 적합합니다. 특히 G6e 인스턴스는 생성형 AI 기반 3D 애플리케이션 구축 플랫폼인 NVIDIA Omniverse를 사용하여 3D 워크플로, 디지털 트윈 및 애플리케이션 개발에 적합합니다.
NVIDIA GH200 기반 EC2 인스턴스에는 4.5TB의 HBM3e 메모리가 탑재됩니다. 이는 현재 H7.2 기반 EC100 P2d 인스턴스에 비해 5배 증가한 수치입니다. CPU-GPU 메모리 상호 연결은 PCIe보다 최대 7배 더 높은 대역폭을 제공하여 애플리케이션에 사용 가능한 총 메모리를 확장하는 칩 간 통신을 가능하게 합니다.
GH200 NVL32를 탑재한 AWS 인스턴스는 액체 냉각 기능을 갖춘 AWS의 최초 AI 인프라가 될 것입니다. 이렇게 하면 촘촘하게 포장된 서버 랙이 최대 성능으로 효율적으로 작동하는 데 도움이 됩니다. GH2 NVL200가 탑재된 EC32 인스턴스는 차세대 EC2 인스턴스의 기본 플랫폼인 AWS Nitro 시스템의 이점도 누릴 수 있습니다. Nitro는 호스트 CPU/GPU의 기능에 대한 I/O를 특수 하드웨어로 오프로드하여 처리 중에 고객 코드와 데이터를 보호하기 위해 강화된 보안으로 보다 일관된 성능을 제공합니다.
AWS 기반 NVIDIA 소프트웨어로 생성적 AI 개발 향상
또 하나의 획기적인 발표로, AWS에서 실행되는 NVIDIA 소프트웨어가 생성형 AI 개발을 가속화할 예정입니다. NVIDIA NeMo Retriever 마이크로서비스는 가속 의미 검색을 사용하여 정확한 챗봇과 요약 도구를 만들 수 있는 도구를 제공합니다.
제약 회사는 Amazon SageMaker에서 사용할 수 있고 DGX Cloud에도 제공되는 NVIDIA BioNeMo를 통해 약물 발견 속도를 높일 수 있습니다.
AWS는 NVIDIA NeMo 프레임워크를 활용하여 엄선된 차세대 Amazon Titan LLM을 교육할 예정입니다. Amazon Robotics는 NVIDIA Omniverse Isaac을 사용하여 실제 세계에 배포하기 전에 가상 환경에서 자율 창고를 자동화, 최적화 및 계획하기 위한 디지털 트윈을 구축하고 있습니다.
AWS에서 호스팅되는 NVIDIA DGX 클라우드: AI 교육의 민주화
이번 파트너십의 또 다른 핵심 요소는 AWS에서 NVIDIA DGX 클라우드를 호스팅하는 것입니다. 이 AI 학습 서비스는 GH200 NVL32를 최초로 탑재하여 개발자에게 단일 인스턴스에서 최대 규모의 공유 메모리를 제공합니다. AWS의 DGX 클라우드 는 최첨단 생성형 AI 및 대규모 언어 모델(LLM) 학습 속도를 크게 향상시켜 잠재적으로 1조 개 이상의 파라미터를 처리할 수 있도록 지원합니다. 이 서비스는 이전에는 상당한 컴퓨팅 인프라를 갖춘 사용자만 이용할 수 있었던 고성능 AI 학습 리소스에 대한 접근성을 민주화합니다.
Project Ceiba: 세계에서 가장 빠른 GPU 기반 AI 슈퍼컴퓨터 구축
야심찬 움직임으로 AWS와 NVIDIA는 세계에서 가장 빠른 GPU 기반 AI 슈퍼컴퓨터를 구축하기 위해 Project Ceiba에서 협력하고 있습니다. 16,384개의 NVIDIA GH200 슈퍼칩을 탑재하고 65엑사플롭스의 AI를 처리할 수 있는 이 시스템은 NVIDIA의 연구 개발 팀을 위해 AWS에서 호스팅됩니다. 슈퍼컴퓨터는 NVIDIA의 생성적 AI 혁신을 촉진하여 디지털 생물학, 로봇공학, 자율주행차, 기후 예측과 같은 분야에 영향을 미칠 것입니다.
AWS 기반 AI 개발의 새로운 시대
AWS와 NVIDIA 간의 확장된 협력은 단순한 기술 발전 그 이상입니다. 이는 클라우드 기반 AI 컴퓨팅의 패러다임 전환입니다. NVIDIA의 고급 AI 인프라와 AWS의 클라우드 기능을 결합함으로써 이 파트너십은 다양한 산업 전반에 걸쳐 생성 AI가 개발되고 배포되는 방식에 혁신을 가져올 것입니다. 제약부터 자율주행차까지, 이번 협력의 의미는 광범위하고 광범위하며 AI와 그 이상 분야에서 새로운 가능성을 열어줄 것을 약속합니다.
아마존