NVIDIA는 AI 클라우드 제공업체에 대한 수익 공유와 크레딧 지원을 결합한 새로운 비즈니스 모델을 도입하여 AI 인프라 구축을 가속화한다고 발표했습니다. 7월 1일 CFO인 콜레트 크레스가 공동 작성한 블로그 게시물에서 발표된 이 계획은 프로덕션 추론 워크로드가 지속적으로 증가함에 따라 AI 스타트업, 모델 개발자, 기업, 연구 기관 및 지역 AI 제공업체가 가속 컴퓨팅에 더 쉽게 접근할 수 있도록 설계되었습니다.
이번 발표는 대규모 언어 모델 학습에서 프로덕션 AI 서비스 운영으로의 업계 전반적인 전환을 반영합니다. AI 도입이 증가함에 따라 인프라 요구 사항은 대규모 추론 토큰을 지속적으로 생성하는 AI 팩토리에 점점 더 집중되고 있습니다. 이러한 환경에는 신속하게 배포 가능한 GPU 인프라, 높은 활용률, 그리고 지속 가능한 추론 경제성을 지원할 수 있는 멀티테넌트 아키텍처가 필요합니다.
신흥 AI 기업들은 GPU 인프라 구축을 위한 자금 확보에 어려움을 겪어왔습니다. 대규모 AI 배포에 필요한 자본이 가용 자금을 앞지르는 경우가 많아 스타트업들이 실제 운영 환경에 필요한 컴퓨팅 용량을 구축하기 어렵습니다.
NVIDIA의 새로운 모델은 수익 공유와 신용 지원을 결합한 프레임워크를 통해 AI 클라우드 제공업체가 NVIDIA 인프라를 활용할 수 있도록 함으로써 이러한 과제를 해결합니다. 참여 제공업체는 AI 기반 기업, 기업 고객 및 독립 소프트웨어 공급업체(ISV)에게 NVIDIA 기반 클라우드 서비스를 제공합니다. NVIDIA는 인프라 판매와 지원 용량과 관련된 클라우드 수익의 일부를 통해 수익을 창출할 것입니다.
이 회사는 이러한 접근 방식을 통해 AI 플랫폼 도입을 가속화하는 동시에 인프라 사용량에 직접적으로 연동된 반복적인 사용량 기반 수익원을 창출할 것으로 기대합니다.
기반 모델을 구축하거나, 추론 서비스를 운영하거나, AI 에이전트를 개발하거나, 엔터프라이즈 AI 애플리케이션을 배포하는 조직의 경우, 이 모델은 프로덕션 규모의 컴퓨팅 리소스를 확보하는 데 필요한 시간을 단축하도록 설계되었습니다. 고객은 새로운 데이터 센터 건설, 전력 공급 확보 및 하드웨어 배포를 기다리는 대신 기존 AI 클라우드 용량을 활용할 수 있습니다.
이 계획은 AI 클라우드 제공업체가 지역 및 기업 AI 워크로드를 지원하기 위해 NVIDIA DSX AI 팩토리를 구축하는 데 중점을 두고 있습니다. NVIDIA는 Sharon AI와 Firmus를 초기 참여 업체로 선정했습니다.
Sharon AI는 인프라 확장의 일환으로 최대 40,000만 개의 NVIDIA Grace Blackwell GB300 GPU를 배포할 계획입니다. Firmus는 인도네시아 바탐에 DSX AI 팩토리 캠퍼스를 개발 중이며, 시설 규모를 360MW까지 확장하고 최대 170,000만 개의 NVIDIA GPU를 지원할 계획입니다.
NVIDIA는 Baseten, Fireworks AI, Together AI와 같은 AI 네이티브 클라우드 플랫폼을 예로 들며, 이러한 플랫폼들이 온디맨드 가속 컴퓨팅에 대한 수요를 주도하고 있다고 강조했습니다. 이들 플랫폼은 기업 및 개발자 고객을 위해 모델 학습 및 미세 조정부터 학습 후 최적화 및 대규모 추론에 이르기까지 다양한 워크로드를 지원합니다.
전반적으로 이번 계획은 클라우드 제공업체가 더 광범위한 AI 개발자와 기업에 생산 규모의 GPU 용량을 제공할 수 있도록 함으로써 하드웨어 판매를 넘어 AI 인프라를 확장하는 데 지속적으로 집중하고 있음을 보여줍니다.
아마존