IBM과 NVIDIA는 GTC 2026에서 10년 이상 지속된 파트너십을 대폭 확장한다고 발표했습니다. 이번 협력은 AI를 시범 단계에서 본격적인 상용화 단계로 전환하는 데 중점을 두고 있습니다. 특히 GPU 기반 데이터 분석, 지능형 문서 처리, 규제 환경을 위한 인프라 구축 등 기업 AI 도입의 주요 병목 현상을 해결하는 것을 목표로 합니다. 양사는 데이터 기반, 하드웨어, 컨설팅 전문 지식을 통합하여 기업들이 파편화된 데이터와 규정 준수 요구 사항을 효과적으로 관리할 수 있도록 지원할 계획입니다.
IBM 회장 겸 CEO인 아르빈드 크리슈나는 차세대 기업 AI는 데이터, 인프라, 오케스트레이션의 긴밀한 통합에 달려 있다고 강조했습니다. 그는 이번 파트너십이 기업들이 실험 단계에서 운영 단계로 전환하는 데 필요한 구성 요소를 제공하기 위해 설계되었다고 밝혔습니다. 엔비디아 창립자 겸 CEO인 젠슨 황은 CUDA 가속을 데이터 계층에 통합함으로써 기존의 데이터 처리 방식을 실시간 인텔리전스 엔진으로 전환하고자 한다고 언급했습니다.
cuDF와 Presto를 활용한 정형 데이터 분석 가속화
이번 발표의 주요 기술적 초점은 IBM WatsonX.data의 Presto SQL 엔진에 NVIDIA cuDF 라이브러리를 통합하는 것입니다. 이 오픈 소스 통합을 통해 대규모 데이터 세트에서 GPU 가속 쿼리 실행이 가능해지며, 구조화된 데이터에서 유용한 정보를 추출하는 데 걸리는 시간과 비용을 크게 줄일 수 있습니다.
두 회사는 네슬레의 주문-결제(Order-to-Cash) 데이터 마트를 활용하여 실제 운영 환경에서 이 접근 방식의 유효성을 검증했습니다. 네슬레의 데이터 마트는 전 세계 44개 테이블에 걸쳐 테라바이트 규모의 데이터를 처리합니다. 기존 CPU 기반 인프라에서는 데이터 새로 고침 한 번에 15분이 소요되었고, 하루에 몇 번만 처리할 수 있었습니다. 하지만 GPU 가속 기능을 갖춘 watsonx.data 엔진으로 전환한 결과, 네슬레는 쿼리 실행 시간을 3분으로 단축했다고 보고했습니다. 이는 가격 대비 성능이 30배 향상되고 비용이 83% 절감된 것을 의미합니다. 네슬레의 최고 정보 및 디지털 책임자(CIO)인 크리스 라이트는 이러한 기능을 통해 거의 실시간으로 운영 데이터를 제공받아 제조 및 창고 관리 분야에서 더 빠른 의사 결정을 내릴 수 있다고 밝혔습니다.
도클링과 네모트론으로 비정형 데이터의 잠재력을 끌어내다
SharePoint 사이트 및 CMS 시스템과 같은 비정형 형식으로 저장된 데이터 문제를 해결하기 위해 IBM과 NVIDIA는 IBM Docling 및 NVIDIA Nemotron의 개방형 모델을 활용한 공동 솔루션을 선보였습니다. Docling은 복잡한 문서를 AI에서 활용 가능한 형식으로 표준화하고 변환하는 동시에 원본과의 추적성을 유지하도록 설계되었습니다.
NVIDIA Nemotron 모델과 함께 사용하면 시스템은 멀티모달 콘텐츠 수집 속도를 향상시킵니다. 초기 테스트 결과 기존 오픈 소스 모델에 비해 처리량이 크게 증가한 것으로 나타났습니다. 이 접근 방식은 기업이 내부 지식 기반에 대한 접근성을 높이고 자동화된 추론을 위한 표준화를 용이하게 함으로써 AI를 위한 신뢰할 수 있는 데이터 기반을 구축하는 데 도움을 주기 위한 것입니다.
GPU 최적화 인프라 및 주권 AI
이번 파트너십은 스토리지 및 인프라 계층까지 폭넓게 확장됩니다. NVIDIA는 자사의 GPU 기반 고급 분석 엔진에 10PB의 고성능 스토리지를 제공하기 위해 IBM Storage Scale System 6000을 선정했습니다. Storage Scale 6000은 NVIDIA DGX 플랫폼에 대한 인증 및 검증을 거쳤으며, IBM의 병렬 처리 능력과 NVIDIA의 GPU 데이터 파이프라인을 결합하여 I/O 병목 현상을 해소합니다.
엄격한 데이터 상주 및 규제 요건을 준수해야 하는 조직들이 IBM Sovereign Core와 NVIDIA 인프라 통합을 검토하고 있습니다. 이 계획은 GPU 집약적인 AI 워크로드를 특정 지역 경계 내에서 완전히 실행하여 컴퓨팅 성능 저하 없이 거버넌스 및 규정 준수 기준을 충족하는 것을 목표로 합니다.
Blackwell과 Red Hat을 활용하여 AI 스택 확장
IBM은 2026년 2분기 초에 NVIDIA Blackwell Ultra GPU를 IBM 클라우드에 도입할 계획이라고 발표했습니다. 이러한 리소스는 대규모 모델 학습 및 고처리량 추론에 초점을 맞출 것입니다. 또한 Blackwell 아키텍처는 NVIDIA 및 VPC 서버와 함께 Red Hat AI Factory에 통합되어 엔터프라이즈급 데이터 상주 제어 기능을 제공할 예정입니다.
또한 IBM 컨설팅은 IBM 컨설팅 어드밴티지 플랫폼을 통해 NVIDIA와 협력하여 레드햇 AI 팩토리를 제공할 예정입니다. 이는 데이터 준비, 모델 생성 및 배포 프로세스를 간소화하기 위한 것입니다. IBM과 NVIDIA는 이러한 기술을 결합하여 기업이 다양한 기술 환경에서 AI를 확장하는 동시에 관리 및 성능을 유지할 수 있는 더욱 원활한 경로를 제공하고자 합니다.
아마존