NVIDIA는 AI 데이 서울에서 SK텔레콤의 AX K2, LG AI 리서치의 K-EXAONE 2.0, 업스테이지의 Solar Open 2, 그리고 모티프 테크놀로지스의 Motif-3 등 한국의 4개 오픈 모델에 대한 Dynamo 배포 레시피를 공개했습니다. 이 레시피는 NVIDIA B200 GPU에 최적화되어 있으며, NVIDIA는 이를 통해 기본적으로 최대 2배의 성능 향상을 제공한다고 밝혔지만, 구체적인 기준 성능, 워크로드 또는 서비스 구성은 공개하지 않았습니다. 이번 레시피 발표와 함께 에이전트 보안, 국가 인프라, 스타트업 투자 등 한국 관련 다양한 소식도 함께 전해졌습니다.
한국 오픈 모델 4종에 대한 다이나모 레시피
Dynamo는 NVIDIA의 오픈 소스 분산 추론 서비스 프레임워크로, 데이터 센터 규모의 멀티 노드 배포를 지원하며, 모델이 여러 GPU에 걸쳐 있을 때 요청 라우팅 및 GPU 간 통신을 처리합니다. 레시피는 특정 모델에 대한 서비스 구성을 패키징하여 팀에서 처음부터 설정을 조정할 필요 없이 프로덕션 환경에 바로 적용할 수 있도록 합니다.
NVIDIA는 이 네 가지 레시피가 한국의 오픈 모델을 더 빠르게 상용화하고 정부의 '모두를 위한 AI' 이니셔티브에 따라 지원되는 서비스에 활용하기 위한 것이라고 밝혔습니다. 해당 이니셔티브에 따라 NVIDIA는 선정된 세 개의 컨소시엄과 네 개의 한국 재단 모델 구축 기관과 협력하여 다이나모 플랫폼에서의 추론을 최적화하고 확장할 예정입니다.
에이전트 보안
현대자동차그룹은 기업용 AI 에이전트를 위해 NVIDIA NemoClaw 설계도와 NVIDIA OpenShell 런타임을 검토하고 있습니다. OpenShell은 NVIDIA의 오픈 에이전트 안전 플랫폼(Open Agent Safety Platform)의 일부로, 민감한 데이터, 기업용 도구 접근, 자율 에이전트 동작에 대한 샌드박스 실행 및 정책 기반 제어 기능을 제공합니다.
한국의 AI 보안 기업인 AIM Intelligence는 자사의 Starfort 에이전트 제어 플랫폼을 OpenShell과 통합하여 OpenShell의 런타임 접근 제어 기능과 Starfort의 악성 명령어 및 데이터 유출 탐지 기능을 결합하고 있습니다. AIM Intelligence는 현재 공공 에너지 부문에서 초기 개념 증명을 검토 중이며, 향후 기업, 산업 및 로봇 분야로의 확장을 고려하고 있습니다.
LG AI 리서치는 NVIDIA Nemotron 데이터셋(7만 개의 완전 합성 한국인 페르소나 데이터셋인 Nemotron-Personas-Korea 포함)을 활용하여 개발한 K-EXAONE-2.5의 API 접근을 공개했습니다. NVIDIA는 해당 LG 모델에 대해 두 가지 버전 번호를 사용했는데, API 발표에서는 K-EXAONE-2.5로, Dynamo 레시피에서는 K-EXAONE 2.0으로 명명했습니다.
주권 AI 인프라 및 스타트업
NVIDIA와 한국 과학기술정보통신부는 AI 반도체 및 데이터센터 인프라에서 인재, 스타트업, 모델, 에이전트, 보안에 이르기까지 협력을 확대하고 있습니다. 이번 협약을 통해 한국의 NPU 및 XPU 기업들은 NVLink Fusion 생태계를 탐색할 수 있는 발판을 마련하게 되었으며, 첫 번째 구체적인 성과로 SK텔레콤의 Rebellions R200 프로젝트를 추진합니다. 이 프로젝트에서는 NVIDIA GPU가 사전 탑재되고, Rebellions NPU가 디코딩에 사용되며, 2028년 출시를 목표로 하고 있습니다. 또한, 이번 협력에는 NVIDIA의 교육 및 인증 프로그램, 해커톤, 기술 세미나 등을 통해 GPU 활용도를 높이는 방안도 포함됩니다.
스타트업 부문에서는 NVIDIA가 Point2에 대한 투자를 발표했으며, Motif Technologies, RLWRLD, Upstage에 대한 투자도 계획하고 있다고 밝혔습니다. 이 중 두 곳은 Dynamo 레시피 모델 빌더 4곳에 포함됩니다. 류제명 과학기술정보통신부 차관은 MSIT-NVIDIA AI 스타트업 파트너십 포럼에서 20여 개의 한국 스타트업 관계자들을 만났으며, NVIDIA는 인셉션 프로그램에 1,000명 이상의 한국 기업을 회원으로 두고 있습니다.
아마존