브로드컴은 VMware Explore에서 기업 데이터에 가까운 곳에서 AI 모델을 실행하도록 설계된 프라이빗 클라우드 아키텍처인 VMware Private AI Cloud를 소개했습니다. 민감한 데이터를 외부 모델 제공업체로 옮기는 대신, 이 플랫폼은 조직의 프라이빗 인프라 내에서 데이터에 모델을 직접 가져오는 것을 목표로 합니다.
VMware Private AI Cloud는 VMware Cloud Foundation(VCF), VMware AI Factory, VMware Tanzu Platform, VMware vDefend 및 VMware Avi Load Balancer를 통합하여 추론 워크로드, 에이전트 기반 애플리케이션, 컨테이너화된 서비스 및 기존 가상 머신을 실행할 수 있는 통합 환경을 제공합니다. 이 솔루션을 통해 기업은 데이터 위치, 보안 정책 및 리소스 사용량을 제어하면서 AI 및 범용 워크로드를 위한 공통 인프라 및 운영 모델을 구축할 수 있습니다.
브로드컴 인프라 소프트웨어 그룹 사장인 람 벨라가는 이 플랫폼을 프라이빗 클라우드와 프라이빗 AI 인프라의 융합 지점이라고 설명했습니다. 목표는 데이터 주권, 규정 준수, 예측 가능한 운영 비용을 포기하지 않고 프로덕션 추론 및 에이전트 기반 애플리케이션을 지원하는 것입니다.
VCF는 AI 인프라 및 토큰 비용을 목표로 합니다.
VMware Private AI Cloud는 기업 AI 구축 시 발생하는 세 가지 주요 비용 영역, 즉 하드웨어 초기 투자 비용, 운영 복잡성 및 토큰 소비 문제를 해결하도록 설계되었습니다. 이러한 비용은 기업이 소규모 AI 파일럿 프로젝트에서 더 큰 모델, 더 많은 요청량, 더 많은 GPU 용량을 요구하는 프로덕션 추론 워크로드로 전환함에 따라 증가할 수 있습니다.
VMware Cloud Foundation 9은 리소스 활용도를 향상시키기 위한 인프라 기능을 도입했습니다. NVMe 메모리 티어링을 통해 고속 NVMe 스토리지를 추가 티어로 활용하여 사용 가능한 메모리 용량을 확장할 수 있으며, 클러스터 전체 스토리지 중복 제거 기능을 통해 환경 전체에서 중복 데이터를 줄일 수 있습니다. 이러한 기능은 상당한 메모리 및 스토리지 리소스를 필요로 하는 AI 워크로드의 인프라 효율성을 개선하도록 설계되었습니다.
VCF는 CPU, GPU 및 기타 가속기를 포함한 다양한 공급업체의 이기종 인프라를 지원합니다. 이 플랫폼은 주요 OEM 및 ODM 제조업체에서 제공하는 서버 시스템을 지원하므로 기업은 단일 하드웨어 구성을 채택하는 대신 워크로드 요구 사항, 가용성 및 비용을 기준으로 하드웨어를 선택할 수 있습니다.
이 플랫폼은 AI 리소스 사용량을 제어하는 관리 기능도 추가합니다. 토큰 모니터링을 통해 모델 사용량과 추론 활동을 파악할 수 있으며, 멀티테넌트 모델 공유를 통해 여러 사용자 또는 애플리케이션이 공통 모델 서비스에 액세스할 수 있습니다. 향상된 GPU 및 vGPU 추적 기능은 가속기 할당 및 활용에 대한 더욱 자세한 정보를 제공합니다. AI 메트릭 관찰 대시보드는 이러한 측정값을 중앙 집중식 운영 보기로 제공합니다.
VMware AI Factory는 생산으로 가는 경로를 자동화합니다.
브로드컴은 또한 VMware Private AI Cloud를 위한 소프트웨어 정의 기반인 VMware AI Factory를 발표했습니다. VMware AI Factory는 AI 지원 인프라 배포를 간소화하고 물리적 하드웨어에서 프로덕션 모델 엔드포인트로 전환하는 데 필요한 시간을 단축하도록 설계되었습니다.
이 플랫폼은 초기 인프라 구축과 지속적인 Day 2 운영을 모두 지원하도록 설계되었습니다. 여기에는 인프라 프로비저닝 자동화, 모델 서비스 배포, 배포 후 AI 워크로드의 운영 요구 사항 관리 등이 포함됩니다. 브로드컴은 또한 VMware AI Factory를 통해 모델 사용량이 증가함에 따라 토큰 경제 및 리소스 소비에 대한 가시성을 향상시킬 수 있다고 강조합니다.
VCF 모델 런타임은 지원되는 모델에 공통 서비스 계층을 제공하는 vLLM을 기반으로 합니다. 브로드컴은 VCF 고객이 플랫폼을 통해 150개 이상의 오픈 소스 및 상용 모델을 실행할 수 있다고 밝혔습니다. 이를 통해 기업은 언어 지원, 컨텍스트 요구 사항, 멀티모달 기능, 추론 성능 및 하드웨어 호환성을 기준으로 모델을 선택할 수 있습니다.
검증된 모델을 통해 비공개 모델 서비스를 이용할 수 있습니다.
브로드컴은 구글, 엔비디아, NEC, 알리바바 클라우드, Z.ai의 모델들이 VMware 클라우드 파운데이션에서 테스트 및 검증을 완료했다고 발표했습니다. 이번 검증 프로그램은 기업들이 선택한 모델을 온프레미스에 배포하고, 서비스형 모델(Model-as-a-Service) 형태로 내부 사용자에게 제공하는 과정을 간소화하기 위해 마련되었습니다.
VCF에 대해 발표된 검증된 모델은 다음과 같습니다.
- NVIDIA 네모트론 3: Nemotron 3 제품군은 Mamba-Transformer 혼합 전문가 아키텍처를 기반으로 하는 개방형 멀티모달 모델을 포함합니다. 이 모델은 최대 1만 토큰의 컨텍스트 창을 지원하며 엔터프라이즈 애플리케이션 전반에 걸쳐 장시간 실행되는 에이전트 기반 워크플로우를 위해 설계되었습니다.
- 구글 딥마인드 젬마 4: Gemma 4는 로컬 실행을 위해 설계된 오픈 소스, 오픈 웨이트 멀티모달 모델 제품군입니다. VCF에서 사용 가능하므로 조직은 자체 인프라 내에서 자율 에이전트를 개발하고 배포할 수 있습니다.
- NEC 코토미: NEC의 코토미(cotomi) 모델은 일본어에 최적화되어 있으며 엄선된 데이터셋으로 학습되었습니다. 브로드컴은 이 모델이 토큰 효율성을 40% 향상시킨다고 밝혔습니다.
- 알리바바 클라우드 Qwen 3.7-27B: 1만 토큰 컨텍스트 윈도우를 갖춘 독자적인 멀티모달 모델입니다. 멀티모달 추론 기능을 포함하며 에이전트 기반 워크로드에 맞게 설계되었습니다.
- Z.ai GLM 5.2: GLM 5.2는 로컬 코딩 및 추론 에이전트를 위해 설계된 오픈 소스 범용 언어 모델입니다. 이 모델은 기업 환경 내에서 데이터를 유지하면서 다단계 자율 워크플로우를 지원하도록 고안되었습니다.
모델 검증 노력은 사설 인프라에서 상용 및 오픈 소스 모델을 실행하려는 기업의 배포 불확실성을 줄이는 것을 목표로 합니다. 브로드컴은 모델 제공업체들이 자사와 협력하여 검증된 모델을 VCF의 통합 서비스를 통해 제공하고 있다고 밝혔습니다.
Broadcom의 Private Cloud Outlook 2026 보고서에 따르면 기업의 56%가 이미 프라이빗 클라우드에서 프로덕션 AI 추론을 실행 중이거나 실행할 계획입니다. VCF는 기존 가상 머신, Kubernetes 워크로드 및 컨테이너화된 서비스와 함께 이러한 배포를 지원하도록 설계되었습니다.
브로드컴에 따르면, MLPerf Inference v5.1 표준을 사용한 독립적인 테스트 결과 VCF가 베어메탈 인프라와 동등한 성능을 제공하는 것으로 확인되었습니다. 이 테스트는 가상화 및 프라이빗 클라우드 관리가 별도의 베어메탈 AI 스택 없이도 프로덕션 수준의 추론을 지원할 수 있음을 입증하기 위한 것입니다.
AI 워크로드를 위한 심층 방어 보안
VMware Private AI Cloud는 NIST 사이버보안 프레임워크 2.0에 부합하는 심층 방어 보안 모델을 사용합니다. 이 플랫폼은 인프라 제어, 네트워크 분할, 애플리케이션 계층 보호, 공급망 보안 및 지속적인 규정 준수 기능을 결합합니다.
VMware vDefend는 마이크로세그멘테이션 및 하이퍼바이저 수준의 측면 보안 제어를 제공합니다. 가상 패치는 애플리케이션을 즉시 변경하거나 인프라를 다운타임할 필요 없이 알려진 취약점으로부터 워크로드를 보호하도록 설계되었습니다. 트래픽 흐름 모니터링은 워크로드 간의 예기치 않은 통신을 식별하고 승인되지 않은 또는 숨겨진 AI 배포를 탐지하는 데 도움을 줄 수 있습니다.
브로드컴은 vDefend를 에이전트 기반 AI 워크로드까지 확장하고 있습니다. 업데이트된 기능은 지속적인 트래픽 모니터링을 통해 에이전트 기반 구성 요소를 식별하고, AI 시스템의 무단 사용을 감지하며, AI가 생성한 침입 탐지 및 방지 시스템(IDPS) 시그니처를 사용하여 가상 패치를 배포하도록 설계되었습니다.
VMware Avi 로드 밸런서는 웹 애플리케이션 방화벽 및 API 보안 기능을 통해 애플리케이션 계층 보호 기능을 추가합니다. 에이전트 기반 워크로드의 경우, Avi는 에이전트가 승인되지 않은 도구에 액세스하는 것을 제한하고, 제로데이 공격을 나타낼 수 있는 비정상적인 동작을 식별하며, 무단 데이터 유출을 방지하는 데 도움이 되는 데이터 보호 제어를 적용하도록 설계되었습니다.
TrueSource, 오픈소스 공급망 관리 기능 확장
브로드컴은 또한 프라이빗 AI 환경에서 사용되는 소프트웨어 및 데이터 서비스를 위한 TrueSource 기능을 소개했습니다. TrueSource Trusted Artifacts는 Java, Python, Node.js 생태계와 Bitnami Secure Images 카탈로그 전반에 걸쳐 클린룸 빌드 프로세스를 적용합니다.
Spring Enterprise 릴리스는 Spring 팀에서 선별 및 유지 관리합니다. Broadcom은 릴리스에 포함된 패치는 Frontier 모델을 기반으로 스캔하고 사람이 직접 검증하며, 지원되는 모든 릴리스 라인에 걸쳐 수정 사항이 배포된다고 밝혔습니다.
TrueSource Data Services는 동일한 접근 방식을 데이터 인프라 구성 요소에도 적용합니다. 초기 서비스에는 PostgreSQL, RabbitMQ, MySQL 및 Valkey가 포함됩니다. 이를 통해 AI 애플리케이션 및 에이전트 기반 워크플로를 지원할 수 있는 일반적인 데이터베이스 및 메시징 구성 요소에 대한 통제된 소스를 제공합니다.
Tanzu 플랫폼에 자율 에이전트 제어 기능이 추가되었습니다.
브로드컴은 또한 VMware Tanzu 플랫폼을 위한 새로운 AI 지원 데이터 기반 및 에이전트 런타임 기능을 발표했습니다. Tanzu 플랫폼은 VMware Private AI 클라우드 내에서 운영되는 애플리케이션 및 에이전트 플랫폼으로 자리매김하고 있습니다.
자율 에이전트는 기존 애플리케이션과 관련된 위험과는 다른 위험을 내포합니다. 에이전트는 연결된 시스템 전반에서 독립적으로 데이터를 조회하고, 도구를 실행하고, 지침을 해석하고, 작업을 수행할 수 있습니다. 충분한 제어가 이루어지지 않으면 에이전트는 할당된 범위를 벗어나거나, 승인되지 않은 리소스에 접근하거나, 민감한 정보를 노출하거나, 예상치 못한 인프라 및 클라우드 송출 비용을 발생시킬 수 있습니다.
Tanzu 플랫폼은 기본적으로 접근을 차단하는 런타임 모델을 통해 이러한 위험을 해결합니다. 에이전트는 명시적으로 권한이 부여되지 않는 한 API, 네트워크, MCP 서버 또는 인터넷에 접근할 수 없습니다. 격리된 자격 증명 저장소는 자격 증명을 에이전트 자체에서 숨겨 자격 증명 도용, 오용 및 프롬프트 주입 공격의 위험을 줄입니다.
이 플랫폼에는 승인된 스킬, 워크플로우 빌드팩, 사용자 개입 제어 기능 및 통합 메모리 서비스를 갖춘 사전 구축된 개발자 도구 모음도 포함되어 있습니다. 이러한 구성 요소는 실행 중 운영상의 안전 장치를 유지하면서 에이전트 구축을 위한 통제된 개발 경로를 제공하도록 설계되었습니다.
AgentMinder는 중앙 집중식 에이전트 제어 기능을 제공합니다.
브로드컴은 자율 AI 에이전트를 위한 중앙 제어 플랫폼인 에이전트마인더(AgentMinder)를 공개했습니다. 이 시스템은 각 에이전트를 기업 고유의 ID로 취급하고, 해당 ID를 정의된 임무, 승인된 도구 및 사용 권한이 부여된 리소스와 연결합니다.
런타임 정책 시행은 도구 호출에 최소 권한 제어를 적용합니다. 이를 통해 기업은 에이전트가 사용할 수 있는 도구와 사용 조건을 결정할 수 있습니다. AgentMinder는 또한 에이전트 활동에 대한 감사 기록을 제공하여 보안 및 규정 준수 팀이 자율 시스템이 수행하는 작업을 파악할 수 있도록 지원합니다.
에이전트 식별, 정책 시행 및 감사 기능의 결합은 여러 부서와 애플리케이션에 걸쳐 다양한 에이전트를 배포하는 조직에 거버넌스 계층을 제공하기 위한 것입니다.
AI 기반 데이터 구축으로 기업 내 맥락 유지
Tanzu 플랫폼의 새로운 AI 지원 데이터 기반은 고객이 관리하는 환경 내에서 정형 및 비정형 엔터프라이즈 데이터를 처리합니다. 결과적으로 생성되는 데이터 제품은 원본 데이터를 프라이빗 클라우드 외부로 유출할 필요 없이 상담원에게 선별되고 맥락이 풍부한 정보를 제공하도록 설계되었습니다.
이러한 데이터 제품은 관리형 서비스로 Tanzu 플랫폼 마켓플레이스에 게시될 수 있습니다. 개발자와 에이전트는 중앙 집중식 카탈로그를 통해 서비스를 검색하고 사용할 수 있으며, 데이터 소유자는 정보의 준비, 공개 및 관리 방식을 계속해서 제어할 수 있습니다.
이 접근 방식은 에이전트가 사용할 수 있는 컨텍스트의 품질을 향상시키고, 검증되지 않은 데이터에 대한 의존도를 줄이며, 모델에 더욱 관련성 높은 정보를 제공함으로써 토큰 소비를 낮추는 것을 목표로 합니다. 또한 민감한 데이터, 메타데이터 및 컴퓨팅 리소스를 조직이 관리하는 인프라 내에 유지하는 데 도움이 됩니다.
이용 가능 여부 (Availability)
브로드컴은 VMware Explore에서 발표한 새로운 VMware Tanzu 플랫폼 기능이 2026년 가을에 정식 출시될 예정이라고 밝혔습니다.
아마존