AI in Finance Summit에서 Broadcom은 VMware Tanzu Platform 에이전트 기반 솔루션을 소개하며, 이를 VMware Cloud Foundation(VCF)에서 자율 AI 애플리케이션을 구축하고 운영하기 위한 기본적으로 안전한 런타임으로 제시했습니다. 이번 릴리스는 Tanzu의 기존 코드-프로덕션 모델을 AI 에이전트까지 확장하여, 개별적인 AI 실험에서 관리형 프로덕션 규모 배포로 전환하고자 하는 기업 팀을 지원합니다.
AI 에이전트를 기업 운영에 도입하기
AI 에이전트가 실행 및 의사 결정 역할을 맡게 되면서 운영 요구 사항은 거버넌스, 보안 및 엔터프라이즈 시스템과의 통합으로 전환되고 있습니다. 그러나 많은 조직은 여전히 핵심 데이터에 대한 접근성과 표준화된 제어 기능이 부족한 고립된 환경에서 AI 워크로드를 실행하고 있습니다.
Tanzu 플랫폼 에이전트 파운데이션은 VCF를 기반으로 직접 구축된, 에이전트 워크로드를 위한 사전 설계된 서비스형 플랫폼(PaaS) 레이어를 제공하여 이러한 격차를 해소합니다. 이를 통해 플랫폼 엔지니어링 팀은 AI 인프라에 대한 심층적인 전문 지식 없이도 익숙한 도구와 프로세스를 사용하여 기존 애플리케이션과 함께 AI 서비스를 관리할 수 있습니다.
기본적으로 거부하는 에이전트 런타임
에이전트 기반 런타임은 에이전트 동작을 제한하고 운영 위험을 줄이기 위한 일련의 제어 기능을 도입합니다.
소프트웨어 공급망은 사용자 정의 Dockerfile 대신 신뢰할 수 있는 Buildpack을 사용하여 관리됩니다. 컨테이너는 자동으로 빌드, 패치 및 검증되므로 내장된 취약점이나 악성 구성 요소에 노출될 위험이 줄어듭니다.
보안 비밀 관리는 구조적 수준에서 적용되어 에이전트가 자신의 권한 범위를 벗어난 자격 증명에 접근하는 것을 방지합니다. 이러한 격리는 VMware vDefend에 의해 더욱 강화되며, vDefend는 인프라 서비스 및 외부 SaaS 통합 전반에 걸쳐 보호 기능을 확장하여 측면 이동을 제한합니다.
네트워킹은 제로 트러스트 모델을 사용합니다. 에이전트는 미리 정의된 리소스 및 연결 경계 내에서 작동하며 내부 시스템이나 모델에 대한 기본 액세스 권한이 없습니다. 액세스는 보안 서비스 바인딩을 통해 명시적으로 부여되므로 에이전트는 승인된 데이터 소스 및 서비스와만 상호 작용할 수 있습니다.
개발자 온보딩 및 통합 데이터 서비스
이 플랫폼에는 온보딩 속도를 높이기 위한 사전 구축된 에이전트 템플릿이 포함되어 있습니다. 개발자는 IT 부서에서 정의한 모델, 모델 컨텍스트 프로토콜(MCP) 서버 및 엄선된 마켓플레이스 서비스에 대한 관리형 액세스 권한을 에이전트에 부여할 수 있습니다.
이 플랫폼에는 Tanzu for Postgres(pgvector 포함)를 비롯한 데이터 서비스와 캐싱, 스트리밍, 데이터 흐름 서비스가 통합되어 있습니다. Spring AI 메모리 서비스 지원을 통해 엔터프라이즈 애플리케이션 패턴에 부합하는 상태 저장형 에이전트 동작을 구현할 수 있습니다.
VMware 클라우드 파운데이션에서의 운영 확장
Tanzu 플랫폼 에이전트 기반은 VCF 인프라 API와 통합되어 리소스 프로비저닝 및 수명 주기 관리를 추상화합니다. 이를 통해 에이전트 워크로드와 해당 종속성은 인프라와 직접 상호 작용하지 않고도 필요한 컴퓨팅, 스토리지 및 네트워킹 리소스를 받을 수 있습니다.
탄력적 확장은 워크로드 수요에 따라 환경을 확장하거나 축소할 수 있도록 하며, 단기 에이전트와 영구 에이전트를 모두 지원하는 동시에 비용과 활용도를 최적화합니다.
다중 계층의 이중화 및 자동화된 복구 기능을 통해 높은 가용성을 구현합니다. 이 플랫폼은 핵심적인 자율 애플리케이션의 서비스 연속성을 유지하기 위해 기본 인프라를 지속적으로 모니터링하고 자체 복구합니다.
통합 AI 게이트웨이는 모델 및 도구 접근에 대한 중앙 집중식 제어를 제공합니다. VCF 상의 공개 모델과 비공개 모델 모두에 대해 가용성, 사용 정책, 비용 관리 및 안전 필터링을 관리합니다.
브로드컴의 탄주 사업부 총괄 매니저인 푸르니마 파드마나반에 따르면, 신속한 에이전트 기반 애플리케이션 개발은 고객과의 협력을 통해 혁신을 가속화하는 원동력이 되고 있습니다. 그녀는 탄주 플랫폼 에이전트 기반이 특히 VMware Cloud Foundation 9을 활용한 최신 프라이빗 클라우드 환경에서 에이전트 기반 아이디어를 신속하게 배포할 수 있도록 지원한다고 강조했습니다.
에이전트 기반 솔루션을 통해 브로드컴은 거버넌스, 보안 및 운영 일관성에 중점을 두고 Tanzu 플랫폼을 새로운 엔터프라이즈 AI 요구 사항에 맞춰 조정하고 있습니다. 이 접근 방식은 기존 VMware 인프라 투자를 기반으로 하며 에이전트 기반 애플리케이션을 위한 표준화된 런타임을 도입하여 AI 배포를 더욱 예측 가능하고 대규모로 관리하기 쉽게 만듭니다.
아마존