시스코는 보안, 속도, 거버넌스를 핵심으로 에이전트 AI 워크로드를 효율적으로 처리하도록 설계된 엔터프라이즈급 AI 인프라를 위한 새로운 청사진을 발표했습니다. 이번 발표는 NVIDIA 기반 Cisco Secure AI Factory에 새로운 사용 사례, 특히 검색 증강 생성(RAG) 파이프라인 가속화를 포함하도록 확장되었습니다. 이를 통해 데이터 추출 및 검색 속도가 향상되어 AI 에이전트가 필요한 정보에 실시간으로 안전하게 액세스할 수 있습니다.
에이전트 AI를 위한 빌딩 블록
이 아키텍처의 기반은 Cisco AI POD이며, 이제 VAST Data AI OS의 핵심 구성 요소인 VAST InsightEngine과 긴밀하게 통합됩니다. 이 AI POD는 원시 엔터프라이즈 데이터를 AI 지원 데이터 세트로 변환하며, NVIDIA AI Data Platform 레퍼런스 디자인을 활용하여 성능과 배포를 간소화합니다.
이러한 POD 내부에는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU로 구동되는 Cisco UCS 서버 포트폴리오가 포함되어 차세대 AI 애플리케이션에 최적화된 고성능 컴퓨팅을 제공합니다. Cisco RTX PRO 서버는 NVIDIA의 AI 데이터 플랫폼 레퍼런스 디자인을 구현한 최초의 시스템 중 하나로, 기업용 AI 인프라 제공업체로서 Cisco의 입지를 더욱 강화합니다.
네트워킹 측면에서 시스코의 고성능 이더넷은 컴퓨팅 및 데이터 노드 간의 원활한 연결을 보장합니다. NVIDIA 가속 컴퓨팅 및 AI 소프트웨어와 결합된 이 통합 스택은 지연 시간을 줄여 AI 모델과 에이전트가 비즈니스 데이터와 더욱 신속하게 상호 작용할 수 있도록 지원합니다.
Cisco Compute의 SVP 겸 GM인 Jeremy Foster는 에이전트 AI의 혁신적 잠재력을 강조하며, Cisco와 NVIDIA 및 VAST의 협력이 기업 AI 도입의 다음 장을 지원하는 아키텍처를 구축하는 데 핵심적인 역할을 했다고 언급했습니다.
엔비디아 엔터프라이즈 AI 부문 부사장인 저스틴 보이타노는 에이전트 AI의 미래는 추론 과정에서 근거와 맥락을 파악하기 위해 엔터프라이즈 데이터를 안전하게 활용하는 데 달려 있다고 덧붙였습니다. 그는 이번 협업을 확장 가능한 AI 에이전트 배포를 위한 통합 플랫폼을 구축하는 방안으로 강조했습니다.
VAST Data의 전략 제휴 부문 사장인 존 마오는 VAST InsightEngine과 Cisco AI POD의 통합을 "중요한 발전"이라고 칭했습니다. 마오는 이번 협력이 전례 없는 규모로 운영되는 안전하고 협업적인 AI 에이전트의 새로운 시대의 시작을 알리는 신호라고 덧붙였습니다. 특히 RAG 가속에 최적화된 최초의 통합 설계는 더욱 큰 의미를 지닙니다.
기업 AI 인프라 요구 사항 해결
에이전트 기반 AI는 고유한 인프라 문제를 야기합니다. 기업은 인간 및 다른 에이전트와 상호 작용하는 AI 에이전트를 구축하여 복잡하고 여러 단계로 진행되는 문제를 해결하고자 합니다. 이를 실현하기 위해서는 인프라가 다음과 같은 기능을 제공해야 합니다.
- RAG 파이프라인의 지연 시간 감소데이터 검색 시간을 몇 분에서 몇 초로 단축하여 실시간에 가까운 AI 응답을 제공합니다.
- 설계에 따른 확장성따라서 여러 에이전트와 워크로드가 높은 처리량으로 동시에 실행될 수 있어 기업 규모에서 고급 추론과 동적 학습이 가능해집니다.
- 보안 및 거버넌스는 아키텍처에 내장되어 있습니다.역할 기반 액세스 제어, 규정 준수 기능, 감사 준비성 등을 포함하여 AI 혁신을 촉진하는 동시에 민감한 데이터가 보호되도록 보장합니다.
Cisco의 Secure AI Factory는 컴퓨팅, 네트워킹, 스토리지, 거버넌스를 통합 솔루션으로 결합하여 기업이 대규모로 에이전트 AI를 배포할 수 있는 신뢰할 수 있는 프레임워크를 제공합니다.
이용 가능 여부 (Availability)
NVIDIA AI 데이터 플랫폼 기반의 VAST InsightEngine을 탑재한 Cisco AI POD를 이제 Cisco에서 주문하실 수 있습니다. RAG에 최적화된 이 디자인은 다양한 산업 분야의 다양한 기업 활용 사례를 지원하도록 설계된 광범위한 AI 서비스 POD 시리즈의 첫 번째 제품입니다.
아마존