클라우디안(Cloudian)은 고객이 엔터프라이즈 AI를 구축하고자 하는 방식에 맞춰 설계된 턴키 방식의 클라우드 기반 AI 데이터 플랫폼인 클라우디안 하이퍼스케일(Cloudian HyperScale)의 정식 출시를 발표했습니다. 엔비디아 AI 데이터 플랫폼 레퍼런스 디자인을 기반으로 하는 이 솔루션은 수십 년간 문서, PDF, 이미지, 스프레드시트에 저장된 기관의 지식을 익숙한 챗봇 스타일 인터페이스를 통해 즉시 접근 가능한 인사이트로 전환합니다. 이 솔루션의 목표는 기업들이 몇 달이 아닌 며칠 만에 프로덕션급의 규정 준수 AI 환경을 구축하는 동시에 데이터에 대한 완벽한 제어권을 유지할 수 있도록 지원하는 것입니다.
엔터프라이즈 AI 배포 딜레마 해결
대부분의 기업 AI 프로그램은 익숙한 문제에 직면합니다. 신속한 대응을 위해 내부 보안, 데이터 주권 또는 규제 요건을 충족하지 못할 수 있는 공유 또는 퍼블릭 클라우드 환경에 의존하는 경우가 많습니다. 통제력을 유지하기 위해 여러 공급업체와 협력하고 수개월에 걸친 통합 과정을 거쳐야 하며, 측정 가능한 비즈니스 가치로 가는 경로가 불분명한 맞춤형 온프레미스 빌드를 선택하게 됩니다.
동시에, 기업 지식의 대부분은 여전히 AI 시스템에서 사실상 보이지 않습니다. 클라우디안(Cloudian)은 기관 지식의 약 80%가 문서, 보고서, 이메일, 이미지, 운영 로그와 같은 비정형 콘텐츠에 저장되어 있다는 일반적인 수치를 인용합니다. 이러한 콘텐츠는 종종 수십 년에 걸쳐 축적되며 중요한 프로세스 지식, 고객 맥락, 규제 이력을 포함합니다. 이러한 콘텐츠를 수집하고 쿼리할 수 있는 실질적인 방법이 없다면 AI 구축은 의미 있는 결과를 제공하는 데 어려움을 겪습니다.
HyperScale AI 데이터 플랫폼은 이러한 단점을 해소할 수 있도록 설계되었습니다. 컴퓨팅, 스토리지, 네트워킹, 소프트웨어를 통합 인프라로 결합하여 며칠 만에 운영이 가능하며, 엔터프라이즈 문서 AI 활용 사례에 맞춰 특별히 설계되었습니다. 대규모 데이터 마이그레이션이나 복잡한 통합 작업 없이, 시스템은 온프레미스 또는 통제된 환경에 구축되므로 기업은 데이터를 기존 위치에 그대로 유지하면서 AI 워크로드에 활용할 수 있습니다.
이 플랫폼은 문서 처리, 검색 증강 생성(RAG) 및 관련 작업을 위한 참조 워크플로와 사전 검증된 구성 요소를 제공하는 엔터프라이즈 문서 AI를 위한 검증된 NVIDIA AI 블루프린트를 통합합니다. 이를 통해 맞춤형 프로젝트 대비 위험을 줄이고 반복 가능한 아키텍처를 기반으로 구축을 강화할 수 있습니다.
엔비디아 엔터프라이즈 AI 제품 담당 부사장인 저스틴 보이타노는 이러한 필요성을 명확히 밝혔습니다. 그는 엔터프라이즈 데이터를 AI 인사이트로 전환하려면 확장 가능한 스토리지 그 이상이 필요하다고 강조하며, 기업의 요구 사항에 맞춰 유연하게 조정 가능한 긴밀하게 통합된 고성능 인프라 스택이 필요하다고 덧붙였습니다. 그는 엔비디아 AI 인프라, 네트워킹, 소프트웨어를 기반으로 구축된 클라우디안 하이퍼스케일 AI 데이터 플랫폼을 통해 기업이 중요한 지식을 안전하게 활용하고, 구현을 간소화하며, 데이터 볼륨 증가에 따라 AI 용량을 확장할 수 있다고 강조했습니다.
예측 가능한 경제성을 통한 즉각적인 비즈니스 영향
이 플랫폼은 초기 AI 구축 과정에서 발생했던 성능 및 비용 상쇄 없이 엔터프라이즈 AI 기능을 제공하도록 설계되었습니다. 스토리지 계층에서 Cloudian은 S3 네이티브 객체 스토리지와 S3 작업을 위한 RDMA 가속 기능을 결합합니다. 이러한 결합은 지연 시간에 민감한 AI 및 벡터 데이터베이스 시나리오에서 객체 스토리지와 일반적으로 관련된 성능 저하를 제거하기 위한 것입니다.
Cloudian은 이 RDMA 가속 S3가 기존 파일 스토리지에 의존하는 CPU 기반 솔루션보다 최대 8배 빠른 벡터 데이터베이스 성능을 제공한다고 보고합니다. 이는 고객에게 임베딩, 유사성 검색 및 검색 작업을 통해 맞춤형 비표준 스토리지 스택으로 전환하지 않고도 수천 명의 동시 사용자에 대한 실시간 응답을 지원할 수 있음을 의미합니다.
기술 영업팀과 설계자에게도 경제적인 측면은 매우 중요합니다. Cloudian은 HyperScale AI 데이터 플랫폼을 온프레미스 통합 어플라이언스로 제공함으로써, 가변적이고 예측 불가능한 클라우드 운영 비용(OpEx) 대신 예측 가능한 자본 지출(CapEx)에 맞춰 AI 인프라 지출을 조정합니다. 이 솔루션은 토큰당 추론 비용이나 고밀도 온프레미스 배포보다 훨씬 높을 수 있는 높은 클라우드 스토리지 비용과 같은 일반적인 AI 클라우드 비용을 절감하도록 설계되었습니다.
이 플랫폼은 S3 네이티브이고 Cloudian HyperStore를 기반으로 구축되어 온프레미스 환경, 하이브리드 아키텍처 및 분산된 위치에서 데이터를 처리하고 분석할 수 있습니다. 이러한 유연성 덕분에 기업은 단일 클라우드 또는 독점 플랫폼으로 대규모 마이그레이션을 시행하지 않고도 데이터를 기존 위치에 유지하면서 AI 워크플로에 적용할 수 있습니다. 많은 규제 대상 기업에서 이러한 기능은 데이터 주권을 유지하고 내부 거버넌스 요구 사항을 충족하는 데 핵심적인 역할을 합니다.
엔터프라이즈 문서 AI
HyperScale AI 데이터 플랫폼의 초기 목표는 엔터프라이즈 문서 AI입니다. 내장된 문서 AI 애플리케이션 청사진은 대화형 자연어 쿼리를 통해 수십 년간 축적된 기관의 지식을 활용하도록 설계되었습니다. 사용자 경험은 의도적으로 일반 소비자용 채팅 인터페이스와 유사하지만, 조직의 자체 문서 및 정책을 기반으로 합니다.
예를 들어, 의료 분야에서 이 플랫폼을 사용하면 HIPAA 및 기타 개인정보 보호 규정을 준수하면서 환자 기록, 임상 프로토콜 및 내부 지침을 조회할 수 있습니다. 데이터가 조직의 통제된 환경을 벗어나지 않으므로 규정 준수 및 감사 팀은 정보 저장 위치와 접근 방식에 대한 가시성을 확보할 수 있습니다.
금융 서비스 기관은 민감한 정보를 외부 AI 제공업체에 전송하지 않고도 규제 관련 서류, 내부 정책, 위험 평가 및 계약 저장소를 검색할 수 있습니다. 규제 관련 콘텐츠와 고객 데이터를 관리되는 범위 내에서 유지하면서도 최신 검색 증강 생성 기술의 이점을 누릴 수 있는 이러한 기능은 위험을 감수하는 고객에게 핵심적인 판매 포인트입니다.
기술적 관점에서 볼 때, 이 청사진은 문서 수집 파이프라인, 인덱싱, 벡터화 및 검색 워크플로 구축과 관련된 복잡성을 상당 부분 추상화합니다. 고객은 이 스택을 처음부터 설계하는 대신, 플랫폼에 포함된 참조 설계를 활용하여 튜닝, 액세스 제어 및 거버넌스에 집중할 수 있습니다.
문서를 넘어 비디오와 분석까지
클라우디안은 하이퍼스케일 AI 데이터 플랫폼을 문서 중심 사용 사례뿐 아니라, 장기적으로 다양한 AI 애플리케이션 청사진을 지원하는 기반으로 제시합니다. 이 로드맵에는 비디오 분석 지원이 포함되어 있으며, 특히 제조 현장, 창고, 물류 허브, 건설 현장 등 실시간 또는 준실시간 비디오 인텔리전스를 통해 안전, 품질 및 운영 효율성을 향상시킬 수 있는 환경에서 더욱 그렇습니다.
향후 청사진은 동일한 통합 인프라를 사용하여 활동 및 이상 감지와 운영 모니터링을 위한 비디오 스트림 분석에 중점을 둘 것입니다. 향후 애플리케이션에는 동일한 하드웨어 및 소프트웨어 스택을 통해 제공되는 더욱 광범위한 데이터 분석 및 추가적인 엔터프라이즈 AI 기능도 포함될 것입니다. 이러한 단일 플랫폼 접근 방식은 고객이 각각의 새로운 AI 워크로드에 대해 별도의 포인트 솔루션을 구축할 필요가 없으므로 조달 및 수명 주기 관리를 간소화합니다.
플랫폼 아키텍처 및 하드웨어 기반
HyperScale AI Data Platform의 엔트리 레벨 구성은 NVIDIA RTX PRO 서버 레퍼런스 디자인을 기반으로 합니다. 이 시스템은 AI 워크로드를 위해 설계되었으며 최대 8개의 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU로 구성될 수 있어 대규모 비정형 데이터세트에 대한 학습, 미세 조정 및 추론을 위한 상당한 가속을 제공합니다.
컴퓨팅은 듀얼 Intel Xeon 6900 시리즈 CPU를 통해 제공되어 오케스트레이션, 데이터 전처리 및 제어 플레인 서비스에 필요한 충분한 범용 프로세싱 성능을 보장합니다. 또한, 이 플랫폼은 호스트 CPU에서 네트워킹, 보안 및 스토리지 작업을 오프로드할 수 있는 NVIDIA BlueField-3 DPU와 AI 및 데이터 집약적 워크로드에 필수적인 고대역폭, 저지연 연결을 제공하는 NVIDIA Spectrum-X 이더넷 SuperNIC을 통합합니다.
스토리지 측면에서 이 플랫폼은 NVMe 기반 미디어를 사용하는 Cloudian HyperStore를 사용하여 높은 처리량과 낮은 지연 시간을 제공하는 S3 호환 객체 스토리지를 제공합니다. S3 연결을 위한 통합 RDMA는 프로토콜 오버헤드를 줄이고 AI 및 벡터 워크로드가 로컬 블록 또는 파일 시스템에 가까운 지연 시간으로 객체 데이터에 액세스할 수 있도록 지원하며, 동시에 객체 스토리지의 확장성 이점을 유지합니다.
이 아키텍처는 데이터 요구 사항이 증가함에 따라 테라바이트에서 엑사바이트까지 중단 없이 확장할 수 있도록 설계되었습니다. 이러한 확장 기능은 제한된 범위의 AI 프로젝트로 시작하지만 인프라를 재설계하지 않고도 글로벌 배포를 위한 명확한 경로를 확보하려는 고객에게 필수적입니다.
클라우디안 CEO 마이클 초는 기업들이 기존 보안 및 규정 준수 프레임워크를 강제로 변경하기보다는 기존 프레임워크에 적합한 AI 플랫폼이 필요하다고 강조합니다. 그는 HyperScale AI가 익숙한 챗봇 인터페이스를 통해 기관 지식에 안전하게 접근할 수 있도록 지원하는 동시에, 데이터를 조직의 통제 하에 유지하고 배포 시간을 몇 개월에서 며칠로 단축한다고 강조합니다.
이용 가능 여부 (Availability)
Cloudian HyperScale AI 데이터 플랫폼은 Cloudian의 인증된 채널 파트너 생태계를 통해 전 세계에서 즉시 사용할 수 있습니다.
각 시스템에는 원격 관리 서비스와 24시간 연중무휴 기술 지원을 제공하는 Cloudian HyperCare 지원이 포함되어 있습니다.
아마존