Smartbird와 WEKA는 파트너십을 체결하고 , Smartbird의 전용 AI 클러스터에 WEKA NeuralMesh를 통합하여 기업 AI 워크로드를 위한 관리형 서비스로 제공한다고 발표했습니다. Smartbird는 각 고객의 워크로드에 맞춰 온프레미스 또는 전용 코로케이션 시설에서 클러스터를 설계, 구축 및 운영합니다. 양사는 이러한 방식이 고객 데이터가 고객 관리 환경에 안전하게 보관되고 첫날부터 바로 운영 가능한 상태를 보장하는 '주권적 환경' 설계라고 설명합니다. 이번 계약은 Smartbird가 계획 중인 인프라 파트너십 네트워크의 첫 번째 사례입니다.
스마트버드는 이전에는 올버즈(Allbirds)로 알려졌던 회사입니다. 올버즈는 신발 브랜드와 자산을 매각하고 6월에 회사명을 스마트버드(Smartbird, Inc.)로 변경했으며, 나스닥 상장은 BIRD라는 티커로 유지하고, GPU 컴퓨팅 제공업체인 DCAI의 전 CEO였던 나디아 칼스텐 박사를 사장 겸 CEO로 임명했습니다. 회사명 변경 당시에는 첫 번째 클러스터 설계가 진행 중이었고, 미국과 유럽에 데이터 센터를 구축하고 있었는데, 이번 WEKA 인수 계약은 해당 스택의 구성 요소를 처음으로 확인할 수 있는 기회입니다.
데이터 처리량 및 추론 관련 주장
NeuralMesh는 데이터 및 메모리 레이어를 제공합니다. 양사는 GPU가 초당 수백 기가바이트에 달하는 처리량으로 지속적으로 데이터를 공급받는다고 밝혔지만, 해당 수치의 근거가 된 하드웨어 구성, 소프트웨어 버전 또는 테스트 조건은 공개하지 않았습니다. 추론 및 지속적으로 실행되는 에이전트 애플리케이션의 경우, 양사는 통합 플랫폼이 GPU 메모리 용량을 확장하고, 첫 번째 토큰 생성 시간을 단축하며, 재계산을 줄여 토큰 비용을 낮춘다고 주장합니다.
WEKA는 NeuralMesh에서 이러한 세 가지 문제에 대한 해결책으로 증강 메모리 그리드(Augmented Memory Grid)를 제시합니다. 이는 GPU 메모리를 NeuralMesh 스토리지로 확장하는 KV 캐시 계층입니다. WEKA는 증강 메모리 그리드를 통해 GPU 메모리 용량을 최대 1000배, 첫 토큰 생성 시간을 최대 20배, 동일한 GPU에서 동시 접속 사용자 수를 10배까지 늘릴 수 있다고 밝혔으며, 이는 실제 운영 환경에서의 벤치마크 결과를 바탕으로 한 것입니다. 하지만 이는 NeuralMesh 전반에 대한 WEKA의 수치이며, Smartbird의 발표에는 클러스터에 사용된 NeuralMesh 구성 요소가 명시되어 있지 않고, GPU 사용률, 전력 소비, 토큰당 비용에 대한 측정 결과도 포함되어 있지 않습니다.
스마트버드의 사장 겸 CEO인 나디아 칼스텐 박사는 “기업들은 개별 부품들을 조립하여 AI 인프라를 구축하는 것을 원하지 않습니다. 경험이 풍부한 전문가들이 운영하는, 완벽하게 작동하는 솔루션을 원합니다.”라고 말했습니다. “스마트버드의 모든 AI 클러스터는 은행, 병원, 제조업체, 정부 기관 등 고객의 특정 요구 사항에 맞춰 설계됩니다. WEKA NeuralMesh를 통합함으로써 스마트버드는 고객에게 대규모 환경에서도 성능이 입증된 데이터 및 메모리 계층을 제공합니다.”
"에이전트 AI는 실수를 용납하지 않습니다. 유휴 GPU와 정체된 파이프라인은 손익계산서에 직결됩니다. 기업들은 지금까지 성능과 자율성 중 하나를 선택해야 한다는 말을 들어왔지만, 이는 항상 인프라 문제였지 물리 법칙의 문제가 아니었습니다."라고 WEKA의 공동 창립자 겸 CEO인 리란 즈비벨은 말했습니다. "WEKA NeuralMesh는 이러한 선택의 기로를 끝냅니다. Smartbird는 고객이 직접 구축하거나 운영할 필요가 없는 전용 클러스터 형태로 이를 제공합니다. 우리는 협력을 통해 규제 산업에 최고 속도로 작동하는 프로덕션 AI를 제공하고, 고객만 사용하는 인프라에서 GPU, 전력 소비, 비용 대비 더 높은 출력을 제공합니다."
전용 인프라 및 관리형 운영
Smartbird는 시설, 컴퓨팅, 네트워킹, 데이터 인프라 및 데이터 오케스트레이션을 포괄하는 전체 스택을 운영하므로 고객은 단일 책임 파트너를 통해 서비스를 이용할 수 있으며 여러 벤더를 통합하거나 다양한 하드웨어 출시 주기를 추적할 필요가 없습니다. 각 클러스터는 고객과 일대일로 연결되며, 양사는 완전 전용 환경을 통해 정부, 의료 및 금융 서비스 워크로드에 필요한 격리, 암호화 및 감사 기능을 제공한다고 밝혔습니다. 양사는 배포 관할 지역, 암호화 구현 방식 또는 규정 준수 인증에 대해서는 언급하지 않았습니다.
두 회사는 해당 플랫폼이 출시 첫날부터 상용화 준비가 완료되었다고 설명하지만, 정식 출시일이나 특정 고객은 아직 공개되지 않았으며, Smartbird의 웹사이트는 6월 사명 변경 당시에도 여전히 개발 중이었습니다. 두 회사 중 실제로 출시된 제품은 NeuralMesh입니다. WEKA는 3월에 NeuralMesh를 정식 출시했고, 7월에는 멀티테넌트 NeuralMesh 6 으로 업그레이드했으며, 이와 동시에 Andromeda의 50개 이상의 GPU 공급업체 와 협력 계약을 체결했습니다.
아마존