A Cloudera e a VAST Data firmaram uma parceria para construir uma arquitetura unificada de fábrica de IA para empresas que executam cargas de trabalho contínuas de treinamento, inferência e análise de IA. A oferta conjunta combina os serviços de dados conteinerizados da Cloudera com o Sistema Operacional de IA da VAST, visando um problema que se tornou cada vez mais comum em implantações de IA corporativas: clusters de GPUs caros ociosos enquanto aguardam dados.
Esse problema de GPUs ociosas, frequentemente chamado de "fome de GPU", tende a surgir quando as organizações sobrecarregam arquiteturas de dados com cargas de trabalho de IA que nunca foram projetadas para as demandas contínuas e de alta taxa de transferência dos pipelines de IA modernos. Preparação de dados, treinamento, inferência e análise competem pela mesma infraestrutura e, quando a camada de dados não consegue acompanhar o ritmo, os aceleradores param. Cloudera e VAST estão posicionando sua plataforma combinada como uma solução para esse gargalo, visando manter as GPUs alimentadas com dados de baixa latência durante todo o ciclo de vida da IA.
Como a arquitetura é construída
Do lado da Cloudera, a empresa oferece sua arquitetura lakehouse, que integra serviços de engenharia de dados, streaming, análise, aprendizado de máquina e IA em contêineres portáteis que podem ser executados em ambientes híbridos e multicloud. Isso proporciona aos clientes um modelo operacional consistente, independentemente de onde a carga de trabalho seja executada.
A VAST contribui com sua arquitetura Disaggregated Shared Everything (DASE) como infraestrutura de dados subjacente, escalando para níveis de exabytes e integrando serviços de banco de dados vetoriais com o NVIDIA cuVS para indexação e busca vetorial aceleradas por GPU. O VAST AI OS é construído sobre o design de referência da NVIDIA AI Data Platform e foi projetado para transformar dados corporativos latentes em um estado pronto para IA, que pode ser consumido diretamente por pipelines de treinamento e inferência. A Cloudera, então, adiciona seus serviços de engenharia de dados, governança e IA sobre essa base.
A arquitetura combinada foi projetada para abranger todo o processo, desde a ingestão de dados brutos até a implantação de modelos, com operações consistentes em data centers, nuvem privada e nuvem pública. A Cloudera e a VAST afirmam que a arquitetura elimina a escassez de GPUs por meio de pipelines de dados de alta largura de banda e baixa latência, o que, por sua vez, deve melhorar a utilização sustentada da GPU e a eficiência computacional. A plataforma também foi desenvolvida para lidar com conjuntos de dados estruturados, não estruturados e multimodais em escala, com controles de governança e conformidade corporativa voltados para implantações de IA privadas e soberanas.
Integração e inferência da NVIDIA
A parceria se baseia fortemente na plataforma da NVIDIA. Além do design de referência da Plataforma de Dados de IA que sustenta o sistema operacional de IA da VAST, as empresas estão integrando o software NVIDIA AI Enterprise à arquitetura conjunta. O Serviço de Inferência de IA da Cloudera utiliza microsserviços NVIDIA NIM para permitir que as organizações implementem e dimensionem modelos diretamente em seus próprios dados, incluindo os modelos abertos Nemotron mais recentes da NVIDIA.
Na área de engenharia de dados, os clientes podem acelerar as cargas de trabalho do Apache Spark usando o NVIDIA cuDF, que se integra de forma transparente ao Cloudera Data Engineering. Isso permite que os trabalhos do Spark acessem os serviços de dados de alto desempenho do VAST com processamento acelerado por GPU, o que deve ajudar nas etapas de pipelines de IA com grande volume de dados, e não apenas no treinamento e na inferência.
Para setores regulamentados em particular, a Cloudera e a VAST estão apresentando isso como uma solução "do silício à aplicação", abrangendo tudo, desde o hardware e software NVIDIA subjacentes até aplicações de IA em produção, implantáveis localmente ou na nuvem, dependendo dos requisitos de residência de dados e conformidade.
Disponibilidade
As empresas afirmam que a parceria combina 60 exabytes de dados gerenciados por clientes em suas bases instaladas, proporcionando a ambos os fornecedores um grande conjunto de clientes corporativos existentes para atingir à medida que a demanda por infraestrutura de IA privada cresce.
A solução conjunta Cloudera-VAST AI Factory já está disponível por meio das equipes de vendas corporativas e redes de parceiros de ambas as empresas. A Cloudera e a VAST planejam expandir o portfólio até 2026 com arquiteturas de referência adicionais, padrões de implantação validados e soluções específicas para cada setor.
Amazon