A KIOXIA anunciou uma atualização significativa em seu software AiSAQ (All-in-Storage ANNS com Quantização de Produto), aprimorando ainda mais a usabilidade e a flexibilidade das pesquisas em bancos de dados vetoriais de IA em sistemas de Recuperação-Geração Aumentada (RAG). Esta versão mais recente, de código aberto, apresenta novas opções de configuração que permitem aos arquitetos de sistemas ajustar com precisão o equilíbrio entre o desempenho da pesquisa e a capacidade vetorial. Esses são dois fatores inerentemente conflitantes devido à capacidade de armazenamento fixa dos SSDs na infraestrutura de IA moderna.
Ajuste de desempenho flexível para sistemas RAG
No centro desta atualização do AiSAQ está a capacidade dos administradores de definir o equilíbrio ideal entre o número de vetores armazenados e o desempenho de pesquisa alcançável (consultas por segundo). Em termos práticos, quando a capacidade do SSD é fixa, aumentar o desempenho da pesquisa exige a alocação de mais armazenamento por vetor, o que reduz o número total de vetores que podem ser indexados. Por outro lado, maximizar o número de vetores significa que cada vetor usa menos capacidade do SSD, o que pode afetar a velocidade da pesquisa. Os novos controles do AiSAQ permitem que os arquitetos ajustem esse equilíbrio de acordo com seus requisitos específicos de carga de trabalho, tudo sem a necessidade de alterações ou atualizações de hardware.
Essa flexibilidade é particularmente valiosa para sistemas RAG, onde a natureza da carga de trabalho pode alternar rapidamente entre buscas de alto rendimento e baixa latência e armazenamento vetorial em larga escala. A atualização também amplia a aplicabilidade do AiSAQ, tornando-o uma solução atraente para outras aplicações com uso intensivo de vetores, como buscas semânticas offline, onde compensações semelhantes entre desempenho e capacidade são cruciais.
Removendo gargalos de DRAM
Lançado inicialmente em janeiro, o KIOXIA AiSAQ utiliza um novo algoritmo de busca aproximada do vizinho mais próximo (ANNS), otimizado especificamente para SSDs. Diferentemente das soluções tradicionais de busca vetorial, que dependem fortemente de DRAM para armazenar dados de índice, o AiSAQ permite operações diretas de busca vetorial em SSDs, reduzindo drasticamente os requisitos de memória do host. Essa mudança arquitetônica permite que os bancos de dados vetoriais sejam escaláveis muito além das limitações impostas pela capacidade de DRAM, tornando as implantações de IA generativa e RAG em larga escala mais práticas e econômicas.
À medida que a demanda por serviços de IA escaláveis continua a crescer, os SSDs estão surgindo como uma alternativa prática à DRAM para fornecer o alto rendimento e a baixa latência exigidos pelos sistemas de IA modernos. O software AiSAQ da KIOXIA foi projetado para capitalizar essa tendência, permitindo buscas vetoriais eficientes em larga escala sem as restrições de memória que tradicionalmente limitam os arquitetos de sistemas.
Código aberto para adoção mais ampla
Ao tornar o AiSAQ de código aberto, a KIOXIA promove ativamente arquiteturas centradas em SSD e incentiva a adoção mais ampla de sistemas de IA escaláveis. O compromisso da empresa com a tecnologia de código aberto não apenas aumenta a acessibilidade para desenvolvedores e arquitetos de sistemas, como também fomenta a inovação em todo o ecossistema de IA.
Neville Ichhaporia, vice-presidente sênior e gerente geral da unidade de negócios SSD da KIOXIA, enfatizou que a versão mais recente do AiSAQ oferece ferramentas avançadas para aprimorar o desempenho e a capacidade em sistemas RAG escaláveis. Ele observou que, ao apoiar o desenvolvimento de código aberto, a KIOXIA está ajudando a impulsionar a acessibilidade e a inovação na infraestrutura de IA.
A mais recente atualização do AiSAQ da KIOXIA representa um avanço para organizações que estão construindo uma infraestrutura de IA escalável e baseada em SSD. Com opções de configuração flexíveis, arquitetura sem DRAM e disponibilidade de código aberto, o AiSAQ está bem posicionado para atender às necessidades em evolução dos sistemas RAG e outras aplicações de IA orientadas por vetores.
Download e Disponibilidade
O software de código aberto KIOXIA AiSAQ atualizado já está disponível e pode ser baixado diretamente do GitHub:
https://github.com/kioxia-jp/aisaq-diskann
Amazon