KIOXIA ha anunciado una importante actualización de su software AiSAQ (All-in-Storage ANNS con Cuantización de Producto), que mejora la usabilidad y flexibilidad de las búsquedas en bases de datos vectoriales de IA en sistemas de Recuperación-Generación Aumentada (RAG). Esta última versión de código abierto introduce nuevas opciones de configuración que permiten a los arquitectos de sistemas ajustar con precisión el rendimiento de la búsqueda y la capacidad vectorial. Estos dos factores son inherentemente contradictorios debido a la capacidad de almacenamiento fija de los SSD en la infraestructura de IA moderna.
Ajuste flexible del rendimiento para sistemas RAG
La clave de esta actualización de AiSAQ reside en la capacidad de los administradores para definir el equilibrio óptimo entre la cantidad de vectores almacenados y el rendimiento de búsqueda alcanzable (consultas por segundo). En la práctica, cuando la capacidad del SSD es fija, aumentar el rendimiento de búsqueda requiere asignar más almacenamiento por vector, lo que reduce la cantidad total de vectores indexables. Por el contrario, maximizar la cantidad de vectores implica que cada vector utiliza menos capacidad del SSD, lo que puede afectar la velocidad de búsqueda. Los nuevos controles de AiSAQ permiten a los arquitectos ajustar este equilibrio a sus requisitos específicos de carga de trabajo, sin necesidad de cambios ni actualizaciones de hardware.
Esta flexibilidad es especialmente valiosa para los sistemas RAG, donde la naturaleza de la carga de trabajo puede cambiar rápidamente entre la búsqueda de alto rendimiento y baja latencia y el almacenamiento vectorial a gran escala. La actualización también amplía la aplicabilidad de AiSAQ, convirtiéndolo en una solución atractiva para otras aplicaciones con uso intensivo de vectores, como la búsqueda semántica sin conexión, donde es fundamental encontrar equilibrios similares entre rendimiento y capacidad.
Eliminación de cuellos de botella en la DRAM
Presentado inicialmente en enero, KIOXIA AiSAQ utiliza un nuevo algoritmo de búsqueda de vecino más cercano aproximado (ANNS) optimizado específicamente para SSD. A diferencia de las soluciones tradicionales de búsqueda vectorial, que dependen en gran medida de la DRAM para almacenar datos de índice, AiSAQ permite operaciones de búsqueda vectorial directa en SSD, lo que reduce drásticamente los requisitos de memoria del host. Este cambio de arquitectura permite que las bases de datos vectoriales escalen mucho más allá de las limitaciones impuestas por la capacidad de la DRAM, lo que hace que las implementaciones de IA generativa y RAG a gran escala sean más prácticas y rentables.
A medida que crece la demanda de servicios de IA escalables, las unidades SSD se perfilan como una alternativa práctica a la DRAM para ofrecer el alto rendimiento y la baja latencia que requieren los sistemas de IA modernos. El software AiSAQ de KIOXIA está diseñado para aprovechar esta tendencia, permitiendo una búsqueda vectorial eficiente a gran escala sin las limitaciones de memoria que tradicionalmente han limitado a los arquitectos de sistemas.
Código abierto para una adopción más amplia
Al liberar AiSAQ, KIOXIA promueve activamente las arquitecturas centradas en SSD y fomenta la adopción generalizada de sistemas de IA escalables. El compromiso de la empresa con la tecnología de código abierto no solo aumenta la accesibilidad para desarrolladores y arquitectos de sistemas, sino que también impulsa la innovación en todo el ecosistema de IA.
Neville Ichhaporia, vicepresidente sénior y director general de la unidad de negocio SSD de KIOXIA, destacó que la última versión de AiSAQ proporciona herramientas avanzadas para mejorar el rendimiento y la capacidad de los sistemas RAG escalables. Señaló que, al apoyar el desarrollo de código abierto, KIOXIA contribuye a impulsar la accesibilidad y la innovación en la infraestructura de IA.
La última actualización de AiSAQ de KIOXIA representa un avance para las organizaciones que construyen una infraestructura de IA escalable basada en SSD. Con opciones de configuración flexibles, arquitectura sin DRAM y disponibilidad de código abierto, AiSAQ está bien posicionado para satisfacer las necesidades cambiantes de los sistemas RAG y otras aplicaciones de IA basadas en vectores.
Descarga y Disponibilidad
El software de código abierto KIOXIA AiSAQ actualizado ya está disponible y se puede descargar directamente desde GitHub:
https://github.com/kioxia-jp/aisaq-diskann
Amazon