KIOXIA a annoncé une mise à jour importante de son logiciel AiSAQ (All-in-Storage ANNS with Product Quantization), améliorant encore la convivialité et la flexibilité des recherches dans les bases de données vectorielles d'IA au sein des systèmes de génération augmentée de données (RAG). Cette dernière version open source introduit de nouvelles options de configuration permettant aux architectes système d'ajuster précisément l'équilibre entre performances de recherche et capacité vectorielle. Ces deux facteurs sont intrinsèquement contradictoires en raison de la capacité de stockage fixe des SSD dans les infrastructures d'IA modernes.
Réglage flexible des performances pour les systèmes RAG
Au cœur de cette mise à jour d'AiSAQ se trouve la possibilité pour les administrateurs de définir le compromis optimal entre le nombre de vecteurs stockés et les performances de recherche atteignables (requêtes par seconde). Concrètement, lorsque la capacité SSD est fixe, l'amélioration des performances de recherche nécessite d'allouer davantage de stockage par vecteur, ce qui réduit le nombre total de vecteurs indexables. À l'inverse, maximiser le nombre de vecteurs signifie que chaque vecteur utilise moins de capacité SSD, ce qui peut impacter la vitesse de recherche. Les nouveaux contrôles d'AiSAQ permettent aux architectes d'ajuster cet équilibre en fonction de leurs besoins spécifiques en termes de charge de travail, sans nécessiter de modifications ni de mises à niveau matérielles.
Cette flexibilité est particulièrement précieuse pour les systèmes RAG, où la charge de travail peut rapidement passer d'une recherche à haut débit et faible latence à un stockage vectoriel à grande échelle. Cette mise à jour élargit également le champ d'application d'AiSAQ, ce qui en fait une solution performante pour d'autres applications gourmandes en vecteurs, comme la recherche sémantique hors ligne, où des compromis similaires entre performances et capacité sont essentiels.
Suppression des goulots d'étranglement de la DRAM
Initialement lancé en janvier, KIOXIA AiSAQ exploite un nouvel algorithme de recherche approximative du plus proche voisin (ANNS) spécialement optimisé pour les SSD. Contrairement aux solutions de recherche vectorielle traditionnelles qui s'appuient fortement sur la DRAM pour stocker les données d'index, AiSAQ permet des opérations de recherche vectorielle directe sur les SSD, réduisant ainsi considérablement les besoins en mémoire hôte. Cette évolution architecturale permet aux bases de données vectorielles d'évoluer bien au-delà des limites imposées par la capacité de la DRAM, rendant les déploiements d'IA générative et de RAG à grande échelle plus pratiques et plus rentables.
Alors que la demande de services d'IA évolutifs ne cesse de croître, les SSD apparaissent comme une alternative pratique à la DRAM pour offrir le débit élevé et la faible latence requis par les systèmes d'IA modernes. Le logiciel AiSAQ de KIOXIA est conçu pour exploiter cette tendance, permettant une recherche vectorielle efficace et à grande échelle sans les contraintes de mémoire qui ont traditionnellement limité les architectes système.
Open Source pour une adoption plus large
En rendant AiSAQ open source, KIOXIA promeut activement les architectures SSD et encourage l'adoption plus large de systèmes d'IA évolutifs. L'engagement de l'entreprise en faveur des technologies open source améliore non seulement l'accessibilité pour les développeurs et les architectes système, mais favorise également l'innovation dans l'écosystème de l'IA.
Neville Ichhaporia, vice-président senior et directeur général de l'unité commerciale SSD de KIOXIA, a souligné que la dernière version d'AiSAQ offre des outils avancés pour améliorer les performances et la capacité des systèmes RAG évolutifs. Il a souligné qu'en soutenant le développement open source, KIOXIA contribue à l'accessibilité et à l'innovation dans les infrastructures d'IA.
La dernière mise à jour d'AiSAQ de KIOXIA représente une avancée majeure pour les organisations qui développent une infrastructure d'IA évolutive basée sur SSD. Grâce à des options de configuration flexibles, une architecture sans DRAM et une disponibilité open source, AiSAQ est parfaitement positionné pour répondre aux besoins évolutifs des systèmes RAG et autres applications d'IA vectorielles.
Téléchargement et disponibilité
Le logiciel open source KIOXIA AiSAQ mis à jour est désormais disponible et peut être téléchargé directement depuis GitHub :
https://github.com/kioxia-jp/aisaq-diskann
Amazon