KIOXIA har tillkännagivit en betydande uppdatering av sin programvara AiSAQ (All-in-Storage ANNS with Product Quantization), vilket ytterligare förbättrar användbarheten och flexibiliteten hos AI-vektordatabasesökningar inom Retrieval-Augmented Generation (RAG)-system. Den här senaste versionen med öppen källkod introducerar nya konfigurationsalternativ som gör det möjligt för systemarkitekter att exakt finjustera balansen mellan sökprestanda och vektorkapacitet. Dessa är två faktorer som i sig står i konflikt med varandra på grund av den fasta lagringskapaciteten hos SSD-diskar i modern AI-infrastruktur.
Flexibel prestandajustering för RAG-system
Kärnan i denna AiSAQ-uppdatering är möjligheten för administratörer att definiera den optimala avvägningen mellan antalet lagrade vektorer och den uppnåeliga sökprestanda (frågor per sekund). I praktiken, när SSD-kapaciteten är fast, kräver ökad sökprestanda att man allokerar mer lagringsutrymme per vektor, vilket minskar det totala antalet vektorer som kan indexeras. Omvänt innebär maximering av antalet vektorer att varje vektor använder mindre SSD-kapacitet, vilket kan påverka sökhastigheten. De nya kontrollerna i AiSAQ ger arkitekter möjlighet att finjustera denna balans för sina specifika arbetsbelastningskrav, allt utan att kräva hårdvaruändringar eller uppgraderingar.
Denna flexibilitet är särskilt värdefull för RAG-system, där arbetsbelastningens natur snabbt kan växla mellan hög genomströmning och sökning med låg latens, och storskalig vektorlagring. Uppdateringen breddar också AiSAQ:s tillämpbarhet, vilket gör den till en övertygande lösning för andra vektorintensiva applikationer, såsom semantisk sökning offline, där liknande avvägningar mellan prestanda och kapacitet är avgörande.
Ta bort DRAM-flaskhalsar
KIOXIA AiSAQ, som ursprungligen introducerades i januari, utnyttjar en ny approximate nearest neighbor search (ANNS)-algoritm som är specifikt optimerad för SSD-diskar. Till skillnad från traditionella vektorsökningslösningar som i hög grad använder DRAM för att lagra indexdata, möjliggör AiSAQ direkta vektorsökningsoperationer på SSD-diskar, vilket dramatiskt minskar kraven på värdminne. Denna arkitekturförändring gör att vektordatabaser kan skalas långt bortom de begränsningar som DRAM-kapaciteten medför, vilket gör storskaliga generativa AI- och RAG-distributioner mer praktiska och kostnadseffektiva.
I takt med att efterfrågan på skalbara AI-tjänster fortsätter att växa, framstår SSD-diskar som ett praktiskt alternativ till DRAM för att leverera den höga dataflödeshastighet och låga latens som krävs av moderna AI-system. KIOXIAs AiSAQ-programvara är utformad för att dra nytta av denna trend och möjliggör effektiv, storskalig vektorsökning utan de minnesbegränsningar som traditionellt har begränsat systemarkitekter.
Öppen källkod för bredare användning
Genom att använda öppen källkod för AiSAQ främjar KIOXIA aktivt SSD-centrerade arkitekturer och uppmuntrar till ett bredare införande av skalbara AI-system. Företagets engagemang för öppen källkodsteknik ökar inte bara tillgängligheten för utvecklare och systemarkitekter utan främjar också innovation i hela AI-ekosystemet.
Neville Ichhaporia, Senior Vice President och General Manager för KIOXIAs SSD-affärsenhet, betonade att den senaste AiSAQ-versionen tillhandahåller avancerade verktyg för att förbättra både prestanda och kapacitet i skalbara RAG-system. Han noterade att genom att stödja utveckling med öppen källkod bidrar KIOXIA till att driva tillgänglighet och innovation inom AI-infrastruktur.
KIOXIAs senaste AiSAQ-uppdatering representerar ett steg framåt för organisationer som bygger skalbar, SSD-baserad AI-infrastruktur. Med flexibla konfigurationsalternativ, DRAM-fri arkitektur och tillgänglighet med öppen källkod är AiSAQ väl positionerat för att stödja de ständigt föränderliga behoven hos RAG-system och andra vektordrivna AI-applikationer.
Nedladdning och tillgänglighet
Den uppdaterade KIOXIA AiSAQ-programvaran med öppen källkod är nu tillgänglig och kan laddas ner direkt från GitHub:
https://github.com/kioxia-jp/aisaq-diskann
Amazon