KIOXIA heeft een belangrijke update aangekondigd voor zijn AiSAQ-software (All-in-Storage ANNS met Product Quantization), die de bruikbaarheid en flexibiliteit van AI-vectordatabasezoekopdrachten binnen Retrieval-Augmented Generation (RAG)-systemen verder verbetert. Deze nieuwste open-sourceversie introduceert nieuwe configuratieopties waarmee systeemarchitecten de balans tussen zoekprestaties en vectorcapaciteit nauwkeurig kunnen afstemmen. Dit zijn twee factoren die inherent met elkaar in tegenspraak zijn vanwege de vaste opslagcapaciteit van SSD's in moderne AI-infrastructuur.
Flexibele prestatie-afstemming voor RAG-systemen
De kern van deze AiSAQ-update is de mogelijkheid voor beheerders om de optimale afweging te definiëren tussen het aantal opgeslagen vectoren en de haalbare zoekprestaties (query's per seconde). In de praktijk betekent dit dat wanneer de SSD-capaciteit vastligt, het verhogen van de zoekprestaties vereist dat er meer opslagruimte per vector wordt toegewezen, waardoor het totale aantal te indexeren vectoren afneemt. Omgekeerd betekent het maximaliseren van het aantal vectoren dat elke vector minder SSD-capaciteit gebruikt, wat de zoeksnelheid kan beïnvloeden. De nieuwe besturingselementen in AiSAQ stellen architecten in staat om deze balans nauwkeurig af te stemmen op hun specifieke workloadvereisten, zonder dat er hardwarewijzigingen of -upgrades nodig zijn.
Deze flexibiliteit is met name waardevol voor RAG-systemen, waar de aard van de workload snel kan wisselen tussen zoeken met hoge doorvoer en lage latentie en grootschalige vectoropslag. De update verbreedt ook de toepasbaarheid van AiSAQ, waardoor het een aantrekkelijke oplossing is voor andere vectorintensieve toepassingen, zoals offline semantisch zoeken, waar vergelijkbare afwegingen tussen prestaties en capaciteit cruciaal zijn.
Het verwijderen van DRAM-knelpunten
KIOXIA AiSAQ, dat in januari werd geïntroduceerd, maakt gebruik van een nieuw approximatief dichtstbijzijnde-buurzoekalgoritme (ANNS) dat specifiek is geoptimaliseerd voor SSD's. In tegenstelling tot traditionele vectorzoekoplossingen die sterk afhankelijk zijn van DRAM voor de opslag van indexgegevens, maakt AiSAQ directe vectorzoekbewerkingen op SSD's mogelijk, waardoor de geheugenvereisten van de host drastisch worden verlaagd. Deze architectuurverschuiving maakt het mogelijk dat vectordatabases veel verder kunnen schalen dan de beperkingen van DRAM-capaciteit, waardoor grootschalige generatieve AI- en RAG-implementaties praktischer en kosteneffectiever worden.
Naarmate de vraag naar schaalbare AI-services blijft toenemen, ontwikkelen SSD's zich tot een praktisch alternatief voor DRAM voor het leveren van de hoge doorvoer en lage latentie die moderne AI-systemen nodig hebben. De AiSAQ-software van KIOXIA is ontworpen om in te spelen op deze trend en efficiënte, grootschalige vectorzoekopdrachten mogelijk te maken zonder de geheugenbeperkingen die systeemarchitecten traditioneel beperkten.
Open Source voor bredere acceptatie
Door AiSAQ open source te maken, promoot KIOXIA actief SSD-centrische architecturen en stimuleert het de bredere acceptatie van schaalbare AI-systemen. De toewijding van het bedrijf aan opensourcetechnologie vergroot niet alleen de toegankelijkheid voor ontwikkelaars en systeemarchitecten, maar stimuleert ook innovatie binnen het AI-ecosysteem.
Neville Ichhaporia, Senior Vice President en General Manager van KIOXIA's SSD-businessunit, benadrukte dat de nieuwste AiSAQ-release geavanceerde tools biedt voor het verbeteren van zowel de prestaties als de capaciteit in schaalbare RAG-systemen. Hij merkte op dat KIOXIA door open-sourceontwikkeling te ondersteunen, bijdraagt aan de toegankelijkheid en innovatie van AI-infrastructuur.
De nieuwste AiSAQ-update van KIOXIA is een stap voorwaarts voor organisaties die schaalbare, SSD-gebaseerde AI-infrastructuur bouwen. Met flexibele configuratieopties, een DRAM-vrije architectuur en open-source beschikbaarheid is AiSAQ uitstekend gepositioneerd om te voldoen aan de veranderende behoeften van RAG-systemen en andere vectorgestuurde AI-toepassingen.
Downloaden en beschikbaarheid
De bijgewerkte KIOXIA AiSAQ open-source software is nu beschikbaar en kan rechtstreeks van GitHub worden gedownload:
https://github.com/kioxia-jp/aisaq-diskann
Amazon