StorageReview.com

KIOXIA aggiorna il software AiSAQ, migliorando la ricerca vettoriale basata su SSD per carichi di lavoro RAG e AI

AI  ◇  Impresa

KIOXIA ha annunciato un aggiornamento significativo del suo software AiSAQ (All-in-Storage ANNS with Product Quantization), migliorando ulteriormente l'usabilità e la flessibilità delle ricerche nei database vettoriali AI all'interno dei sistemi RAG (Retrieval-Augmented Generation). Questa ultima versione open source introduce nuove opzioni di configurazione che consentono agli architetti di sistema di ottimizzare con precisione l'equilibrio tra prestazioni di ricerca e capacità vettoriale. Si tratta di due fattori intrinsecamente in contrasto a causa della capacità di archiviazione fissa degli SSD nelle moderne infrastrutture AI.

Ottimizzazione flessibile delle prestazioni per i sistemi RAG

Al centro di questo aggiornamento di AiSAQ c'è la possibilità per gli amministratori di definire il compromesso ottimale tra il numero di vettori archiviati e le prestazioni di ricerca ottenibili (query al secondo). In pratica, quando la capacità dell'SSD è fissa, l'aumento delle prestazioni di ricerca richiede l'allocazione di più spazio di archiviazione per vettore, il che riduce il numero totale di vettori indicizzabili. Al contrario, massimizzare il numero di vettori significa che ogni vettore utilizza meno capacità dell'SSD, il che può influire sulla velocità di ricerca. I nuovi controlli di AiSAQ consentono agli architetti di ottimizzare questo equilibrio in base ai requisiti specifici del carico di lavoro, il tutto senza richiedere modifiche o aggiornamenti hardware.

KIOXIA AiSAQ RAG

Questa flessibilità è particolarmente preziosa per i sistemi RAG, dove la natura del carico di lavoro può variare rapidamente tra la ricerca ad alta produttività e bassa latenza e l'archiviazione vettoriale su larga scala. L'aggiornamento amplia anche l'applicabilità di AiSAQ, rendendolo una soluzione interessante per altre applicazioni ad alta intensità di elaborazione vettoriale, come la ricerca semantica offline, dove compromessi simili tra prestazioni e capacità sono fondamentali.

Rimozione dei colli di bottiglia della DRAM

Introdotto inizialmente a gennaio, KIOXIA AiSAQ sfrutta un nuovo algoritmo di ricerca del vicino più prossimo (ANNS) specificamente ottimizzato per gli SSD. A differenza delle tradizionali soluzioni di ricerca vettoriale che si basano in gran parte sulla DRAM per memorizzare i dati di indice, AiSAQ consente operazioni di ricerca vettoriale diretta sugli SSD, riducendo drasticamente i requisiti di memoria dell'host. Questo cambiamento architetturale consente ai database vettoriali di scalare ben oltre i limiti imposti dalla capacità della DRAM, rendendo le implementazioni di intelligenza artificiale generativa e RAG su larga scala più pratiche ed economiche.

Con la continua crescita della domanda di servizi di intelligenza artificiale scalabili, gli SSD si stanno affermando come un'alternativa pratica alla DRAM per garantire l'elevata produttività e la bassa latenza richieste dai moderni sistemi di intelligenza artificiale. Il software AiSAQ di KIOXIA è progettato per sfruttare questa tendenza, consentendo una ricerca vettoriale efficiente e su larga scala, senza i vincoli di memoria che tradizionalmente limitano gli architetti di sistema.

Open Source per una più ampia adozione

Con l'open source di AiSAQ, KIOXIA promuove attivamente architetture basate su SSD e incoraggia una più ampia adozione di sistemi di intelligenza artificiale scalabili. L'impegno dell'azienda verso la tecnologia open source non solo aumenta l'accessibilità per sviluppatori e architetti di sistema, ma promuove anche l'innovazione nell'intero ecosistema dell'intelligenza artificiale.

Neville Ichhaporia, Vicepresidente Senior e Direttore Generale della business unit SSD di KIOXIA, ha sottolineato che l'ultima versione di AiSAQ offre strumenti avanzati per migliorare sia le prestazioni che la capacità dei sistemi RAG scalabili. Ha inoltre sottolineato che, supportando lo sviluppo open source, KIOXIA contribuisce a promuovere l'accessibilità e l'innovazione nell'infrastruttura di intelligenza artificiale.

L'ultimo aggiornamento di AiSAQ di KIOXIA rappresenta un passo avanti per le organizzazioni che realizzano infrastrutture di intelligenza artificiale scalabili basate su SSD. Grazie a opzioni di configurazione flessibili, architettura senza DRAM e disponibilità open source, AiSAQ è ben posizionato per supportare le esigenze in continua evoluzione dei sistemi RAG e di altre applicazioni di intelligenza artificiale basate su vettori.

Download e disponibilità

Il software open source KIOXIA AiSAQ aggiornato è ora disponibile e può essere scaricato direttamente da GitHub:

https://github.com/kioxia-jp/aisaq-diskann

Interagisci con StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Feed RSS

Harold Fritt

Lavoro nel settore tecnologico da quando IBM ha creato Selectric. Il mio background, però, è la scrittura. Così ho deciso di uscire dal business delle prevendite e tornare alle mie radici, scrivendo un po’ ma rimanendo comunque coinvolto nella tecnologia.