Firma KIOXIA ogłosiła znaczącą aktualizację swojego oprogramowania AiSAQ (All-in-Storage ANNS with Product Quantization), która jeszcze bardziej zwiększa użyteczność i elastyczność przeszukiwania baz danych wektorowych AI w systemach generacji rozszerzonej o wyszukiwanie (RAG). Najnowsza wersja open source wprowadza nowe opcje konfiguracji, które umożliwiają architektom systemów precyzyjne dostrojenie równowagi między wydajnością wyszukiwania a pojemnością wektorów. Te dwa czynniki są z natury sprzeczne ze względu na stałą pojemność dysków SSD w nowoczesnej infrastrukturze AI.
Elastyczne dostrajanie wydajności systemów RAG
Podstawą tej aktualizacji AiSAQ jest możliwość zdefiniowania przez administratorów optymalnego kompromisu między liczbą przechowywanych wektorów a możliwą do osiągnięcia wydajnością wyszukiwania (liczba zapytań na sekundę). W praktyce, gdy pojemność dysku SSD jest stała, zwiększenie wydajności wyszukiwania wymaga przydzielenia większej ilości pamięci na wektor, co zmniejsza całkowitą liczbę wektorów możliwych do indeksowania. Z kolei maksymalizacja liczby wektorów oznacza, że każdy wektor zużywa mniej miejsca na dysku SSD, co może mieć wpływ na szybkość wyszukiwania. Nowe funkcje kontroli w AiSAQ umożliwiają architektom precyzyjne dostosowanie tej równowagi do ich specyficznych wymagań dotyczących obciążenia, bez konieczności wymiany sprzętu ani modernizacji.
Ta elastyczność jest szczególnie cenna w systemach RAG, gdzie charakter obciążenia może szybko zmieniać się między wyszukiwaniem o wysokiej przepustowości i niskim opóźnieniu a przechowywaniem wektorów na dużą skalę. Aktualizacja rozszerza również zakres zastosowania AiSAQ, czyniąc go atrakcyjnym rozwiązaniem dla innych aplikacji intensywnie wykorzystujących wektory, takich jak wyszukiwanie semantyczne offline, gdzie podobne kompromisy między wydajnością a pojemnością mają kluczowe znaczenie.
Usuwanie wąskich gardeł pamięci DRAM
Wprowadzony po raz pierwszy w styczniu, KIOXIA AiSAQ wykorzystuje nowy algorytm przybliżonego wyszukiwania najbliższego sąsiada (ANNS), zoptymalizowany specjalnie pod kątem dysków SSD. W przeciwieństwie do tradycyjnych rozwiązań wyszukiwania wektorowego, które w dużym stopniu opierają się na pamięci DRAM do przechowywania danych indeksowych, AiSAQ umożliwia bezpośrednie operacje wyszukiwania wektorowego na dyskach SSD, radykalnie zmniejszając zapotrzebowanie na pamięć hosta. Ta zmiana architektury pozwala na skalowanie baz danych wektorowych znacznie wykraczające poza ograniczenia narzucane przez pojemność pamięci DRAM, co sprawia, że wdrożenia generatywnej sztucznej inteligencji i RAG na dużą skalę są bardziej praktyczne i opłacalne.
Wraz ze wzrostem zapotrzebowania na skalowalne usługi AI, dyski SSD stają się praktyczną alternatywą dla pamięci DRAM, zapewniającą wysoką przepustowość i niskie opóźnienia wymagane przez nowoczesne systemy AI. Oprogramowanie AiSAQ firmy KIOXIA zostało zaprojektowane tak, aby wykorzystać ten trend, umożliwiając wydajne, wielkoskalowe wyszukiwanie wektorowe bez ograniczeń pamięci, które tradycyjnie ograniczały architektów systemów.
Oprogramowanie Open Source dla szerszego przyjęcia
Udostępniając AiSAQ jako oprogramowanie open source, KIOXIA aktywnie promuje architektury oparte na dyskach SSD i wspiera szerszą adopcję skalowalnych systemów AI. Zaangażowanie firmy w technologię open source nie tylko zwiększa jej dostępność dla programistów i architektów systemów, ale także wspiera innowacje w całym ekosystemie AI.
Neville Ichhaporia, starszy wiceprezes i dyrektor generalny działu SSD w firmie KIOXIA, podkreślił, że najnowsza wersja AiSAQ oferuje zaawansowane narzędzia do poprawy wydajności i pojemności w skalowalnych systemach RAG. Zauważył, że wspierając rozwój oprogramowania open source, KIOXIA przyczynia się do zwiększenia dostępności i innowacji w infrastrukturze AI.
Najnowsza aktualizacja platformy AiSAQ firmy KIOXIA to krok naprzód dla organizacji budujących skalowalną infrastrukturę AI opartą na dyskach SSD. Dzięki elastycznym opcjom konfiguracji, architekturze bez pamięci DRAM i dostępności oprogramowania open source, platforma AiSAQ jest doskonale przygotowana do obsługi zmieniających się potrzeb systemów RAG i innych aplikacji AI opartych na wektorach.
Pobierz i dostępność
Zaktualizowane oprogramowanie open source KIOXIA AiSAQ jest już dostępne i można je pobrać bezpośrednio z serwisu GitHub:
https://github.com/kioxia-jp/aisaq-diskann
Amazon