铠侠宣布对其 AiSAQ(带乘积量化的全存储人工神经网络 (ANNS))软件进行重大更新,进一步提升了检索增强生成 (RAG) 系统中 AI 向量数据库搜索的可用性和灵活性。此最新开源版本引入了新的配置选项,使系统架构师能够精确调整搜索性能和向量容量之间的平衡。由于现代 AI 基础设施中 SSD 的存储容量固定,这两个因素本质上是相互矛盾的。
RAG 系统的灵活性能调整
此次 AiSAQ 更新的核心在于,管理员能够定义存储向量数量与可实现的搜索性能(每秒查询次数)之间的最佳平衡。实际上,当 SSD 容量固定时,提升搜索性能需要为每个向量分配更多存储空间,这会减少可索引的向量总数。相反,最大化向量数量意味着每个向量占用的 SSD 容量更少,这会影响搜索速度。AiSAQ 中的新控件使架构师能够根据特定的工作负载需求微调此平衡,而无需更改或升级硬件。
这种灵活性对于 RAG 系统尤其重要,因为其工作负载的性质可以在高吞吐量、低延迟搜索和大规模向量存储之间快速切换。此次更新还扩展了 AiSAQ 的适用性,使其成为离线语义搜索等其他向量密集型应用的理想解决方案,因为在这些应用中,性能和容量之间的权衡也至关重要。
消除 DRAM 瓶颈
铠侠 AiSAQ 于今年 1 月首次推出,它采用了一种专门针对 SSD 优化的全新近似最近邻搜索 (ANNS) 算法。与严重依赖 DRAM 存储索引数据的传统矢量搜索解决方案不同,AiSAQ 支持在 SSD 上直接进行矢量搜索操作,从而显著降低了主机内存需求。这种架构上的转变使矢量数据库能够远远超越 DRAM 容量的限制,从而使大规模生成式 AI 和 RAG 部署更加实用且经济高效。
随着可扩展 AI 服务需求的持续增长,SSD 正逐渐成为 DRAM 的实用替代方案,以满足现代 AI 系统所需的高吞吐量和低延迟。铠侠的 AiSAQ 软件旨在利用这一趋势,实现高效的大规模矢量搜索,摆脱传统系统架构师面临的内存限制。
开源,更广泛采用
通过开源 AiSAQ,铠侠积极推广以 SSD 为中心的架构,并推动可扩展 AI 系统的更广泛应用。公司对开源技术的承诺不仅提升了开发人员和系统架构师的可及性,也促进了整个 AI 生态系统的创新。
铠侠 SSD 业务部高级副总裁兼总经理 Neville Ichhaporia 强调,最新版 AiSAQ 提供了先进的工具,可提升可扩展 RAG 系统的性能和容量。他指出,铠侠通过支持开源开发,正在助力推动 AI 基础设施的可及性和创新。
铠侠最新的 AiSAQ 更新,标志着构建可扩展、基于 SSD 的 AI 基础架构的组织迈出了重要的一步。凭借灵活的配置选项、无 DRAM 架构和开源可用性,AiSAQ 能够充分支持 RAG 系统和其他矢量驱动型 AI 应用不断变化的需求。
下载和可用性
更新后的 KIOXIA AiSAQ 开源软件现已发布,可直接从 GitHub 下载:
https://github.com/kioxia-jp/aisaq-diskann




Amazon