ScaleFlux推出了一款专为NVIDIA CMX和其他推理架构设计的AI优化型SSD平台，这些架构使用SSD作为GPU HBM和主机DRAM之外的共享KV缓存层。该平台结合了高耐久性SSD硬件、灵活数据放置（FDP）支持和工作负载遥测功能，旨在改善数据放置、减少写入放大，并在高数据变更率的推理环境中延长有效耐久性。
该平台通过卸载KV 缓存解决了三个存储挑战：表征真实世界的工作负载行为、按生命周期分离数据以及在不使用过多闪存容量来吸收写入的情况下维持大量的写入活动。
长上下文推断、共享前缀重用、代理应用程序流程以及保留的空闲会话增加了存储在 GPU 内存之外的可重用运行时状态的数量。与传统的企业级工作负载不同，键值缓存块可能被频繁写入，保留时间长短不一，在不活动后重新激活，并在会话、工作进程和租户之间异步失效。当生命周期不兼容的数据共享相同的闪存块时，这些模式会增加垃圾回收活动和写入放大。
ScaleFlux 的高耐久性架构旨在为 KV 缓存工作负载提供五年内每天 7 到 10 次以上的有效驱动器写入能力。该公司指出，有效耐久性取决于工作负载特性、FDP 利用率和设备配置。更高的有效耐久性可以减少运营商为吸收写入流量而必须部署的原始闪存容量，从而释放更多已安装容量用于存储活动 KV 缓存和其他 AI 运行时状态。ScaleFlux 将这种开销称为“耐久性税”，而降低耐久性税正是该平台的核心经济优势所在。
SSD平台每个驱动器支持超过200个FDP写入流。这使得推理软件能够在将数据写入闪存介质之前，根据生命周期、会话、租户、共享前缀分类、所有权或重用行为对数据进行分组。其目标是将具有相似失效模式的数据一起写入，从而减少垃圾回收期间的内部数据移动，并限制不同数据类别之间的相互干扰。
在初步的受控测试中，ScaleFlux 发现，与基准布局配置相比，采用生命周期感知型 FDP 布局后，写入放大效应降低了两倍以上。该公司指出，实际结果取决于工作负载特性、生命周期分类、软件集成和器件配置。
“AI推理基础设施需要的SSD不仅仅是额外的容量，”ScaleFlux首席执行官兼联合创始人郝忠表示，“基础设施团队需要了解键值工作负载如何影响硬盘，根据数据生命周期对数据进行分类，并在不部署过多容量以稀释写入的情况下保持高写入速率。ScaleFlux将工作负载智能、可扩展的FDP部署以及7-10+的有效DWPD整合到一个AI优化的SSD平台中。”
在软件和遥测层，ScaleFlux Context-Insight SSD 展示了键值缓存策略如何影响 SSD 的运行。该平台能够捕获延迟、队列深度、吞吐量、请求大小分布、数据年龄、写入到首次读取的时间间隔、读取重用、NAND 写入量、垃圾回收移动以及写入放大等数据。
Context-Insight 可以以纯 SSD 模式运行，用于初始工作负载分析，无需更改上层软件。通过更深入的集成，它可以将 SSD 遥测数据与应用程序元数据关联起来，包括会话 ID、工作进程或租户标识符、共享前缀 ID、键值块所有权、生命周期状态以及键值到块的映射关系。这使得运维人员能够将延迟、耐久性消耗和写入放大与特定的工作负载类别关联起来，而不是将 SSD 视为不透明的共享资源。
ScaleFlux 将自身平台定位为 NVIDIA 近期发布的 CMX 上下文内存存储平台的补充。CMX 提供共享的、基于 pod 的上下文层，用于高速 KV 缓存访问和重用。ScaleFlux 的目标客户是 AI 工厂运营商：CMX 负责上下文层，而 ScaleFlux 则解决底层 SSD 特有的耐久性、数据放置和写入放大等挑战。
“随着人工智能推理系统将键值缓存扩展到GPU内存和DRAM之外，了解固态硬盘层的行为和需求变得越来越重要，”NVIDIA存储技术副总裁Jason Hardy表示。“我们与ScaleFlux的合作有助于了解键值缓存卸载如何影响延迟、耐久性和写入放大等存储需求，从而为围绕NVIDIA CMX的更广泛的存储生态系统做出贡献。”
该公司正在开发一种基于追踪的模拟器，用于模拟键值缓存在GPU HBM、主机内存和SSD层级间的移动。该模拟器生成可重放的SSD追踪数据，以便在受控条件下评估缓存放置、驱逐和生命周期分组策略。
ScaleFlux计划在FMS上展示其平台，内容涵盖Context-Insight工作负载分析、键值元数据关联、生命周期感知的FDP放置、写入放大减少以及针对写入密集型键值缓存工作负载的高耐久性操作。该公司在展会上占据了相当大的份额：ScaleFlux在7月份表示，其专家将在展会上发表七场演讲，其中包括与NVIDIA联合发表的关于扩展AI数据管道的内存解决方案的主题演讲。
该平台的发布为近期密集的芯片新闻画上了句号。两天前，ScaleFlux 发布了两款将在同一展会上推出的 PCIe Gen6 产品：FC6116 NVMe SSD 控制器和 MC600 CXL 3.2 Type 3 内存控制器。ScaleFlux 标称 FC6116 的顺序读取速度高达 28 GB/s，顺序写入速度高达 25 GB/s，4K 随机读取 IOPS 高达 700 万，持续 4K 随机写入 IOPS 超过 100 万，主控功耗仅为 9W，支持 TLC、QLC 和 SLC NAND 闪存，容量最高可达 256TB，兼容 E1.S/L、E3.S/L 和 U.2/3 接口。 MC600 在 Gen6 x8 配置下典型功耗低于 9W，支持四通道 DDR5 或双通道 DDR4，DDR5 容量最高可达 2TB。ScaleFlux 将这种双代兼容性定位为将现有 DDR4 内存迁移到 CXL 部署中的方法。两款产品均将于 2026 年第四季度开始向主要客户提供样品。
Amazon