存储评论网

VAST Agent Sandbox Foundation Stack 将 NVIDIA OpenShell 沙箱部署在零拷贝克隆上,并记录每次工具调用

AI  ◇  企业版

VAST Data 在 NVIDIA GTC 柏林大会上与 NVIDIA 联合发布了 Agent Sandbox Foundation Stack,这是一个参考架构,它基于 VAST AI 操作系统,在 NVIDIA OpenShell 沙箱中运行 NVIDIA NemoClaw 代理。OpenShell 负责每个代理的隔离执行和策略执行,而 VAST 则负责那些需要在沙箱之外运行的部分:代理的工作空间、内存和上下文,以及其执行的每个操作的记录。VAST 表示,该设计旨在生产环境中运行数千个代理和子代理,而无需将它们的状态与运行它们的计算节点绑定。

StorageReview 实验室集群上的 VAST 管理系统仪表板显示了容量、带宽、IOPS 和延迟,这是 VAST Agent Sandbox Foundation Stack 的遥测层。

零拷贝工作区将存储与代理执行分离

VAST 旨在解决代理集群带来的频繁变更问题:一小时内即可搭建和拆除数千个独立的独立工作空间,以及长时间运行的代理在休眠、恢复和将工作分配给生命周期较短的子代理的过程中频繁切换。该技术栈将每个代理的持久状态与任何单个计算节点解耦,因此代理可以暂停、恢复或迁移到其他兼容的基础设施,而不会丢失其进度或工作数据,同时计算资源可以保持短暂,而状态则保持持久。

当新的代理任务启动时,VAST DataStore Block CSI 驱动程序会从零拷贝克隆为 OpenShell 沙箱配置一个持久卷。VAST 表示,此过程只需几秒钟,并且避免了对底层数据进行完整复制。在 VAST 以 Apache 2.0 许可证发布于GitHub 的参考实现中,每个工作流都会获得一个头持久卷声明,每个子代理都会获得该卷的一个克隆;卷快照涵盖了挂起和恢复过程,并且休眠的沙箱会保留其卷。

VAST 数据库作为共享的向量存储和知识库,VAST 表示,它允许数百个推理代理并发查询同一数据集,而无需每个代理都拥有一个副本。在 GitHub 实现中,它还存储着每个部门代理的内存、跟踪跨度和转弯数以及最终报告,并且模型上下文协议服务器是沙箱环境访问数据库的唯一途径。NemoClaw 提供代理层,并支持 Hermes、LangChain、OpenClaw 或自定义框架。

VAST Data 的首席技术官兼联合创始人 Alon Horev 表示:“任何将代理投入生产的企业最终都需要回答它做了什么以及为什么这样做。一个代理可能只存在几分钟,就能生成成千上万个其他代理,然后消失,但它的工作必须持续存在,而且它的行为必须在很长一段时间内都保持可理解性。”

持久记录跟踪沙箱生命周期之外的活动。

OpenShell 应用基于身份的访问和行为策略,并记录代理与其沙箱外部任何对象之间的所有交互。VAST 数据库保存该记录的持久副本,记录每次工具调用、提示、令牌、成本和决策,从而确保即使代理及其沙箱消失,审计跟踪仍然有效。VAST 管理系统可实时遥测整个集群的数据流,VAST 表示该遥测功能可与NVIDIA Sentry(BlueField-4 DPU 层)互操作,后者用于监控 Vera CPU 上的代理与 Rubin GPU 上的模型之间的流量。

当 Sentry 标记或隔离行为异常的代理时,VAST 表示,AI 操作系统会隔离该代理的数据访问权限,并冻结沙箱状态以进行取证审查。NVIDIA 生成式 AI 软件副总裁 Kari Briski 表示:“随着 AI 代理承担越来越复杂的工作,企业需要一种基础设施,能够在安全执行的同时,保留代理在其整个生命周期中依赖的数据、上下文和状态。”

Foundation Stacks 是 VAST 将 NVIDIA AI Blueprints 打包成可在 AI 操作系统上重复部署的方案。前两个方案分别涵盖了基于 VAST DataEngine 和 NVIDIA Nemotron 的企业级研究助手,以及基于 NVIDIA Cosmos 推理模型和 NVIDIA 视频搜索与摘要的视频智能;本方案则涵盖了代理运行时本身。它还基于VAST DataEnclave(VAST 在 9 月份预览的机密计算运行时)以及NVIDIA 在同一展会上详细介绍的OpenShell 参考架构。

VAST 在 GTC 柏林大会上展示了其技术栈,该技术栈采用受控的多智能体工作流,其中智能体可以生成、从持久化数据服务拉取数据,并在底层计算发生变化时保持自身状态。GitHub 上的实现将该模式作为监督式研究作业运行:主智能体在 NVIDIA NIM 模型上规划工作,用户可以批准或编辑该规划,子智能体则在 OpenShell 沙箱中并行运行,并针对 VAST 数据库中的财报电话会议语料库进行分析。

VAST 尚未公布该堆栈的正式发布日期、所需软件版本或硬件配置,而数千个代理的数量只是一个设计目标,背后没有任何经过测量的配置速率或并发结果支持。

VAST AI操作系统

参与 StorageReview

电子报| YouTube | 播客iTunes / Spotify | Instagram | Twitter | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。