StorageReview.com

La pile VAST Agent Sandbox Foundation Stack place les environnements sandbox NVIDIA OpenShell sur des clones sans copie et enregistre chaque appel d'outil.

AI  ◇  Entreprise

Lors de la NVIDIA GTC Berlin, VAST Data a annoncé l'Agent Sandbox Foundation Stack avec NVIDIA. Cette architecture de référence exécute les agents NVIDIA NemoClaw dans des environnements isolés NVIDIA OpenShell sur le système d'exploitation d'IA VAST. OpenShell gère l'exécution isolée et l'application des politiques pour chaque agent, tandis que VAST prend en charge les éléments qui doivent survivre à l'environnement isolé : l'espace de travail de l'agent, sa mémoire et son contexte, ainsi qu'un historique de toutes ses actions. Selon VAST, cette architecture est conçue pour exécuter des milliers d'agents et de sous-agents en production sans lier leur état au nœud de calcul qui les exécute.

Tableau de bord du système de gestion VAST sur un cluster de laboratoire StorageReview affichant la capacité, la bande passante, les IOPS et la latence ; il s'agit de la couche de télémétrie de la pile VAST Agent Sandbox Foundation.

Les espaces de travail sans copie séparent le stockage de l'exécution des agents.

VAST s'attaque au problème de la frénésie engendrée par les flottes d'agents : des milliers d'espaces de travail isolés créés et détruits en une heure, et des agents de longue durée qui se mettent en veille, reprennent leur activité et délèguent des tâches à des sous-agents éphémères. La pile technologique découple l'état persistant de chaque agent de tout nœud de calcul, permettant ainsi à un agent de se suspendre, de reprendre son activité ou de migrer vers une autre infrastructure compatible sans perdre sa progression ni ses données de travail. De plus, la puissance de calcul reste éphémère tandis que l'état est conservé.

Lorsqu'une nouvelle tâche d'agent démarre, le pilote CSI VAST DataStore Block provisionne un volume persistant pour l'environnement de test OpenShell à partir d'un clone sans copie. Selon VAST, cette opération ne prend que quelques secondes et évite une copie complète des données sous-jacentes. Dans l'implémentation de référence publiée par VAST sur GitHub sous licence Apache 2.0, chaque flux de travail obtient une revendication de volume persistant principal, et chaque sous-agent en obtient un clone ; des instantanés de volume gèrent la suspension et la reprise, et un environnement de test en veille conserve son volume.

La base de données VAST sert de référentiel vectoriel et de base de connaissances partagés. Selon VAST, elle permet à des centaines d'agents de raisonnement d'interroger simultanément le même ensemble de données sans qu'une copie soit nécessaire pour chaque agent. Dans l'implémentation GitHub, elle stocke également la mémoire de chaque agent au sein de son département, les traces et les changements de direction, ainsi que les rapports finaux. Un serveur MCP (Model Context Protocol) est le seul moyen d'accéder à la base de données depuis un environnement de test. NemoClaw fournit la couche agent et prend en charge Hermes, LangChain, OpenClaw ou une solution personnalisée.

« Toute entreprise qui met un agent en production devra tôt ou tard expliquer ce qu'il a fait et pourquoi », a déclaré Alon Horev, directeur technique et cofondateur de VAST Data. « Un agent peut exister pendant quelques minutes, générer des milliers d'autres agents, puis disparaître, mais son activité doit se poursuivre et ses actions doivent rester compréhensibles longtemps après. »

Les enregistrements persistants suivent l'activité au-delà de la durée de vie du bac à sable

OpenShell applique des politiques d'accès et de comportement basées sur l'identité et consigne chaque interaction entre un agent et tout élément extérieur à son environnement isolé. La base de données VAST conserve une copie permanente de cet enregistrement, consignant chaque appel d'outil, invite, jeton, coût et décision, afin que la piste d'audit soit préservée même après la suppression de l'agent et de son environnement isolé. Le système de gestion VAST ajoute une télémétrie en temps réel sur les flux de données de l'ensemble du parc. VAST précise que cette télémétrie est interopérable avec NVIDIA Sentry , la couche DPU BlueField-4 qui surveille le trafic entre les agents sur les processeurs Vera et les modèles sur les GPU Rubin.

Lorsque Sentry signale ou met en quarantaine un agent défaillant, VAST indique que le système d'exploitation d'IA isole l'accès aux données de cet agent et fige l'état du bac à sable pour une analyse forensique. « À mesure que les agents d'IA prennent en charge des tâches plus complexes, les entreprises ont besoin d'une infrastructure capable de garantir une exécution sécurisée tout en préservant les données, le contexte et l'état dont les agents ont besoin tout au long de leur cycle de vie », a déclaré Kari Briski, vice-présidente des logiciels d'IA générative chez NVIDIA.

Les Foundation Stacks sont les solutions VAST qui regroupent les architectures d'IA NVIDIA en déploiements reproductibles sur le système d'exploitation dédié à l'IA. Les deux premières concernaient un assistant de recherche d'entreprise basé sur VAST DataEngine avec NVIDIA Nemotron, et l'intelligence vidéo sur les modèles de raisonnement NVIDIA Cosmos avec NVIDIA Video Search and Summarization ; celle-ci porte sur l'environnement d'exécution de l'agent lui-même. Elle s'appuie également sur VAST DataEnclave , l'environnement d'exécution de calcul confidentiel présenté par VAST en septembre, et sur l' architecture de référence OpenShell détaillée par NVIDIA lors de ce même événement.

VAST présente son architecture à la GTC Berlin avec un flux de travail multi-agents contrôlé, où les agents sont créés, extraient des données de services persistants et conservent leur état malgré les modifications de la charge de calcul sous-jacente. L'implémentation disponible sur GitHub exécute ce modèle dans le cadre d'une tâche de recherche supervisée : un agent principal planifie le travail sur un modèle NVIDIA NIM, un opérateur humain peut approuver ou modifier ce plan, et les sous-agents s'exécutent en parallèle dans des environnements isolés OpenShell, sur un corpus de conférences téléphoniques sur les résultats financiers stocké dans la base de données VAST.

VAST n'a pas publié de date de disponibilité générale, de versions logicielles requises ni de configurations matérielles pour la pile, et le chiffre de milliers d'agents est un objectif de conception sans taux de provisionnement mesuré ni résultat de concurrence derrière celui-ci.

Système d'exploitation VAST AI

S'engager avec StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Flux RSS

Harold Fritt

Je suis dans l'industrie de la technologie depuis qu'IBM a créé Selectric. Ma formation, cependant, est l'écriture. J'ai donc décidé de sortir de l'avant-vente et de revenir à mes racines, en écrivant un peu mais en restant impliqué dans la technologie.