StorageReview.com

VAST Data alimente les usines d'IA de Mistral Compute sur NVIDIA GB300 NVL72

AI  ◇  Entreprise

Lors du Mistral AI NOW Summit, VAST Data a présenté son partenariat avec Mistral AI et Mistral Compute, détaillant un effort conjoint pour déployer des serveurs d'IA accélérés par NVIDIA en Europe. Cette collaboration aligne trois éléments essentiels à la production d'IA : la puissance de calcul accélérée par NVIDIA, les modèles de pointe de Mistral et le système d'exploitation VAST AI , qui constitue la plateforme de données unifiée.

Au cœur de ce déploiement se trouve une infrastructure à grande échelle de systèmes NVIDIA GB300 NVL72, représentant l'une des plus fortes densités de cette architecture en Europe. Mistral Compute exploitera cette infrastructure au sein de sa plateforme cloud d'IA, tandis que VAST fournira la couche de données qui gère l'accès aux données, leur circulation, leur gouvernance et leurs performances dans l'ensemble de l'environnement.

Plateforme de données pour les charges de travail d'IA en production

VAST positionne son système d'exploitation IA comme la couche de données fondamentale des usines à IA, conçue pour prendre en charge les flux de travail de bout en bout sans la fragmentation généralement observée dans les pipelines multi-systèmes. Au sein de l'environnement Mistral Compute, la plateforme fournit une architecture de données partagée couvrant l'entraînement, l'inférence, la récupération et le déploiement en entreprise. Ceci élimine le besoin de jeux de données dupliqués et réduit les coûts opérationnels liés au stockage cloisonné et aux déplacements de données.

Graphique du système d'exploitation IA Vast Data

La plateforme est conçue pour gérer l'ensemble des types de données et des états d'exécution requis par les charges de travail d'IA modernes. Cela inclut les données structurées et non structurées telles que les fichiers et les tables, ainsi que les vecteurs, le cache clé-valeur, les flux d'événements et la mémoire persistante des agents. Ces fonctionnalités sont déployées dans des environnements distribués, garantissant des performances et un accès constants, quel que soit l'emplacement.

S'étendant à la recherche, au cloud et à l'entreprise

Ce partenariat dépasse le cadre d'un simple déploiement et s'inscrit dans une démarche d'intégration plus large tout au long du cycle de vie de l'IA chez Mistral. VAST est déjà déployé dans les environnements cloud d'IA utilisés par Mistral AI pour l'entraînement et la recherche de modèles, et prend en charge le développement et l'exploitation de ses propres modèles, notamment Voxtral, Ministral et Codestral. Grâce à VAST DataSpace, les équipes de Mistral peuvent opérer sur plusieurs environnements cloud à l'aide d'un espace de noms unifié, évitant ainsi de devoir repenser les pipelines de données lors du transfert de charges de travail.

Mistral Compute, désormais partenaire NVIDIA Cloud , a adopté le système d'exploitation VAST AI comme plateforme de données principale pour ses services cloud d'IA managés. Ce système est actuellement en production et prend en charge les charges de travail internes de Mistral ainsi que les déploiements destinés aux clients. L'ajout d'une infrastructure GB300 NVL72 étend cet environnement afin de prendre en charge des opérations d'IA à plus grande échelle.

Soutien à l'IA d'entreprise et au contrôle des données

À mesure que Mistral déploie ses modèles dans les environnements d'entreprise, les besoins évoluent vers une intégration des modèles aux données d'entreprise, tout en préservant les performances et la gouvernance. VAST fournit une couche d'exploitation commune qui connecte les modèles aux ensembles de données d'entreprise, permettant un accès et un contrôle cohérents des données tout au long des flux de travail d'entraînement et d'inférence.

L'architecture est conçue pour répondre aux exigences de localisation, de gouvernance et d'isolation des données, des aspects de plus en plus critiques pour les entreprises et les organismes du secteur public européens. En maintenant une base de données unifiée pour la recherche, le cloud et les déploiements en entreprise, la plateforme permet aux organisations de garder la maîtrise du stockage, de l'accès et de l'utilisation des données dans les flux de travail d'IA.

Positionnement pour la souveraineté européenne en matière d'IA

Ce déploiement s'inscrit dans une démarche plus globale en faveur d'une infrastructure d'IA régionale et de la souveraineté des données. Grâce à l'intégration de la puissance de calcul, des modèles et de la plateforme de données au sein d'un environnement géré par l'Europe, la solution offre un cadre pour la conception et l'exécution de systèmes d'IA avancés avec un contrôle localisé.

Dans ce modèle, la couche de données devient le principal point de contrôle des opérations d'IA, régissant les flux de données entre les systèmes d'entraînement, d'inférence et de production. Le rôle de VAST en tant que plateforme de données unifiée en fait un élément clé permettant à Mistral Compute de fournir à la fois une infrastructure d'IA haute performance et les capacités de gouvernance requises pour les cas d'utilisation réglementés et d'entreprise.

S'engager avec StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Flux RSS

Harold Fritt

Je suis dans l'industrie de la technologie depuis qu'IBM a créé Selectric. Ma formation, cependant, est l'écriture. J'ai donc décidé de sortir de l'avant-vente et de revenir à mes racines, en écrivant un peu mais en restant impliqué dans la technologie.