In occasione del Mistral AI NOW Summit, VAST Data ha illustrato la sua partnership con Mistral AI e Mistral Compute, descrivendo nel dettaglio un impegno congiunto per implementare in Europa ambienti di produzione basati sull'intelligenza artificiale e accelerati da NVIDIA. La collaborazione integra tre elementi fondamentali necessari per l'IA in produzione: l'accelerazione di calcolo NVIDIA, i modelli all'avanguardia di Mistral e il sistema operativo VAST AI come piattaforma dati unificata.
Al centro dell'implementazione si trova una vasta rete di sistemi NVIDIA GB300 NVL72, che rappresenta una delle concentrazioni a più alta densità di questa architettura in Europa. Mistral Compute gestirà l'infrastruttura nell'ambito della sua piattaforma cloud per l'intelligenza artificiale, mentre VAST fornirà il livello dati che si occupa dell'accesso, del trasferimento, della governance e delle prestazioni dei dati nell'intero ambiente.
Piattaforma dati per carichi di lavoro di intelligenza artificiale in produzione
VAST posiziona il suo sistema operativo per l'IA come livello dati fondamentale per le "fabbriche" di IA, progettato per supportare flussi di lavoro end-to-end senza la frammentazione tipica delle pipeline multi-sistema. All'interno dell'ambiente di calcolo Mistral, la piattaforma fornisce un'architettura dati condivisa che abbraccia addestramento, inferenza, recupero e implementazione aziendale. Ciò elimina la necessità di set di dati duplicati e riduce il sovraccarico operativo associato all'archiviazione e al trasferimento di dati in silos.
La piattaforma è progettata per gestire l'intera gamma di tipi di dati e stati di runtime richiesti dai moderni carichi di lavoro di intelligenza artificiale. Ciò include dati strutturati e non strutturati come file e tabelle, nonché vettori, cache chiave-valore, flussi di eventi e memoria persistente dell'agente. Queste funzionalità sono disponibili in ambienti distribuiti, garantendo prestazioni e accesso costanti indipendentemente dalla posizione.
Estensione tra ricerca, cloud e settore aziendale.
La partnership va oltre una singola implementazione e riflette un'integrazione più ampia lungo l'intero ciclo di vita dell'IA di Mistral. VAST è già implementato negli ambienti cloud di IA utilizzati da Mistral AI per l'addestramento e la ricerca sui modelli, supportando lo sviluppo e il funzionamento dei propri modelli, tra cui Voxtral, Ministral e Codestral. Grazie a VAST DataSpace, i team di Mistral possono operare su più ambienti cloud utilizzando un namespace unificato, evitando la necessità di riprogettare le pipeline di dati quando si spostano i carichi di lavoro.
Mistral Compute, ora partner cloud di NVIDIA , ha adottato il sistema operativo VAST AI come piattaforma dati principale per i suoi servizi cloud gestiti di intelligenza artificiale. Il sistema è attualmente in produzione e supporta sia i carichi di lavoro interni di Mistral che le implementazioni rivolte ai clienti. L'aggiunta dell'infrastruttura GB300 NVL72 estende questo ambiente per supportare operazioni di AI factory su scala più ampia.
Supporto all'intelligenza artificiale aziendale e al controllo dei dati.
Con l'introduzione dei modelli Mistral negli ambienti aziendali, l'esigenza si sposta verso l'integrazione dei modelli con i dati aziendali, mantenendo al contempo prestazioni e governance. VAST fornisce un livello operativo comune che collega i modelli ai set di dati aziendali, consentendo un accesso e un controllo dei dati coerenti tra i flussi di lavoro di training e inferenza.
L'architettura è progettata per supportare i requisiti relativi alla località, alla governance e all'isolamento dei dati, aspetti sempre più cruciali per le imprese e le organizzazioni del settore pubblico europee. Mantenendo una base dati unificata tra implementazioni di ricerca, cloud e aziendali, la piattaforma consente alle organizzazioni di conservare il controllo su come i dati vengono archiviati, consultati e utilizzati nei flussi di lavoro di intelligenza artificiale.
Posizionamento per la sovranità europea sull'IA
L'implementazione riflette una più ampia spinta verso un'infrastruttura regionale per l'IA e la sovranità dei dati. Grazie all'integrazione di risorse di calcolo, modelli e piattaforma dati in un ambiente gestito a livello europeo, la soluzione fornisce un framework per la creazione e l'esecuzione di sistemi di IA avanzati con controllo localizzato.
In questo modello, il livello dati diventa il punto di controllo primario per le operazioni di IA, regolando il flusso dei dati tra i sistemi di addestramento, inferenza e produzione. Il ruolo di VAST come piattaforma dati unificata lo rende un componente chiave per consentire a Mistral Compute di fornire sia un'infrastruttura di IA ad alte prestazioni sia le funzionalità di governance necessarie per i casi d'uso regolamentati e aziendali.
Amazon