WEKA ha annunciato la disponibilità generale della sua NeuralMesh AI Data Platform, un'infrastruttura componibile pensata per le aziende e progettata per le implementazioni di ambienti di produzione di intelligenza artificiale. Basata sull'architettura di riferimento NVIDIA AI Data Platform, NeuralMesh AIDP offre uno stack integrato che fornisce dati pronti per l'IA agli ambienti di produzione, con particolare attenzione all'accelerazione dei tempi di implementazione per applicazioni di IA su larga scala.
La piattaforma si propone di affrontare una sfida persistente nell'adozione dell'IA in ambito aziendale. Sebbene molte organizzazioni completino progetti proof-of-concept, il passaggio a livelli di produzione spesso evidenzia limitazioni nell'infrastruttura dati, nella coerenza delle prestazioni e nella complessità operativa. NeuralMesh è progettata per affrontare questa transizione fornendo una piattaforma dati unificata ottimizzata sia per la sperimentazione iniziale che per i carichi di lavoro su scala produttiva.
Architettura e Design
NeuralMesh si basa su oltre un decennio di sviluppo di soluzioni di storage native per l'IA e incorpora oltre 170 brevetti. La piattaforma è progettata per scalare in modo efficiente in ambienti di classe exabyte, mantenendo prestazioni e resilienza. WEKA posiziona NeuralMesh come un sistema adattivo che migliora con l'aumentare delle implementazioni, in particolare negli ambienti di IA distribuiti, dove i modelli di accesso ai dati e la concorrenza aumentano nel tempo.
Il cuore della piattaforma è la Augmented Memory Grid di WEKA, che estende la memoria della GPU esternalizzando e rendendo persistente il contesto di inferenza. Questa architettura consente un maggiore utilizzo delle risorse GPU riducendo i calcoli ridondanti e mantenendo il contesto tra le sessioni. Nei carichi di lavoro di inferenza, l'azienda riporta fino a 6.5 volte più token per GPU rispetto agli approcci di archiviazione tradizionali, a dimostrazione di una maggiore efficienza nella gestione di finestre di contesto di grandi dimensioni e carichi di lavoro concorrenti.
Integrazione con l'infrastruttura AI di NVIDIA
NeuralMesh AIDP è allineato con la piattaforma dati AI di NVIDIA, consentendo una stretta integrazione con GPU, reti e tecnologie di elaborazione dati. La piattaforma è progettata per supportare pipeline di dati continue e un contesto di inferenza persistente, elementi fondamentali per i sistemi di intelligenza artificiale agentiva in produzione. NVIDIA sottolinea l'importanza di un livello di contesto persistente per mantenere stabilità e prestazioni all'aumentare dei carichi di lavoro di inferenza.
La soluzione è disponibile come piattaforma preintegrata che include configurazioni validate con GPU NVIDIA RTX 6000 PRO e RTX 4500 PRO Server Edition, insieme a integrazioni con l'ecosistema di fornitori come Red Hat, Spectro Cloud e Supermicro. Questo modello di distribuzione in stile appliance riduce la complessità dell'implementazione e accelera i tempi di messa in produzione.
Abilitazione della fabbrica tramite intelligenza artificiale
WEKA posiziona NeuralMesh AIDP come infrastruttura per le fabbriche di intelligenza artificiale, in cui l'acquisizione, l'elaborazione e l'inferenza dei dati operano come flussi di lavoro continui e interconnessi. Questi ambienti richiedono più della semplice capacità di archiviazione. Dipendono da un flusso di dati costante, dalla persistenza del contesto e da prestazioni prevedibili sotto carico.
NeuralMesh è progettato per soddisfare questi requisiti consentendo un ciclo di dati continuo tra le risorse di archiviazione e di calcolo. Ciò permette alle organizzazioni di mantenere un elevato utilizzo della GPU, supportando al contempo pipeline di intelligenza artificiale dinamiche e multifase che includono addestramento, ottimizzazione e inferenza.
Carichi di lavoro di intelligenza artificiale predefiniti
La piattaforma include pipeline preconfigurate per una vasta gamma di applicazioni di intelligenza artificiale, consentendo alle organizzazioni di implementare carichi di lavoro comuni senza un'integrazione complessa. Tra queste figurano la ricerca semantica, la ricerca e la sintesi video, i flussi di lavoro AlphaFold per la scoperta di farmaci e i casi d'uso di generazione aumentata tramite recupero agentivo.
Negli ambienti di produzione, NeuralMesh trova applicazione in diversi settori. Nel settore sanitario e delle scienze biologiche, supporta flussi di lavoro di analisi dati su larga scala, come l'identificazione di coorti di pazienti e l'elaborazione di set di dati di microscopia crioelettronica. Nel settore dei servizi finanziari, consente l'analisi dei segnali di mercato e l'accesso sicuro alle conoscenze istituzionali. Le implementazioni nel settore pubblico si concentrano sul rilevamento contestuale delle minacce e sulla sintesi automatizzata delle evidenze. Nella robotica e nell'intelligenza artificiale fisica, la piattaforma riduce i tempi tra la raccolta dei dati e il riaddestramento del modello, migliorando la reattività del sistema e i cicli di implementazione.
Disponibilità
La piattaforma dati NeuralMesh AI è disponibile da subito come soluzione appliance.
Amazon