Smartbird e WEKA hanno annunciato una partnership che integra WEKA NeuralMesh nei cluster AI dedicati di Smartbird, offerti come servizio gestito per carichi di lavoro AI aziendali. Smartbird progetta, realizza e gestisce ciascun cluster per i carichi di lavoro di un singolo cliente, on-premise o in una struttura di colocation dedicata, e le aziende descrivono il risultato come "sovrano per impostazione predefinita", con i dati del cliente che rimangono in un ambiente controllato dal cliente e sono pronti per la produzione fin dal primo giorno. L'accordo è il primo di una rete pianificata di partnership infrastrutturali di Smartbird.
Smartbird è la società precedentemente nota come Allbirds. Allbirds ha venduto il suo marchio di calzature e le relative attività, ha cambiato nome in Smartbird, Inc. a giugno, ha mantenuto la quotazione al NASDAQ con il ticker BIRD e ha nominato la Dott.ssa Nadia Carlsten, in precedenza CEO del fornitore di servizi di calcolo GPU DCAI, come presidente e CEO. I suoi primi cluster erano ancora in fase di progettazione al momento del cambio di nome, con siti di data center in fase di sviluppo negli Stati Uniti e in Europa, il che rende l'accordo con WEKA la prima anticipazione di ciò che la sua architettura conterrà.
Affermazioni relative alla velocità di trasmissione dei dati e all'inferenza
NeuralMesh fornisce il livello dati e memoria. Le aziende affermano che le GPU vengono alimentate continuamente con dati a una velocità di trasmissione che raggiunge centinaia di gigabyte al secondo, ma non hanno specificato le configurazioni hardware, le versioni software o le condizioni di test alla base di tale cifra. Per l'inferenza e le applicazioni agentiche in esecuzione continua, le aziende affermano che la piattaforma combinata espande la capacità di memoria della GPU, riduce il tempo di generazione del primo token e diminuisce i ricalcoli, il che, a loro dire, si traduce in costi dei token inferiori.
La risposta di WEKA a questi tre problemi in NeuralMesh è Augmented Memory Grid , il livello di cache KV che estende la memoria GPU nello storage di NeuralMesh. WEKA afferma che offre fino a 1000 volte più capacità di memoria GPU, fino a 20 volte più tempo per il primo token e 10 volte più utenti simultanei sulle stesse GPU, risultati attribuiti a benchmark di produzione. Questi sono i dati di WEKA per NeuralMesh in generale; l'annuncio di Smartbird non specifica quali componenti di NeuralMesh vengano utilizzati dai cluster e non riporta risultati misurati relativi all'utilizzo della GPU, al consumo energetico o al costo per token.
“Le aziende non vogliono assemblare infrastrutture di intelligenza artificiale partendo da singoli componenti. Desiderano una soluzione completa e funzionante, gestita da personale con comprovata esperienza”, ha affermato la Dott.ssa Nadia Carlsten, Presidente e CEO di Smartbird. “Ogni cluster di intelligenza artificiale di Smartbird è progettato in base alle esigenze specifiche del cliente, che si tratti di una banca, un ospedale, un'azienda manifatturiera o un ente governativo. Integrando WEKA NeuralMesh, Smartbird offre ai clienti un livello di dati e memoria dalle prestazioni comprovate su larga scala.”
“L’IA agente è spietata: GPU inattive e pipeline bloccate si ripercuotono direttamente sul conto economico. Alle aziende è stato detto che la soluzione consisteva in un compromesso tra prestazioni e sovranità, ma questo è sempre stato un problema infrastrutturale, non una legge della fisica”, ha affermato Liran Zvibel, co-fondatore e CEO di WEKA. “WEKA NeuralMesh pone fine a questo compromesso. Smartbird lo offre sotto forma di cluster dedicati che i clienti non devono costruire o gestire. Insieme, forniamo alle industrie regolamentate un’IA di produzione che funziona a piena velocità, su un’infrastruttura accessibile solo a loro, con una maggiore produttività per GPU, per watt e per dollaro.”
Infrastruttura dedicata e gestione operativa.
Smartbird gestisce l'intera infrastruttura, che comprende strutture, elaborazione, rete, infrastruttura dati e orchestrazione dei dati, in modo che il cliente abbia un unico partner responsabile e non debba integrare fornitori o monitorare molteplici cicli di rilascio hardware. Ogni cluster è mappato individualmente al rispettivo cliente e le aziende affermano che l'infrastruttura completamente dedicata fornisce l'isolamento, la crittografia e la tracciabilità richiesti dai carichi di lavoro di enti governativi, sanitari e finanziari. Le aziende non hanno specificato le giurisdizioni di implementazione, l'implementazione della crittografia o le certificazioni di conformità.
Sebbene le aziende descrivano la piattaforma come pronta per la produzione fin dal primo giorno, non è stata ancora annunciata una data di disponibilità generale, non è stato indicato alcun cliente specifico e i siti di Smartbird erano ancora in fase di sviluppo al momento del cambio di nome a giugno. NeuralMesh è il prodotto effettivamente commercializzato: WEKA lo ha reso disponibile al pubblico a marzo e lo ha migrato alla versione multi-tenant NeuralMesh 6 a luglio, con un accordo parallelo che lo rende disponibile tramite gli oltre 50 provider di GPU di Andromeda.
Amazon