Rackspace Technology e AMD hanno firmato un memorandum d'intesa che definisce il quadro di una partnership strategica pluriennale incentrata sull'infrastruttura di intelligenza artificiale aziendale per organizzazioni regolamentate e carichi di lavoro sovrani.
L'accordo si concentra su una proposta di Enterprise AI Cloud progettata per implementazioni di IA mission-critical in cui sicurezza, governance, conformità e responsabilità operativa sono requisiti fondamentali. La piattaforma combinerebbe GPU AMD Instinct e CPU AMD EPYC con il modello operativo gestito di Rackspace Technology per creare uno stack di infrastruttura AI dedicato per le organizzazioni che non possono fare affidamento su modelli generici di noleggio GPU o infrastrutture pubbliche non gestite per i carichi di lavoro di IA in produzione.
Rackspace Technology e AMD hanno sottolineato che molte aziende stanno passando dalla fase sperimentale a quella di produzione dell'IA, ma si trovano ad affrontare significative esigenze operative, tra cui l'integrazione dell'infrastruttura, la sicurezza, la governance dei dati, la gestione delle prestazioni e la responsabilità. Il modello attuale spesso richiede alle aziende di noleggiare la capacità GPU a ore, assumendosi al contempo gran parte della responsabilità operativa e dell'infrastruttura di supporto.
Entrambe le aziende propongono un approccio gestito in cui le risorse di calcolo dedicate di AMD sono integrate in un modello operativo aziendale governato. Nell'ambito di questo framework, Rackspace gestirà l'intera infrastruttura, dai chip e dal calcolo accelerato all'inferenza, agli agenti e al supporto alla produzione.
Con l'integrazione dell'IA negli ambienti di produzione aziendali, Rackspace Technology e AMD ritengono che fiducia e responsabilità diventino elementi centrali. La governance negli ambienti regolamentati deve essere integrata nell'infrastruttura fin dall'inizio, anziché essere aggiunta in un secondo momento. Il ruolo di AMD si concentrerebbe sulla fornitura delle basi di calcolo attraverso i suoi acceleratori GPU Instinct e i processori EPYC, supportando i carichi di lavoro di IA che richiedono prestazioni, efficienza e scalabilità in ambienti privati e regolamentati.
Quattro funzionalità previste per lo stack
La collaborazione ha lo scopo di aiutare Rackspace a completare una suite di intelligenza artificiale aziendale personalizzata, basata su quattro funzionalità integrate: Enterprise AI Cloud, Enterprise Inference Engine, Inference as a Service e Bare Metal AMD Instinct.
La proposta di Enterprise AI Cloud consisterebbe in un ambiente AI privato e ibrido completamente gestito, basato su GPU AMD Instinct, CPU AMD EPYC e sul modello operativo governato di Rackspace. Rackspace si occuperebbe dell'assemblaggio, dell'integrazione e della gestione dell'intera infrastruttura per le aziende che necessitano di sovranità, conformità e responsabilità operativa.
L'Enterprise Inference Engine fornirebbe alle organizzazioni un ambiente di runtime sensibile al contesto, in grado di veicolare conoscenze di dominio, cronologia delle sessioni e contesto specifico dell'azienda tra le query. L'obiettivo è aiutare gli agenti di intelligenza artificiale e i modelli linguistici di grandi dimensioni a fornire risultati più coerenti negli ambienti di produzione. Rackspace gestirà gli impegni relativi ai livelli di servizio, inclusi disponibilità, scalabilità e prestazioni, consentendo al contempo alle organizzazioni di utilizzare i propri dati proprietari con tracciabilità e responsabilità dei costi.
Il servizio "Inference as a Service" offrirebbe capacità dedicata e gestita per le GPU AMD Instinct, insieme a strumenti di sviluppo pronti all'uso per l'inferenza e la messa a punto. I clienti porterebbero i propri modelli e team di ingegneri, mentre Rackspace si occuperebbe della capacità bare-metal delle GPU AMD Instinct, del supporto a livello hardware, della gestione operativa e degli obiettivi di servizio relativi alle prestazioni.
Bare Metal AMD Instinct fornirebbe capacità di calcolo dedicate e ad alte prestazioni per i clienti che necessitano di isolamento fisico, prestazioni prevedibili e accesso diretto all'hardware per carichi di lavoro di training e inferenza impegnativi.
Operatore unico per l'infrastruttura di intelligenza artificiale governata
Nel loro insieme, le funzionalità pianificate offrono alle aziende un unico operatore responsabile per l'intero ciclo di vita dell'infrastruttura di intelligenza artificiale. Rackspace gestisce l'intera infrastruttura, dal calcolo bare-metal e dagli strumenti di sviluppo al runtime di inferenza e all'infrastruttura cloud governata.
L'obiettivo è quello di associare a ciascun carico di lavoro il livello appropriato di sovranità, conformità, prestazioni e supervisione. Il protocollo d'intesa fornisce a Rackspace e AMD un quadro di riferimento per collaborare alla gestione di infrastrutture AI aziendali per imprese regolamentate, carichi di lavoro sovrani e ambienti AI di produzione che richiedono responsabilità a ogni livello.
Amazon