Rackspace Technology et AMD ont signé un protocole d'accord établissant un cadre pour un partenariat stratégique pluriannuel axé sur l'infrastructure d'IA d'entreprise pour les organisations réglementées et les charges de travail souveraines.
L'accord porte sur une plateforme cloud d'IA d'entreprise conçue pour les déploiements d'IA critiques, où la sécurité, la gouvernance, la conformité et la responsabilité opérationnelle sont des exigences fondamentales. Cette plateforme combinerait des GPU AMD Instinct et des CPU AMD EPYC avec le modèle d'exploitation géré de Rackspace Technology afin de créer une infrastructure d'IA dédiée aux organisations qui ne peuvent pas recourir à des modèles de location de GPU génériques ou à une infrastructure publique non gérée pour leurs charges de travail d'IA en production.
Rackspace Technology et AMD ont souligné que de nombreuses entreprises déploient l'IA en production, mais doivent faire face à d'importantes exigences opérationnelles, notamment en matière d'intégration d'infrastructures, de sécurité, de gouvernance des données, de gestion des performances et de responsabilisation. Le modèle actuel les oblige souvent à louer de la puissance de calcul GPU à l'heure, tout en prenant en charge une grande partie de l'infrastructure et des responsabilités opérationnelles.
Les deux entreprises proposent une approche de gestion intégrée, dans laquelle la puissance de calcul AMD dédiée est intégrée à un modèle d'exploitation d'entreprise gouverné. Dans ce cadre, Rackspace prendrait en charge l'ensemble de la chaîne, depuis le silicium et le calcul accéléré jusqu'à l'inférence, les agents et le support en production.
À mesure que les entreprises déploient l'IA en production, Rackspace Technology et AMD estiment que la confiance et la responsabilité deviennent des enjeux cruciaux. Dans les environnements réglementés, la gouvernance doit être intégrée à l'infrastructure dès sa conception, et non ajoutée ultérieurement. Le rôle d'AMD consisterait à fournir l'infrastructure de calcul nécessaire grâce à ses accélérateurs GPU Instinct et ses processeurs EPYC, prenant en charge les charges de travail d'IA exigeant performance, efficacité et évolutivité dans les environnements privés et gouvernés.
Quatre fonctionnalités prévues pour la pile
Cette collaboration vise à aider Rackspace à compléter une pile d'IA d'entreprise optimisée, construite autour de quatre capacités intégrées : Enterprise AI Cloud, Enterprise Inference Engine, Inference as a Service et Bare Metal AMD Instinct.
La solution Enterprise AI Cloud proposée serait un environnement d'IA privé et hybride entièrement géré, reposant sur des GPU AMD Instinct, des CPU AMD EPYC et le modèle d'exploitation contrôlé de Rackspace. Rackspace se chargerait de l'assemblage, de l'intégration et de l'exploitation de cette infrastructure pour les entreprises exigeant souveraineté, conformité et responsabilité opérationnelle.
Le moteur d'inférence d'entreprise fournirait aux organisations un environnement d'exécution contextuel capable de transmettre les connaissances du domaine, l'historique des sessions et le contexte spécifique à l'entreprise lors des requêtes. L'objectif est d'aider les agents d'IA et les grands modèles de langage à fournir des résultats plus cohérents en production. Rackspace gérerait les engagements de niveau de service, notamment la disponibilité, la mise à l'échelle et les performances, tout en permettant aux organisations d'utiliser leurs propres données propriétaires avec une traçabilité et une responsabilité des coûts garanties.
L'offre « Inference as a Service » propose une capacité dédiée et gérée pour les GPU AMD Instinct, ainsi que des outils prêts à l'emploi pour les développeurs, facilitant l'inférence et l'optimisation. Les clients fournissent leurs propres modèles et équipes d'ingénierie, tandis que Rackspace prend en charge l'infrastructure matérielle AMD Instinct, le support technique, la gestion opérationnelle et l'atteinte des objectifs de performance.
L'architecture Bare Metal AMD Instinct fournirait une puissance de calcul dédiée et haute performance aux clients ayant besoin d'une isolation physique, de performances prévisibles et d'un accès direct au matériel pour les charges de travail exigeantes d'entraînement et d'inférence.
Opérateur unique pour l'infrastructure d'IA gouvernée
Ensemble, les fonctionnalités prévues offrent aux entreprises un opérateur unique et responsable tout au long du cycle de vie de leur infrastructure d'IA. Rackspace gère l'ensemble de la pile technologique, des serveurs dédiés et des outils de développement à l'environnement d'exécution des inférences et à l'infrastructure cloud gouvernée.
L’objectif est d’adapter chaque charge de travail au niveau approprié de souveraineté, de conformité, de performance et de supervision. Le protocole d’entente offre à Rackspace et AMD un cadre de collaboration pour la gestion des infrastructures d’IA d’entreprise destinées aux entreprises réglementées, aux charges de travail souveraines et aux environnements d’IA de production exigeant une responsabilisation à tous les niveaux.
Amazon