IBM a lancé IBM Spyre Accelerator, un moteur d'inférence à faible latence conçu pour l'IA générative et agentique, où réactivité, sécurité et disponibilité sont essentielles. Spyre est conçu pour les entreprises souhaitant intégrer l'IA à leurs systèmes d'enregistrement existants, permettant ainsi la conservation des données sensibles sur la plateforme sans compromettre les performances.
La disponibilité générale débute le 28 octobre pour IBM z17 et LinuxONE 5, et Power11 débutera début décembre. L'accélérateur est un SoC 32 cœurs gravé en 5 nm, intégré à une carte PCIe de 75 watts. IBM prend en charge des clusters jusqu'à 48 cartes par système IBM Z ou LinuxONE et jusqu'à 16 cartes par système IBM Power, permettant ainsi une évolutivité horizontale pour l'inférence multimodèle adjacente aux charges de travail transactionnelles, telles que la détection de fraude, l'automatisation du commerce de détail et l'évaluation des risques. Spyre est la concrétisation des recherches du Centre de matériel IA d'IBM, optimisé pour les déploiements sur site où la localisation des données, la sécurité et l'efficacité énergétique sont des exigences fondamentales.
Des pipelines logiques à l'IA agentique
Les workflows d'entreprise délaissent progressivement les chaînes logiques déterministes pour privilégier l'IA agentique qui perçoit le contexte, planifie et agit en temps réel. Ces systèmes agentiques nécessitent une inférence à faible latence et une qualité de service prévisible, même lorsque les systèmes centraux maintiennent des volumes de transactions élevés. L'approche d'IBM consiste à positionner du matériel d'inférence dédié directement sur les plateformes où résident déjà les données critiques. Conserver les données sur IBM Z, LinuxONE et Power réduit les risques et les contraintes de conformité en évitant les sorties de données inutiles et les traitements externes. L'exécution de l'inférence générative et agentique à proximité des données minimise également la variabilité induite par le backhaul et le réseau, souvent à l'origine de la latence de queue. L'objectif principal est d'intégrer la prise de décision pilotée par l'IA aux flux OLTP, batch et de messagerie existants sans compromettre le débit, les fenêtres de modification ou les niveaux de service.
Architecture de Spyre
Spyre est un système sur puce (SoC) commercial développé à partir de prototypes créés par IBM Research. Construit selon un procédé de 5 nm avec 25.6 milliards de transistors et 32 cœurs accélérateurs, il est optimisé pour l'inférence simultanée à faible latence plutôt que pour l'apprentissage de modèles. Livré sous forme de carte d'extension PCIe de 75 watts, il offre aux équipes d'infrastructure un modèle de déploiement et de service familier.
IBM a conçu des configurations évolutives permettant d'intégrer jusqu'à 48 cartes dans un système IBM Z ou LinuxONE 5 et jusqu'à 16 cartes dans un système IBM Power11, permettant ainsi le service multi-modèles et l'isolation des locataires au sein d'une plateforme unique. Côté logiciel, Spyre s'intègre à la pile d'entreprise d'IBM pour le service de modèles, la sécurité et l'observabilité, tandis que Power ajoute un catalogue en un clic pour accélérer le déploiement des services. Cette combinaison est conçue pour accélérer la rentabilisation tout en maintenant les services d'IA dans les limites opérationnelles et de conformité existantes.
Intégration de plateforme
IBM Z et LinuxONE : colocation avec Telum II
Sur z17 et LinuxONE 5, Spyre fonctionne en parallèle avec le complexe de processeurs Telum II afin de maintenir l'inférence en co-résidence avec les données transactionnelles et les flux d'événements. Ce dispositif préserve les domaines de sécurité et les pistes d'audit existants, essentiels dans les environnements réglementés. En exécutant l'inférence localement, les organisations minimisent les recours à des accélérateurs externes et empêchent toute latence supplémentaire d'impacter les accords de niveau de service (SLA) des transactions. Le système peut évoluer jusqu'à 48 cartes, prenant en charge simultanément plusieurs modèles et charges de travail. Il offre une isolation logique pour répondre aux différentes unités opérationnelles ou exigences réglementaires. Ceci est particulièrement pertinent pour les flux de paiement, la prévention de la fraude, le traitement des réclamations et les événements de la chaîne d'approvisionnement, où chaque milliseconde compte et où l'extension du périmètre de conformité n'est pas souhaitable.
IBM Power11 : services d'IA pilotés par catalogue et synergie MMA
Sur les serveurs Power11, Spyre s'intègre à un catalogue de services d'IA conçu pour une adoption rapide au sein des parcs Power établis. Les administrateurs peuvent déployer des services en un seul clic, conformément à la manière dont les clients Power exploitent traditionnellement leurs middlewares, leurs analyses et leurs applications métier. L'association de Spyre à l'accélérateur MMA intégré de Power améliore la conversion des données et le débit de prétraitement, étapes cruciales pour les pipelines d'IA générative et les intégrations de processus complexes.
IBM cite un exemple de débit : avec une taille d'invite de 128, le système peut traiter plus de huit millions de documents pour l'intégration de bases de connaissances en environ une heure. Pour les entreprises développant des systèmes RAG ou effectuant des recherches d'entreprise à grande échelle, l'accent est mis sur l'accélération de la préparation et de l'ingestion des données, plutôt que sur la seule étape d'inférence. Cette solution globale cible des secteurs mixtes, tels que la fabrication, la vente au détail, la santé et les déploiements fortement basés sur des progiciels de gestion intégrés (ERP), où la prévisibilité du débit et la facilité de maintenance sont essentielles.
Du centre matériel d'IA IBM aux déploiements sur le terrain
Spyre illustre comment IBM transforme la recherche en produits pratiques. La technologie a débuté sous la forme d'un prototype développé par IBM Research, puis a évolué grâce à des déploiements itératifs de clusters sur le campus de Yorktown Heights et à des collaborations avec le Centre pour les systèmes d'intelligence artificielle émergents de l'Université d'Albany. IBM Infrastructure a ensuite produit la conception pour IBM Z, LinuxONE et Power, en alignant le silicium sur les exigences de l'entreprise telles que la sécurité, la fiabilité, la gestion du cycle de vie et la facilité de maintenance. Les dirigeants d'IBM qualifient Spyre d'infrastructure pour l'IA multi-modèle, mettant l'accent sur la mise à l'échelle sécurisée et résiliente des charges de travail génératives et agentiques sur des plateformes déjà fiables pour les données et transactions clés.
La valeur de Spyre est indissociable de la posture opérationnelle d'IBM. En exécutant l'inférence là où les données sont créées et gouvernées, les organisations limitent les sorties de données et simplifient la conformité. IBM Z et LinuxONE offrent des fonctionnalités de cryptographie, d'isolation, de journalisation et d'audit déjà intégrées aux cadres réglementaires de nombreux clients. Power offre une pile de sécurité et de gestion robuste, adaptée aux analyses mixtes et aux domaines transactionnels. La prise en charge du clustering, le partitionnement logique et les outils d'observabilité propriétaires s'alignent sur les normes opérationnelles mainframe et Power, permettant ainsi le déploiement, la surveillance et la maintenance des services d'IA comme toute autre charge de travail de premier plan. Pour de nombreux acheteurs des secteurs de la finance, de la santé et du secteur public, ces garanties opérationnelles priment sur les TOPS bruts ou les benchmarks synthétiques.
Considérations relatives aux performances et à l'évolutivité
Bien qu'IBM n'ait pas publié de détails complets sur les performances de chaque modèle, les indicateurs architecturaux sont clairs. Spyre cible des chemins d'inférence à faible latence optimisés pour les boucles agentiques et les pipelines pilotés par événements, où la concurrence et le contrôle de la latence de queue sont plus importants que le seul débit de pointe. L'évolutivité horizontale via des clusters de cartes PCIe permet aux équipes de dimensionner les déploiements pour le service multimodèle, l'isolation des locataires et la croissance future sans nécessiter de refonte de la plateforme.
Sur Power, la combinaison MMA-Spyre accélère la préparation et la conversion des données, qui constituent souvent un facteur déterminant dans le temps de bout en bout pour les RAG et la recherche d'entreprise. Les entreprises doivent structurer leurs preuves de concept pour refléter les conditions de production : tailles des modèles et fenêtres de jetons, simultanéité des requêtes, interaction avec les charges transactionnelles et télémétrie pour la latence de queue en cas de contention.
Barry Baker, directeur opérationnel d'IBM Infrastructure et directeur général d'IBM Systems, a souligné l'importance accordée par l'entreprise au développement d'infrastructures pour les charges de travail d'IA émergentes. Il a souligné le rôle de l'accélérateur Spyre dans l'amélioration des systèmes pour la prise en charge de l'IA multi-modèles, notamment l'IA générative et agentique. Il a ajouté que cette innovation vise à permettre aux clients de faire évoluer leurs charges de travail d'IA stratégiques de manière sécurisée, résiliente et efficace, tout en maximisant la valeur des données d'entreprise.
Mukesh Khare, directeur général d'IBM Semiconductors, rappelle qu'IBM a lancé son AI Hardware Center en 2019 pour répondre aux besoins croissants en calcul de l'IA, avant même son récent essor. Il salue la commercialisation de la première puce du centre, conçue pour améliorer les performances des mainframes et des serveurs clients d'IBM.
Cas d'usage
Les équipes des services financiers peuvent utiliser Spyre pour la détection des fraudes en temps réel. Ce système exploite directement les données de la plateforme, permettant ainsi l'actualisation des modèles et la mise à jour des politiques sans élargir le périmètre d'audit. Dans le commerce de détail et la logistique, les assistants peuvent coordonner les décisions relatives aux stocks et à l'exécution avec des temps de réponse constants, en conservant l'inférence locale dans les systèmes opérationnels. Les organismes de santé et gouvernementaux peuvent déployer des synthèses génératives et des outils d'aide à la décision dans le respect de contraintes strictes de confidentialité et de résidence, évitant ainsi les transferts de données qui engendreraient des tâches de conformité supplémentaires. Dans les environnements industriels et fortement axés sur les ERP, Spyre permet l'automatisation des processus et la détection des anomalies à proximité des systèmes de télémétrie SAP, Oracle et d'usine fonctionnant sous Power, garantissant ainsi un comportement déterministe et une maintenabilité optimale.
La direction d'IBM Infrastructure présente Spyre comme une infrastructure fondamentale pour la transition vers l'IA, conçue pour prendre en charge les charges de travail génératives et agentiques multimodèles à l'échelle de l'entreprise, avec de solides garanties de sécurité et de résilience. La direction d'IBM Semiconductors décrit Spyre comme la première étape de commercialisation de l'AI Hardware Center, anticipant ainsi une cadence continue d'innovation matérielle pour les clients mainframe et serveurs d'IBM.
Conclusion
Spyre est la solution sur site d'IBM pour l'inférence à faible latence dans les environnements qui ne peuvent compromettre la sécurité, la fiabilité ou la localisation des données. L'évolutivité matérielle, les intégrations natives de la plateforme et le modèle opérationnel s'alignent sur les parcs IBM Z, LinuxONE et Power qui recherchent une IA agentique dans le même rayon d'action que les transactions principales. L'étape suivante pour les acheteurs est la preuve : des preuves de concept validant les avantages en termes de latence, de concurrence et de gouvernance sous des charges de travail réelles. Si les performances sur le terrain correspondent au cahier des charges, Spyre offre une solution pragmatique pour intégrer l'IA générative et agentique directement dans les systèmes critiques.
Disponibilité
Spyre sera disponible pour IBM z17 et LinuxONE 5 à partir du 28 octobre. Les systèmes IBM Power11 recevront Spyre début décembre. Cette version échelonnée offre aux clients mainframe et LinuxONE la possibilité d'accéder en avant-première à l'inférence sur plateforme, les systèmes Power étant disponibles peu après.
Amazon