IBM a annoncé des recherches révolutionnaires dans le domaine de la technologie optique qui promettent de révolutionner la manière dont les centres de données entraînent et exécutent des modèles d’IA génératifs. L’entreprise a été la pionnière d’une nouvelle approche de l’optique co-packagée (CPO), une technologie de nouvelle génération qui exploite la connectivité basée sur la lumière au sein des centres de données. En concevant et en assemblant le premier guide d’ondes optiques polymères (PWG) annoncé publiquement pour alimenter cette innovation, les chercheurs d’IBM visent à redéfinir la manière dont les données à large bande passante sont transmises entre les puces, les circuits imprimés et les serveurs.
Image reproduite avec l'aimable autorisation de Ranovus
La technologie de la fibre optique permet de transporter de grandes quantités de données sur de longues distances, gérant le commerce et les communications à l'échelle mondiale. Cependant, dans les centres de données, les racks dépendent du câblage réseau DAC en cuivre pour la connectivité. IBM estime que cette configuration peut créer des goulots d'étranglement en limitant la vitesse et la capacité, laissant les accélérateurs GPU inactifs pendant de longues périodes lors des processus de formation d'IA distribuée. La percée d'IBM vise à apporter la vitesse et l'efficacité de l'optique à ces connexions internes, améliorant ainsi considérablement les performances et l'efficacité énergétique.
IBM a présenté un nouveau module prototype CPO introduisant une connectivité optique à haut débit dans les centres de données. Publiée dans un article sur arXiv, la recherche met en évidence comment cette technologie peut augmenter considérablement la bande passante, réduire les temps d'arrêt du GPU et accélérer la formation des modèles d'IA tout en répondant aux demandes croissantes en énergie dans les centres de données.
Principaux avantages des optiques co-packagées (CPO)
Amélioration de l'efficacité énergétique et réduction des coûts
La technologie CPO permet de réduire de plus de 5 fois la consommation d'énergie par rapport aux interconnexions électriques de milieu de gamme. Cette avancée permet également aux câbles d'interconnexion des centres de données de s'étendre de quelques mètres à des centaines de mètres, réduisant ainsi considérablement les coûts d'exploitation.
- Formation accélérée en IA : En remplaçant le câblage électrique traditionnel par une connectivité optique, CPO peut augmenter jusqu'à cinq fois la vitesse de formation des grands modèles de langage (LLM). Par exemple, il peut réduire le temps de formation d'un LLM de trois mois à trois semaines, avec des gains de performances encore plus importants à mesure que les modèles et les ressources GPU évoluent.
- Des économies d’énergie inégalées : IBM estime que chaque modèle d'IA formé à l'aide de CPO pourrait économiser l'équivalent de Consommation annuelle d'énergie de 5,000 XNUMX foyers américains, soulignant l’impact transformateur sur l’efficacité énergétique.
- Densité de bande passante inégalée : Les modules CPO offrent jusqu'à 80 fois plus de bande passante entre les puces par rapport aux connexions électriques. L'innovation d'IBM permet aux fabricants de puces d'ajouter six fois plus de fibres optiques à la périphérie des puces photoniques en silicium, ce que l'on appelle la « densité en front de mer », améliorant ainsi la capacité globale du centre de données.
Technologie pionnière de guide d'ondes optique en polymère (PWG)
L'équipe de recherche d'IBM a conçu un PWG haute densité avec des canaux optiques au pas de 50 micromètres couplés de manière adiabatique à des guides d'ondes photoniques en silicium. Cet assemblage, réalisé à l'aide de processus de conditionnement standard, est le premier à réussir des tests de résistance de fabrication rigoureux, notamment une humidité élevée, des températures extrêmes allant de -40 °C à 125 °C et une durabilité mécanique. L'empilement de PWG permet jusqu'à 128 canaux de connectivité, offrant une évolutivité sans précédent.
Cette innovation s'inscrit dans la continuité du leadership d'IBM dans le domaine des semi-conducteurs, en s'appuyant sur des avancées telles que la première puce à nœud de 2 nm, les transistors à nano-feuilles et les transistors verticaux (VTFET). La technologie CPO introduit une nouvelle façon de répondre aux exigences croissantes de l'IA, en faisant passer les communications hors module de l'électrique à l'optique et en permettant des opérations de centre de données durables et évolutives.
Soutenir la croissance de l'IA générative
Dario Gil, vice-président senior et directeur de la recherche d'IBM, a souligné le potentiel de transformation du CPO :
« L’IA générative exige davantage d’énergie et de puissance de traitement. Les centres de données doivent donc évoluer. Les optiques intégrées peuvent les rendre pérennes. Grâce à cette avancée, les puces de demain communiqueront de la même manière que les câbles à fibre optique transportent les données à l’intérieur et à l’extérieur des centres de données, inaugurant ainsi une nouvelle ère de communications plus rapides et plus durables, capables de gérer les charges de travail de l’IA du futur. »
Les travaux d'IBM sur le CPO ont été menés à Albany, dans l'État de New York, où se trouve le National Semiconductor Technology Center (NSTC), récemment annoncé. L'assemblage des prototypes et les tests des modules ont eu lieu dans les installations d'IBM à Bromont, au Québec, un chef de file dans le domaine de l'encapsulation de puces. Cette collaboration s'inscrit dans le cadre de l'initiative Northeast Semiconductor Corridor, qui vise à renforcer l'innovation dans le domaine des semiconducteurs aux États-Unis et au Canada.
L'innovation d'IBM en matière d'optiques co-packagées représente une avancée significative dans l'amélioration des communications des centres de données. En intégrant une connectivité à la vitesse de la lumière dans les racks, la technologie CPO promet d'offrir une efficacité, une bande passante et des économies d'énergie inégalées, redéfinissant ainsi les capacités des centres de données et les préparant aux exigences croissantes de l'IA générative et au-delà.
Amazon