IBM ha anunciado una investigación pionera en tecnología óptica que promete revolucionar la forma en que los centros de datos entrenan y ejecutan modelos de IA generativos. La empresa ha sido pionera en un enfoque novedoso de la óptica co-empaquetada (CPO), una tecnología de próxima generación que aprovecha la conectividad basada en la luz dentro de los centros de datos. Al diseñar y ensamblar la primera guía de ondas ópticas de polímero (PWG) anunciada públicamente para impulsar esta innovación, los investigadores de IBM apuntan a redefinir la forma en que se transmiten los datos de gran ancho de banda entre chips, placas de circuitos y servidores.
Imagen cortesía de Ranovus
La tecnología de fibra óptica transporta grandes cantidades de datos a largas distancias y permite gestionar el comercio y las comunicaciones globales. Sin embargo, dentro de los centros de datos, los racks dependen de un cableado de red DAC basado en cobre para la conectividad. IBM considera que esta configuración puede crear cuellos de botella al limitar la velocidad y la capacidad, lo que deja los aceleradores de GPU inactivos durante períodos prolongados durante los procesos de entrenamiento de IA distribuidos. El avance de IBM tiene como objetivo llevar la velocidad y la eficiencia de la óptica a estas conexiones internas, mejorando drásticamente el rendimiento y la eficiencia energética.
IBM ha presentado un nuevo prototipo de módulo CPO que introduce conectividad óptica de alta velocidad en los centros de datos. Publicado en un artículo en arXiv, la investigación destaca cómo esta tecnología puede aumentar drásticamente el ancho de banda, reducir el tiempo de inactividad de la GPU y acelerar el entrenamiento de modelos de IA, al tiempo que aborda las crecientes demandas de energía en los centros de datos.
Principales ventajas de la óptica co-empaquetada (CPO)
Mayor eficiencia energética y reducción de costes
La tecnología CPO permite una reducción de más de 5 veces en el consumo de energía en comparación con las interconexiones eléctricas de rango medio. Este avance también permite que los cables de interconexión de centros de datos se extiendan desde unos pocos metros hasta cientos de metros, lo que reduce significativamente los costos operativos.
- Entrenamiento acelerado de IA: Al reemplazar el cableado eléctrico tradicional por conectividad óptica, CPO puede aumentar la velocidad de entrenamiento de modelos de lenguaje grandes (LLM) hasta cinco veces. Por ejemplo, puede reducir el tiempo de entrenamiento de un LLM de tres meses a tres semanas, con ganancias de rendimiento aún mayores a medida que los modelos y los recursos de GPU escalan.
- Ahorro de energía incomparable: IBM estima que cada modelo de IA entrenado con CPO podría ahorrar el equivalente a Consumo energético anual de 5,000 hogares estadounidenses, subrayando el impacto transformador en la eficiencia energética.
- Densidad de ancho de banda inigualable: Los módulos CPO ofrecen hasta 80 veces más ancho de banda entre chips en comparación con las conexiones eléctricas. La innovación de IBM permite a los fabricantes de chips agregar seis veces más fibras ópticas en el borde de los chips fotónicos de silicio, lo que se conoce como "densidad frente a la playa", mejorando la capacidad general del centro de datos.
Tecnología pionera de guía de ondas ópticas de polímero (PWG)
El equipo de investigación de IBM diseñó un PWG de alta densidad con canales ópticos con una distancia entre ejes de 50 micrómetros acoplados adiabáticamente a guías de ondas fotónicas de silicio. Este conjunto, realizado mediante procesos de empaquetado estándar, es el primero en superar rigurosas pruebas de estrés de fabricación, que incluyen alta humedad, temperaturas extremas que van desde -40 °C a 125 °C y durabilidad mecánica. El apilamiento de PWG permite hasta 128 canales de conectividad, lo que ofrece una escalabilidad sin precedentes.
Esta innovación se alinea con el liderazgo de IBM en tecnología de semiconductores, que se basa en avances como el primer chip de nodo de 2 nm, los transistores de nanoláminas y los transistores verticales (VTFET). La tecnología CPO presenta una nueva forma de satisfacer las crecientes demandas de la IA, haciendo la transición de las comunicaciones fuera de módulo de eléctricas a ópticas y permitiendo operaciones de centros de datos sostenibles y escalables.
Apoyando el crecimiento de la IA generativa
El vicepresidente senior y director de investigación de IBM, Darío Gil, destacó el potencial transformador del CPO:
“A medida que la IA generativa demanda más energía y capacidad de procesamiento, el centro de datos debe evolucionar, y la óptica combinada puede hacer que estos centros de datos estén preparados para el futuro. Con este avance, los chips del futuro se comunicarán de forma muy similar a cómo los cables de fibra óptica transportan datos dentro y fuera de los centros de datos, lo que marcará el comienzo de una nueva era de comunicaciones más rápidas y sostenibles que puedan manejar las cargas de trabajo de IA del futuro”.
El trabajo de IBM en materia de CPO se llevó a cabo en Albany, Nueva York, sede del recientemente anunciado Centro Nacional de Tecnología de Semiconductores (NSTC). El ensamblaje de prototipos y las pruebas de módulos se llevaron a cabo en las instalaciones de IBM en Bromont, Quebec, líder en el empaquetado de chips. Esta colaboración forma parte de la iniciativa Corredor de Semiconductores del Noreste, que tiene como objetivo fortalecer la innovación en semiconductores en Estados Unidos y Canadá.
La innovación de IBM en óptica empaquetada representa un avance significativo en el avance de las comunicaciones de los centros de datos. Al integrar la conectividad a la velocidad de la luz dentro de los racks, la tecnología CPO promete ofrecer eficiencia, ancho de banda y ahorro de energía sin precedentes, redefiniendo las capacidades de los centros de datos y preparándolos para las crecientes demandas de la IA generativa y más allá.
Amazon