La óptica empaquetada mejora la computación de IA con conectividad de alta velocidad

Las fibras ópticas transportan voz y datos a altas velocidades a través de largas distancias, y los científicos de IBM Research están llevando esta velocidad y capacidad a lugares donde nunca antes habían llegado: dentro de los centros de datos y en las placas de circuitos, donde ayudarán a acelerar la computación generativa de IA.

Los científicos de IBM Research han anunciado un Nuevo conjunto de avances en el ensamblaje y embalaje de chips.llamada óptica empaquetada, que promete mejorar la eficiencia energética y aumentar el ancho de banda al llevar conexiones de enlace óptico dentro de los dispositivos y dentro de las paredes de los centros de datos utilizados para entrenar e implementar grandes modelos de lenguaje. El trabajo está publicado en el arXiv servidor de preimpresión.

Este nuevo proceso promete aumentar seis veces el número de fibras ópticas que se pueden conectar en el borde de un chip, una medida conocida como densidad frente a la playa. A medida que la inteligencia artificial exige cada vez más ancho de banda, esta innovación utilizará la primera guía de ondas ópticas de polímero exitosa del mundo para llevar la velocidad y el ancho de banda de la óptica hasta el borde de los chips.

Los primeros resultados sugieren que el cambio de interconexiones eléctricas convencionales a ópticas empaquetadas reducirá los costos de energía para entrenar modelos de IA, acelerará el entrenamiento de modelos y aumentará drásticamente la eficiencia energética de los centros de datos.

Las tecnologías avanzadas actuales de chips y empaquetado de chips suelen utilizar señales eléctricas para los transistores en la microelectrónica que alimentan teléfonos, computadoras y casi todo lo que hacemos. Los transistores, por su parte, han conseguido muchas veces más pequeño a lo largo de las décadas, lo que permite incluir más capacidad en un espacio determinado. Pero incluso los componentes semiconductores más capaces son tan rápidos como las conexiones entre ellos.

Estas conexiones nos permiten utilizar sin problemas dispositivos electrónicos en nuestra vida diaria, como cuando conducimos nuestros automóviles, que incluyen chips en casi todos los sistemas, desde los asientos hasta los neumáticos. «Incluso su refrigerador tiene componentes electrónicos para ayudar a que todo funcione correctamente», dice el ingeniero de investigación de IBM John Knickerbocker, un distinguido ingeniero de chiplets y empaques avanzados.

Sin embargo, Knickerbocker y su equipo piensan en algo más pequeño. Debido al menor costo y la mayor eficiencia energética de los conectores ópticos, son excelentes candidatos para mejorar el rendimiento de la comunicación de chip a chip y de dispositivo a dispositivo en los centros de datos, donde la computación generativa de IA exige un ancho de banda cada vez mayor.

«Los grandes modelos de lenguaje han hecho que la IA sea muy popular hoy en día en toda la industria tecnológica», afirma Knickerbocker. «Y el crecimiento resultante de los LLM (y de la IA generativa en general) requiere un crecimiento exponencial de las conexiones de alta velocidad entre chips y centros de datos».

Y si bien los cables ópticos pueden transportar datos dentro y fuera de los centros de datos, lo que sucede en el interior es una historia diferente. Incluso los chips más avanzados de hoy todavía se comunican a través de cables de cobre que transportan señales eléctricas. Se necesita bastante energía para establecer el enlace desde el borde de un chip a una placa de circuito, luego desde la placa de circuito a través de kilómetros de cable óptico, y luego de regreso a otro módulo y a otro chip en un centro de datos remoto.

Independientemente de si estás transmitiendo datos o una llamada de voz, enviar una señal sin problemas a través de todos estos cruces cuesta energía. Las conexiones por cable de bajo ancho de banda dentro de los servidores también ralentizan los aceleradores de GPU, que permanecen inactivos mientras esperan datos.

Las señales eléctricas utilizan electrones para proporcionar energía y comunicación de señales de un dispositivo a otro. La óptica, por el contrario, utilizada desde hace décadas en las tecnologías de la comunicación, utiliza la luz para transmitir datos. Los cables de fibra óptica, finos como un cabello y a veces de miles de kilómetros de largo, pueden transmitir cientos de terabits de datos por segundo.

Agrupadas y aisladas en cables que corren bajo el océano, las fibras ópticas transportan casi todo el comercio mundial y el tráfico de comunicaciones que fluye entre continentes.

Knickerbocker y sus colegas han descubierto que llevar la potencia de las conexiones ópticas a las placas de circuitos y hasta los chips da como resultado una reducción de más del 80% en el consumo de energía en comparación con las conexiones eléctricas: una reducción de 5 picojulios por bit a menos de 1. En miles de chips y millones de operaciones, esto significa enormes ahorros.

El equipo de Chiplet y Embalaje Avanzado de IBM Research busca optimizar este sistema con ópticas empaquetadas, un enfoque que promete mejorar la eficiencia y la densidad de la comunicación, tanto dentro como entre chips. Parte de incorporar conexiones ópticas a placas de circuitos integrados es incorporar transmisores y fotodetectores para enviar y recibir señales ópticas.

Las fibras ópticas tienen aproximadamente 250 micrones de diámetro, aproximadamente tres veces el ancho de un cabello humano. Puede parecer pequeño, pero cuatro fibras suman un milímetro y, a medida que los milímetros se suman, rápidamente se queda sin espacio en los bordes de un chip.

La solución, tal como la vieron los científicos de IBM Research, radica en la próxima generación de enlaces ópticos que permitan conexiones mucho más densas: la guía de ondas óptica de polímero. Este dispositivo permite alinear haces de fibras ópticas de alta densidad justo en el borde de un chip de silicio para que pueda comunicarse directamente a través de las fibras de polímero. Las conexiones ópticas de alta fidelidad requieren tolerancias estrictas de media micra o menos entre una fibra y un conector, una hazaña que el equipo ha logrado.

Gracias a estos enfoques, el equipo ha demostrado la viabilidad de un paso de 50 micras para canales ópticos, acoplado a guías de ondas de fotónica de silicio y un conector enchufable a conjuntos de fibra de vidrio monomodo (SMF), utilizando procesos de empaquetado de ensamblaje estándar. Esto representa una reducción de tamaño del 80 % con respecto al paso convencional de 250 micrones, pero las pruebas indican que pueden reducirlo aún más, hasta 20 o 25 micrones, lo que correspondería a un aumento del ancho de banda de entre 1000 y 1200 %.

La pérdida de inserción del circuito integrado fotónico (PIC) al enlace óptico SMF suele ser de 1,5 a 2 decibeles (dB) por canal, pero en este caso, se ha demostrado que es inferior a 1,2 dB por enlace óptico completo. Además, las demostraciones con guías de ondas ópticas de paso de 18,4 micrómetros han mostrado una diafonía inferior a 30 dB, lo que indica que esta tecnología óptica empaquetada es escalable a una densidad de ancho de banda muy alta para la interconexión de chips.

Esto significa que, siguiendo una lección del libro de la industria telefónica, pueden transmitir múltiples longitudes de onda de luz por canal óptico, lo que tiene el potencial de aumentar ese aumento del ancho de banda en al menos un 4000% y hasta un 8000%.

Más allá de las conexiones de fibra a chip y de fibra a placa, también están reforzando las fibras de vidrio convencionales con polímeros de alta resistencia, una medida que mejora la durabilidad y la eficiencia, pero que también requiere simulaciones de modelado avanzado de longitudes ópticas para garantizar que la luz pueda transmitirse. transmitir a través de múltiples componentes sin pérdidas: el «empaquetado conjunto» de todo.

Este proceso de desarrollo también incluye pruebas de estrés de confiabilidad estándar de la industria para garantizar que todos los enlaces ópticos y eléctricos sigan funcionando cuando pasan por las tensiones observadas durante la fabricación y el uso de la aplicación.

Los componentes se someten a temperaturas que oscilan entre -40 °C y 125 °C, así como a pruebas de durabilidad mecánica para confirmar que las fibras ópticas pueden soportar la flexión sin romperse ni sufrir pérdidas de datos. Esta prueba se lleva a cabo en la sede mundial de IBM Research en Yorktown Heights, Nueva York, así como en la planta de IBM en Bromont, Québec.

«Lo importante no es sólo que tenemos esta gran mejora de densidad para las comunicaciones en el módulo, sino que también hemos demostrado que esto es compatible con pruebas de estrés que los enlaces ópticos no habían pasado en el pasado», dice Knickerbocker. .

Los módulos de IBM están destinados a ser compatibles con los procesos estándar de ensamblaje de embalajes electrónicos pasivos avanzados, lo que puede conducir a menores costos de producción. Con esta innovación, IBM puede producir módulos ópticos empaquetados en sus instalaciones de Bromont.

El equipo está elaborando una hoja de ruta para los próximos pasos que tomará esta tecnología, incluida la solicitud de comentarios de los clientes de IBM y la habilitación de ópticas empaquetadas para satisfacer las necesidades comerciales de computación generativa de IA.

«También trabajaremos con los proveedores de componentes para posicionarlos para este próximo paso de la tecnología», dice Knickerbocker, «así como para posicionarlos con la capacidad de soportar cantidades de producción, no sólo prototipos».