Un equipo desarrolla un dispositivo neuronal superconductor de alta velocidad y potencia ultrabaja

Un equipo de investigación ha desarrollado un dispositivo neuronal que tiene potencial para su aplicación en circuitos de redes neuronales superconductoras de alta velocidad y gran escala. El dispositivo funciona a altas velocidades con un consumo de energía ultrabajo y es tolerante a las fluctuaciones de parámetros durante la fabricación del circuito.

Su investigación se publica en línea en la revista. Ingeniería y Computación Neuromórfica.

La computación neuromórfica es un enfoque informático que imita el funcionamiento del cerebro humano. Utilizando hardware dedicado, el sistema neuromórfico logra redes neuronales artificiales de alta velocidad y baja potencia. En un sistema neuromórfico, los elementos del circuito neuronal deben comportarse como funciones de activación de las neuronas biológicas.

Para lograr redes neuronales artificiales prácticas, los investigadores construyen redes a gran escala equipadas con pesos sinápticos ajustables. Los pesos sinápticos describen la fuerza de la conexión entre dos nodos. Estas redes deben ser capaces de una reconfiguración dinámica y una modulación detallada de las fortalezas sinápticas para respaldar tareas de aprendizaje complejas.

Para utilizar la computación neuromórfica en la próxima generación de aplicaciones de IA, se deben avanzar las tecnologías de dispositivos neuronales y sinápticos. Si bien la computación neuromórfica tiene aplicaciones potenciales en inteligencia artificial debido a su potencial para superar los marcos convencionales de aprendizaje profundo en términos de eficiencia energética y velocidad computacional, existen algunos desafíos importantes para lograr sistemas neuromórficos prácticos a gran escala.

«Los circuitos neuromórficos, que imitan el funcionamiento del cerebro humano, se están estudiando como un nuevo paradigma computacional. Sin embargo, en la implementación de hardware de los circuitos neuromórficos, la variación en las características de los circuitos elementales, como los dispositivos neuronales, provoca una degradación en el rendimiento de la red neuronal», explicó Yuki Yamanashi, profesor de la Universidad Nacional de Yokohama.

La investigación del equipo introduce el procesamiento digital utilizando circuitos superconductores que emplean el cuanto de flujo magnético, determinado por constantes físicas, como portador de señal. El flujo magnético describe el campo magnético total que pasa a través de una superficie. Un cuanto de flujo magnético describe la unidad fundamental de flujo magnético en un superconductor. El método del equipo elimina la variación en las características de los circuitos elementales y les permite lograr un dispositivo neuronal con características ideales de entrada y salida.

El equipo desarrolló un novedoso dispositivo neuronal superconductor compacto que implementa la función de activación de la Unidad Lineal Rectificada (ReLU). Esta función resuelve los problemas causados ​​por el problema del gradiente que desaparece, donde el gradiente de la función de activación disminuye y las actualizaciones de peso se vuelven pequeñas. El gradiente es una medida de los cambios de error de la red neuronal a medida que se realizan pequeños ajustes en su configuración interna. Con las redes neuronales profundas, los gradientes se vuelven tan pequeños que las actualizaciones de peso se ven afectadas. Este problema impide una formación eficaz, especialmente en redes más profundas.

El circuito propuesto por el equipo realiza la característica de entrada-salida de ReLU a través de la conversión de frecuencia entre señales de entrada y salida, basada en el procesamiento de información digital mediante un circuito lógico cuántico de flujo único. La lógica cuántica de flujo único es una tecnología superconductora que procesa información de manera muy rápida y eficiente.

Una ventaja clave del diseño del equipo es su notable robustez frente a la variabilidad de los dispositivos debido a la naturaleza digital inherente de la lógica cuántica de flujo único. Esta ventaja aborda directamente las limitaciones de los enfoques analógicos anteriores.

Incluso con una variación de hasta un 20% entre los parámetros del circuito individual, el circuito logra la característica de entrada-salida ReLU ideal. Esta robustez de este dispositivo es una mejora notable con respecto a los dispositivos neuronales analógicos convencionales, cuyo rendimiento es muy sensible a la falta de uniformidad del dispositivo. También representa un paso importante hacia la integración escalable de redes neuronales superconductoras.

Se han intentado investigaciones anteriores sobre la implementación de circuitos de redes neuronales artificiales. Sin embargo, esos dispositivos anteriores padecían un consumo de energía relativamente alto y una capacidad limitada para emular dinámicas neuronales biológicas complejas. El dispositivo neuronal del equipo combina un funcionamiento de alta velocidad y potencia ultrabaja con una tolerancia inherente a las variaciones de los parámetros del dispositivo. Esta característica crucial mitiga la degradación del rendimiento que a menudo se observa en redes neuronales a gran escala que dependen de circuitos neuronales analógicos susceptibles a la variación característica de los dispositivos neuronales.

«Este dispositivo neuronal exhibe características ideales de entrada y salida y resuelve el problema de la variación característica al integrar neuronas. En consecuencia, contribuye a la implementación de hardware de redes neuronales a gran escala utilizando circuitos superconductores, lo que permite un funcionamiento de velocidad ultra alta y bajo consumo de energía», dijo Yamanashi.

De cara al futuro, el equipo espera implementar una red neuronal superconductora a gran escala y demostrar el aprendizaje utilizando la red neuronal. «Creemos que este circuito tiene potencial para realizar contribuciones significativas a la computación neuromórfica de alto rendimiento con circuitos superconductores».