in

Redes neuronales de gráficos de estado de eco con matrices de memoria resistiva aleatoria analógica

Estropear la memoria resistiva con el aprendizaje gráfico

Estropear la memoria resistiva con el aprendizaje gráfico

Codiseño de hardware y software de ESGNN basado en memoria resistiva aleatoria para el aprendizaje de gráficos. a, Una micrografía electrónica de transmisión transversal de una sola celda de memoria resistiva que funciona como una resistencia aleatoria después de la ruptura dieléctrica. Barra de escala 20 nm. b, Una micrografía electrónica de transmisión transversal de la matriz de barra cruzada de memoria resistiva fabricada utilizando el proceso de final de línea en una cinta de salida de nodo de tecnología de 40 nm. Barra de escala 500 nm. c, Una ilustración esquemática de la partición de la matriz de barras cruzadas de memoria resistiva aleatoria, donde las celdas sombreadas en azul son los pesos de la matriz recursiva (que pasan mensajes a lo largo de los bordes), mientras que las que están en rojo son los pesos de la matriz de entrada (características de entrada del nodo de transformación). ). d, el mapa de conductancia correspondiente de las dos matrices de resistencias aleatorias en c. e, La distribución de conductancia de las matrices de memoria resistiva aleatoria. f, El procedimiento de incrustación de nodos de la ESGNN propuesta. El estado interno de cada nodo en el siguiente paso de tiempo está codeterminado por la suma de las contribuciones vecinas (las flechas azules indican multiplicaciones entre los vectores de estado interno del nodo y la matriz recursiva en d), la característica de entrada del nodo después de una proyección aleatoria ( las flechas rojas indican multiplicaciones entre los vectores de características del nodo de entrada con la matriz de entrada en d) y el estado interno del nodo en el paso de tiempo anterior. g, la incrustación de gráficos basada en incrustaciones de nodos. El vector de incrustación del gráfico g es la suma de todos los vectores de estado internos del nodo en el último paso de tiempo. Crédito: Naturaleza Máquina Inteligencia (2023). DOI: 10.1038/s42256-023-00609-5

Las redes neuronales gráficas se han utilizado ampliamente para estudiar redes sociales, comercio electrónico, predicciones de drogas, interacción humano-computadora y más.

En un nuevo estudio publicado en Naturaleza Máquina Inteligencia Como artículo de portada, investigadores del Instituto de Microelectrónica de la Academia de Ciencias de China (IMECAS) y la Universidad de Hong Kong han acelerado el aprendizaje de gráficos con memoria resistiva aleatoria (RRM), logrando mejoras de 40,37 veces en la eficiencia energética en comparación con una unidad de procesamiento de gráficos en tareas de aprendizaje de grafos representativos.

El aprendizaje profundo con gráficos en las computadoras tradicionales de von Neumann conduce a frecuentes transferencias de datos, lo que inevitablemente genera largos tiempos de procesamiento y un alto uso de energía. La computación en memoria con memoria resistiva puede proporcionar una solución novedosa.

Los investigadores presentaron un novedoso codiseño de hardware y software, la red neuronal de gráfico de estado de eco basada en RRM, para abordar esos desafíos.

El RRM no solo aprovecha resistencias apilables, de nanoescala y de bajo costo para computación en memoria altamente eficiente, sino que también aprovecha la estocasticidad intrínseca de la ruptura dieléctrica para implementar proyecciones aleatorias en hardware para una red de estado de eco que minimiza efectivamente el costo de capacitación.

El trabajo es importante para desarrollar sistemas de hardware de inteligencia artificial de próxima generación.

Más información:
Shaocong Wang et al, redes neuronales de gráfico de estado de eco con matrices de memoria resistiva aleatoria aleatoria, Naturaleza Máquina Inteligencia (2023). DOI: 10.1038/s42256-023-00609-5

Proporcionado por la Academia de Ciencias de China


Citación: Redes neuronales de gráfico de estado de eco con matrices de memoria resistiva aleatoria aleatoria (2023, 1 de marzo) recuperado el 1 de marzo de 2023 de https://techxplore.com/news/2023-03-echo-state-graph-neural-networks.html

Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.



Fuente

Cómo mostrar archivos ocultos en una Mac

Otro insider asegura que un nuevo modelo de Nintendo Switch llegará este año

Otro insider asegura que un nuevo modelo de Nintendo Switch llegará este año