Nuevo diseño de chip para brindar la mayor precisión en la memoria hasta la fecha

Todo el mundo habla de la IA más nueva y del poder de las redes neuronales, olvidando que el software está limitado por el hardware en el que se ejecuta. Pero es el hardware, dice el profesor de Ingeniería Eléctrica e Informática de la USC Joshua Yang, lo que se ha convertido en «el cuello de botella». Ahora, la nueva investigación de Yang con colaboradores podría cambiar eso. Creen que han desarrollado un nuevo tipo de chip con la mejor memoria de cualquier chip hasta ahora para edge AI (AI en dispositivos portátiles).

Durante aproximadamente los últimos 30 años, mientras que el tamaño de las redes neuronales necesarias para las aplicaciones de inteligencia artificial y ciencia de datos se duplicó cada 3,5 meses, la capacidad de hardware necesaria para procesarlas se duplicó solo cada 3,5 años. Según Yang, el hardware presenta un problema cada vez más grave para el que pocos tienen paciencia.

Los gobiernos, la industria y la academia están tratando de abordar este desafío de hardware en todo el mundo. Algunos continúan trabajando en soluciones de hardware con chips de silicio, mientras que otros experimentan con nuevos tipos de materiales y dispositivos. El trabajo de Yang se encuentra en el medio: se centra en explotar y combinar las ventajas de los nuevos materiales y la tecnología de silicio tradicional que podría soportar la IA pesada y la computación de ciencia de datos.

El nuevo artículo de los investigadores en Naturaleza se centra en la comprensión de la física fundamental que conduce a un aumento drástico en la capacidad de memoria necesaria para el hardware de IA. El equipo dirigido por Yang, con investigadores de la USC (incluido el grupo de Han Wang), el MIT y la Universidad de Massachusetts, desarrolló un protocolo para dispositivos para reducir el «ruido» y demostró la practicidad de usar este protocolo en chips integrados. Esta demostración se realizó en TetraMem, una empresa emergente cofundada por Yang y sus coautores (Miao Hu, Qiangfei Xia y Glenn Ge), para comercializar tecnología de aceleración de IA.

Según Yang, este nuevo chip de memoria tiene la mayor densidad de información por dispositivo (11 bits) entre todos los tipos de tecnologías de memoria conocidas hasta el momento. Dispositivos tan pequeños pero potentes podrían desempeñar un papel fundamental para llevar una potencia increíble a los dispositivos que llevamos en el bolsillo. Los chips no son solo para la memoria sino también para el procesador. Millones de ellos en un pequeño chip, trabajando en paralelo para ejecutar rápidamente sus tareas de IA, solo podrían requerir una pequeña batería para alimentarlo.

Los chips que Yang y sus colegas están creando combinan silicio con memristores de óxido de metal para crear chips potentes pero de bajo consumo energético. La técnica se enfoca en usar las posiciones de los átomos para representar información en lugar de la cantidad de electrones (que es la técnica actual involucrada en los cálculos en chips). Las posiciones de los átomos ofrecen una forma compacta y estable de almacenar más información de forma analógica, en lugar de digital. Además, la información puede procesarse donde está almacenada en lugar de enviarse a uno de los pocos «procesadores» dedicados, lo que elimina el llamado «cuello de botella de von Neumann» que existe en los sistemas informáticos actuales. De esta manera, dice Yang, la computación para IA es «más eficiente energéticamente con un mayor rendimiento».

Cómo funciona

Yang explica que los electrones que se manipulan en los chips tradicionales son «luz». Esta ligereza los hace propensos a moverse y ser más volátiles. En lugar de almacenar la memoria a través de electrones, Yang y sus colaboradores están almacenando la memoria en átomos completos. He aquí por qué este recuerdo es importante. Normalmente, dice Yang, cuando uno apaga una computadora, la memoria de información desaparece, pero si necesita esa memoria para ejecutar un nuevo cálculo y su computadora necesita la información nuevamente, ha perdido tiempo y energía.

Este nuevo método, que se centra en activar átomos en lugar de electrones, no requiere batería para mantener la información almacenada. Escenarios similares ocurren en los cálculos de IA, donde una memoria estable capaz de una alta densidad de información es crucial. Yang imagina esta nueva tecnología que puede habilitar una poderosa capacidad de inteligencia artificial en dispositivos de borde, como Google Glasses, que, según dice, anteriormente sufría un problema de recarga frecuente.

Además, al convertir chips para que dependan de átomos en lugar de electrones, los chips se vuelven más pequeños. Yang agrega que con este nuevo método, hay más capacidad informática a menor escala. Además, este método, dice, podría ofrecer «muchos más niveles de memoria para ayudar a aumentar la densidad de la información».

Para ponerlo en contexto, en este momento, ChatGPT se ejecuta en una nube. La nueva innovación, seguida de un mayor desarrollo, podría poner el poder de una versión mini de ChatGPT en el dispositivo personal de todos. Podría hacer que esa tecnología de alta potencia sea más asequible y accesible para todo tipo de aplicaciones.