Los investigadores mejoran la seguridad de los sistemas inteligentes

En un mundo cada vez más conectado e inteligente, los sensores recopilan y comparten grandes cantidades de datos para ayudar a las personas a tomar decisiones.

Ya sea que se trate de la red inteligente que monitorea continuamente el uso de energía o de personas que intentan rastrear una condición de salud, las personas reciben cantidades cada vez mayores de datos en formas que pueden ser difíciles de descifrar.

Un grupo de investigadores de WSU ha desarrollado recientemente una forma de analizar estadísticamente datos de sensores tan complejos, de modo que los algoritmos informáticos que toman decisiones basadas en datos puedan ser más resistentes y más capaces de hacer frente a pequeños errores. El trabajo tiene aplicaciones en muchos campos, incluida la salud móvil, los hogares inteligentes, la red eléctrica y la agricultura. Recientemente presentaron su trabajo en el Conferencia Internacional de Diseño Asistido por Computadora 2022 en san diego

«Esta es una contribución importante y novedosa en el área de seguridad de los sistemas de aprendizaje automático», dijo Jana Doppa, profesora asociada de informática de la cátedra Huie-Rogers Endowed, quien dirigió el trabajo.

Los algoritmos de aprendizaje automático se utilizan cada vez más para muchas aplicaciones, como la gestión de redes inteligentes o la agricultura inteligente. Entonces, por ejemplo, podrían recopilar datos de sensores en campos agrícolas e instrumentos meteorológicos para aprender y predecir los tiempos óptimos de riego. Los datos recopilados para muchas aplicaciones inteligentes se presentan en forma de series de tiempo, que es un conjunto de datos que rastrea una muestra a lo largo del tiempo y proporciona una secuencia de puntos de datos de marca de tiempo.

Desafortunadamente, mientras que las computadoras recopilan información y arrojan estas líneas y gráficos de series de tiempo todo el día, las personas no están preparadas para leerlos y comprenderlos fácilmente. Más importante aún, es posible que pasen por alto cambios pequeños pero importantes, incluso los que se realizan de forma malintencionada.

«Este tipo de datos de series de tiempo son difíciles de entender para los humanos», dijo Taha Belkhouja, estudiante de posgrado en la Escuela de Ingeniería Eléctrica y Ciencias de la Computación que ha estado trabajando en el problema durante los últimos tres años. «Si introducimos una pequeña perturbación en esta secuencia de marcas de tiempo, entonces no sabría si realmente hicimos la perturbación o no y si esa lectura es correcta o no».

A medida que el aprendizaje automático se integra en más sistemas, la seguridad de esos sistemas ha sido un problema poco estudiado, dijo Doppa. Los ataques adversarios pueden ocurrir cuando un atacante obtiene acceso a sensores inteligentes y luego induce pequeñas perturbaciones en los datos de una manera que no sería perceptible para una persona que observa los datos. Las perturbaciones pueden conducir a una falla del proceso de predicción y toma de decisiones.

“Ese es un desafío desde el punto de vista de la interpretabilidad, lo que significa que en realidad es una gran ventaja para un adversario que quiere romper algunas de estas infraestructuras”, dijo. «No puedes notar lo que está bien y lo que está mal».

En su trabajo, los investigadores de WSU introdujeron una capa de seguridad en su algoritmo de aprendizaje automático que busca posibles perturbaciones y determina la probabilidad estadística de que sucedan, proporcionando resistencia al sistema y evitando fallas importantes. Al trabajar con dispositivos portátiles de monitoreo de la salud, los investigadores usaron su algoritmo para dar cuenta automáticamente de las perturbaciones de los datos del sensor del mundo real y mejoraron su precisión en un 50 % en comparación con los algoritmos estándar de aprendizaje automático que pueden funcionar solo con datos limpios.

Debido a que el algoritmo analiza la probabilidad estadística de los escenarios, el equipo de WSU también ahorró energía computacional en comparación con los algoritmos tradicionales que deben volver a calibrarse después del hecho. En términos prácticos, el ahorro de energía se traduciría en una menor demanda de las baterías de un dispositivo.

Además de Belkhouja y Doppa, los investigadores de este proyecto incluyeron a Ganapati Bhat y Yan Yan, profesores asistentes en la Escuela de Ingeniería Eléctrica y Ciencias de la Computación, y la estudiante graduada Dina Hussein.

«Resolver este problema complejo requiere experiencia en múltiples áreas y todos los miembros del equipo del proyecto hicieron contribuciones sinérgicas», dijo Doppa.