Los investigadores promueven un futuro más seguro con IA fortaleciendo los algoritmos contra ataques

La confianza es vital para la aceptación generalizada de la IA en todas las industrias, especialmente cuando la seguridad es una preocupación. Por ejemplo, las personas pueden dudar en viajar en un automóvil autónomo sabiendo que la IA que lo maneja puede ser pirateada. Una barrera para aumentar la confianza es que los algoritmos que impulsan la IA son vulnerables a este tipo de ataques.

El Dr. Samson Zhou, profesor asistente en el Departamento de Ciencias de la Computación e Ingeniería de la Universidad Texas A&M, y el Dr. David P. Woodruff, profesor del Departamento de Ciencias de la Computación de la Universidad Carnegie Mellon, esperan fortalecer los algoritmos utilizados por los modelos de IA de big data contra ataques. Los modelos de IA de big data son algoritmos escalables que están diseñados específicamente para manejar y analizar grandes volúmenes de datos.

Zhou y Woodruff están muy lejos de crear algoritmos que sean completamente robustos contra los ataques, pero su objetivo es lograr avances.

«Definitivamente es un objetivo a largo plazo brindar a las personas un algoritmo que venga con una garantía detrás», dijo Woodruff. «Nos gustaría poder decir: ‘Le prometemos que este algoritmo es sólido contra los adversarios’, lo que significa que no importa cuántas consultas le haga a este algoritmo, seguirá dándole la respuesta correcta», dijo Woodruff.

«La gente tiene miedo de subirse a vehículos autónomos cuando saben que un adversario puede provocar un accidente», dijo Zhou. «Esperamos que nuestro trabajo sea un paso para inspirar confianza hacia los algoritmos».

La investigación de Zhou y Woodruff se centra en un tipo de modelo de big data llamado modelo de transmisión. Con un modelo de streaming, la información y los conocimientos deben obtenerse de los datos de inmediato o se perderán porque no se pueden almacenar todos los datos. Ejemplos comunes de modelos de transmisión son aplicaciones que brindan información en tiempo real a los usuarios, como una aplicación de transporte público que muestra la ubicación actual de los autobuses en una ruta.

Desafíos para la creación de algoritmos seguros

Un desafío al que se enfrentan los investigadores cuando intentan crear un algoritmo seguro es la aleatoriedad. Piense en un algoritmo como un conjunto de instrucciones para la IA. La aleatoriedad se incluye en estas instrucciones para ahorrar espacio. Sin embargo, cuando se incluye la aleatoriedad, los ingenieros de un algoritmo no tienen una imagen completa del funcionamiento interno del algoritmo, lo que deja el algoritmo abierto a ataques.

«Cualquier algoritmo que utilice aleatoriedad puede ser atacado porque el atacante aprende su aleatoriedad a través de su interacción con usted», dijo Woodruff. «Y si [the attacker] sabe algo sobre tu aleatoriedad, puede encontrar cosas para alimentar tu algoritmo y forzarlo a fallar».

Woodruff comparó la manipulación de algoritmos con la manipulación del lanzamiento de monedas. «Es posible que tengas una secuencia de lanzamientos de monedas en tu algoritmo, y esa secuencia es realmente buena para resolver la mayoría de los problemas. Pero si el atacante conociera esa secuencia de lanzamientos de monedas, podría encontrar exactamente la entrada correcta que causa que el resultado sea malo. «, dijo Woodruff.

También existen diferentes tipos de ataques. A veces, lo único que saben los atacantes sobre un algoritmo es cómo responde a las consultas. En este caso, los atacantes basan sus consultas futuras en el resultado anterior del algoritmo. A esto se le llama ataque de caja negra. Cuando los atacantes conocen el estado completo del algoritmo, su funcionamiento interno y cómo responde, se trata de un ataque de caja blanca. Zhou y Woodruff quieren defenderse de ambos.

«Los atacantes que conocen los parámetros internos de un algoritmo parecen adversarios mucho más poderosos», dijo Zhou. «Pero en realidad podemos demostrar que todavía hay cosas interesantes que se pueden hacer para defenderse de ellos».

Investigación futura

Al crear un algoritmo que sea robusto contra ataques, Zhou y Woodruff planean desarrollar nuevas conexiones entre las matemáticas y la informática teórica. También buscarán ideas en el campo de la criptografía (cifrado de datos). A través de su investigación, esperan comprender cómo fortalecer los algoritmos contra ataques manteniendo la eficiencia. Quieren identificar los principios subyacentes a las vulnerabilidades de los algoritmos.

Zhou y Woodruff saben que será difícil demostrar que un algoritmo es robusto contra infinitos tipos de ataques y que dará de manera confiable una respuesta precisa.

«A veces no es posible diseñar algoritmos que garanticen la solidez del adversario», dijo Zhou. «A veces no hay forma de promover la solidez del adversario si no se tiene suficiente espacio. En ese caso, deberíamos dejar de intentar diseñar algoritmos que cumplan con estas garantías y, en cambio, buscar otras formas de solucionar estos problemas».

En última instancia, Zhou y Woodruff esperan escribir una monografía basada en su trabajo.