Algoritmos engañosos: las herramientas de IA podrían aumentar la privacidad de los usuarios de las redes sociales

Las herramientas inteligentes de inteligencia artificial podrían proteger la privacidad de los usuarios de las redes sociales engañando a los algoritmos diseñados para predecir sus opiniones personales, sugiere un estudio.

Los asistentes digitales podrían ayudar a evitar que los usuarios revelen sin saberlo sus puntos de vista sobre temas sociales, políticos y religiosos al combatir la IA con IA, dicen los investigadores.

Sus hallazgos sugieren que los asistentes automáticos podrían ofrecer a los usuarios consejos en tiempo real sobre formas de modificar su comportamiento en línea para engañar a las herramientas de detección de opiniones de IA para que sus opiniones permanezcan privadas.

Aumentar la privacidad

El estudio es el primero en identificar cómo los usuarios de Twitter pueden ocultar sus puntos de vista de los algoritmos de detección de opiniones que pueden ayudar a los gobiernos autoritarios o las fuentes de noticias falsas a ser atacados.

Investigaciones anteriores se han centrado en los pasos que los propietarios, en lugar de los usuarios, de las plataformas de redes sociales pueden tomar para mejorar la privacidad, aunque tales acciones pueden ser difíciles de hacer cumplir, dice el equipo.

análisis de twitter

Los investigadores y académicos de Edimburgo de la Universidad de Nueva York en Abu Dabi utilizaron datos de más de 4000 usuarios de Twitter en EE. UU.

El equipo usó los datos para analizar cómo la IA puede predecir las opiniones de las personas, en función de sus actividades y perfiles en línea.

También realizaron pruebas en los diseños de un asistente automatizado para ayudar a los usuarios de Twitter a mantener en privado sus puntos de vista sobre temas potencialmente divisivos como el ateísmo, el feminismo y la política.

Algoritmos engañosos

Sus hallazgos sugieren que una herramienta podría ayudar a los usuarios a ocultar sus puntos de vista mediante la identificación de indicadores clave de sus opiniones en sus perfiles, como las cuentas que siguen y con las que interactúan.

También podría ayudar a ocultar las opiniones de las personas al recomendar acciones que sugieran a los algoritmos que tienen la opinión opuesta.

Vistas de los usuarios

Los investigadores evaluaron la fuerza con la que las personas en Twitter sienten la necesidad de mantener en privado sus opiniones sobre temas divisivos mediante la realización de una encuesta a más de 1000 usuarios de EE. UU.

Entre el 15 % y el 32 % de los participantes con puntos de vista neutrales sobre temas polémicos sintieron fuertemente la necesidad de mantener sus puntos de vista en privado. Incluso entre los usuarios con opiniones firmes, entre el 10 % y el 23 % deseaba reservarse sus opiniones.

A pesar de esto, el equipo descubrió que las actividades en línea de esos usuarios podrían revelar sus creencias a algoritmos maliciosos sin que se den cuenta.

«Nuestra investigación ha demostrado que la IA puede usar una variedad de señales para detectar fácilmente la opinión de los usuarios sobre muchos temas sin que la gente los discuta en línea. Hemos desarrollado una herramienta que puede sugerir cuentas que los usuarios pueden seguir o retuitear para engañar a los algoritmos de detección de opiniones de la IA. por lo que no logran descubrir la postura real de las personas sobre un tema determinado», dice el Dr. Walid Magdy, Escuela de Informática.

El estudio se publica en la revista Nexo PNAS.