¿Qué tan comunes son las imágenes de perfil falsas en Twitter?

Los perfiles automatizados de redes sociales son una herramienta poderosa para difundir propaganda. A menudo incluyen imágenes de perfil generadas por IA. Actualmente, los investigadores están buscando formas de identificar este tipo de imágenes.

Investigadores de Bochum unieron fuerzas con sus colegas de Colonia y Saarbrücken para investigar el número de imágenes de perfil generadas mediante inteligencia artificial (IA) en la red social Twitter (rebautizada como X). Analizaron casi 15 millones de cuentas y descubrieron que el 0,052% de ellas utilizaba una imagen de una persona generada por IA como avatar.

«Puede que no parezca mucho, pero este tipo de imágenes ocupan un lugar destacado en Twitter», dice el autor principal Jonas Ricker de la Universidad Ruhr de Bochum, Alemania. «Nuestros análisis también indican que muchas de las cuentas son perfiles falsos que difunden, por ejemplo, propaganda política y teorías de conspiración».

El equipo presentó su recomendaciones el 1 de octubre en Padua en el 27º Simposio Internacional sobre Investigación en Ataques, Intrusiones y Defensas (RAID 2024).

Para su estudio, los investigadores de la Universidad del Ruhr en Bochum se asociaron con colegas del Centro Helmholtz para la Seguridad de la Información CISPA en Saarbrücken y el Instituto Leibniz de Ciencias Sociales GESIS en Colonia.

Miles de cuentas con fotos de perfil falsas

«La versión actual de la IA nos permite crear imágenes engañosamente reales que pueden aprovecharse en las redes sociales para crear cuentas que parecen reales», explica Ricker. Hasta la fecha, se han llevado a cabo pocas investigaciones sobre cuán extendidas están estas imágenes de perfil generadas por IA.

Los investigadores entrenaron una herramienta de inteligencia artificial para distinguir entre imágenes reales y generadas por IA. Este modelo se utilizó para realizar un análisis automatizado de las imágenes de perfil de alrededor de 15 millones de cuentas de Twitter, basándose en datos recopilados en marzo de 2023.

Después de excluir de su conjunto de datos todas las cuentas que no tenían una imagen de retrato como avatar, los investigadores dejaron aproximadamente el 43% de todas las cuentas en el análisis. El modelo clasificó 7.723 de ellos como generados por IA. Además, los investigadores realizaron controles manuales aleatorios para verificar los resultados.

En el siguiente paso, el equipo examinó cómo se comportaban en la plataforma las cuentas con imágenes generadas por IA en comparación con las cuentas con imágenes de personas reales. Las cuentas de imágenes falsas tenían menos seguidores en promedio y, a cambio, seguían menos cuentas.

«También notamos que más de la mitad de las cuentas con imágenes falsas se crearon por primera vez en 2023; en algunos casos, se crearon cientos de cuentas en cuestión de horas, una clara indicación de que no eran usuarios reales», concluye Ricker. .

Nueve meses después de la recopilación inicial de datos, los investigadores comprobaron si las cuentas con imágenes falsas y un número igual de cuentas con imágenes reales todavía estaban activas y descubrieron que más de la mitad de las cuentas con imágenes falsas habían sido bloqueadas por Twitter en ese momento. «Ese es otro indicio más de que se trata de cuentas que han actuado de mala fe», afirma Ricker.

Desinformación y propaganda política

Los investigadores también analizaron el contenido que las cuentas de imágenes falsas difunden en Twitter. Surgieron algunos temas recurrentes, como la política, a menudo con referencias a Trump, la COVID-19 y las vacunas, la guerra en Ucrania, las loterías y las finanzas, incluidas las criptomonedas. «Sólo podemos especular sobre lo que sucede allí», afirma Ricker. «Pero es justo suponer que algunas cuentas fueron creadas para difundir desinformación y propaganda política específicas».

En el futuro, el equipo planea seguir trabajando en la detección automatizada de imágenes falsas, incluidas las generadas por modelos de IA más recientes. En el estudio actual, los investigadores se limitaron al modelo «StyleGAN 2», en el que se basa el sitio web thispersondoesnotexist.com. Este sitio web se puede utilizar para generar imágenes falsas de personas con solo un clic.

«Suponemos que este sitio se utiliza a menudo para generar imágenes de perfil generadas por IA», afirma Ricker. «Esto se debe a que estas imágenes generadas por IA son más difíciles de rastrear que cuando alguien usa una imagen real de un extraño como avatar».