Cinco minutos de entrenamiento aumentan la capacidad de detectar caras falsas generadas por IA

Cinco minutos de entrenamiento pueden mejorar significativamente la capacidad de las personas para identificar rostros falsos creados por inteligencia artificial, según muestra una nueva investigación.

Científicos de las Universidades de Reading, Greenwich, Leeds y Lincoln probaron la capacidad de 664 participantes para distinguir entre rostros humanos reales y rostros generados por un software informático llamado StyleGAN3. La investigación fue publicado en Ciencia abierta de la Royal Society.

Sin ningún tipo de entrenamiento, los superreconocedores (individuos que obtienen puntuaciones significativamente más altas que el promedio en las pruebas de reconocimiento facial) identificaron correctamente caras falsas el 41% de las veces, mientras que los participantes con habilidades típicas obtuvieron solo el 31%. Si tuvieran los ojos cerrados y adivinaran, la gente obtendría un rendimiento de alrededor del 50% (nivel de probabilidad).

Un nuevo grupo de participantes que recibió un breve procedimiento de capacitación, que destacó errores comunes en la representación por computadora, como patrones de cabello inusuales o números incorrectos de dientes, tuvo una mayor precisión. Los superreconocedores lograron una precisión del 64% en la detección de rostros falsos, mientras que los participantes típicos obtuvieron una precisión del 51%.

La Dra. Katie Gray, investigadora principal de la Universidad de Reading, dijo: «Los rostros generados por computadora plantean riesgos de seguridad genuinos. Se han utilizado para crear perfiles falsos en las redes sociales, eludir los sistemas de verificación de identidad y crear documentos falsos. Los rostros producidos por la última generación de software de inteligencia artificial son extremadamente realistas. La gente a menudo juzga los rostros generados por IA como más realistas que los rostros humanos reales.

«Nuestro procedimiento de formación es breve y fácil de implementar. Los resultados sugieren que combinar esta formación con las habilidades naturales de los superreconocedores podría ayudar a abordar problemas del mundo real, como la verificación de identidades en línea».

El avance del software plantea un difícil desafío

El entrenamiento afectó a ambos grupos por igual, lo que sugiere que los superreconocedores pueden usar señales visuales diferentes a las de los observadores típicos al identificar caras sintéticas, en lugar de simplemente ser mejores para detectar errores de representación.

La investigación probó rostros creados por StyleGAN3, el sistema más avanzado disponible cuando se realizó el estudio. Esto representa un desafío importante en comparación con investigaciones anteriores que utilizaron software más antiguo, ya que los participantes en este estudio tendieron a tener un desempeño más pobre que los de estudios anteriores.

Investigaciones futuras examinarán si los efectos del entrenamiento perduran en el tiempo y cómo las habilidades de los superreconocedores podrían complementar las herramientas de detección de inteligencia artificial.