Rostros generados por IA encontrados más confiables que rostros reales: los investigadores advierten sobre ‘falsificaciones profundas’

Las personas no pueden distinguir entre una cara generada por Inteligencia Artificial, utilizando StyleGAN2, y una cara real, dicen los investigadores, que piden salvaguardas para evitar «falsificaciones profundas».

El texto, el audio, la imagen y el video sintetizados por IA ya se han utilizado para la llamada «pornografía de venganza», el fraude y la propaganda.

La Dra. Sophie Nightingale de la Universidad de Lancaster y el profesor Hany Farid de la Universidad de California, Berkeley, realizaron experimentos en los que se pidió a los participantes que distinguieran los rostros sintetizados StyleGAN2 de última generación de los rostros reales y qué nivel de confianza evocaban los rostros.

Los resultados revelaron que los rostros generados sintéticamente no solo son altamente fotorrealistas, sino que casi no se distinguen de los rostros reales e incluso se consideran más confiables.

Escribiendo en la revista, dicen que: «Nuestra evaluación del realismo fotográfico de rostros sintetizados por IA indica que los motores de síntesis han atravesado el valle inquietante y son capaces de crear rostros que son indistinguibles, y más confiables, que los rostros reales».

Los investigadores advierten sobre las implicaciones de la incapacidad de las personas para identificar imágenes generadas por IA.

«Quizás lo más pernicioso es la consecuencia de que en un mundo digital en el que cualquier imagen o video puede ser falsificado, la autenticidad de cualquier grabación inconveniente o no deseada puede ser cuestionada».

• En el primer experimento, 315 participantes clasificaron 128 rostros tomados de un conjunto de 800 como reales o sintetizados. Su tasa de precisión fue del 48 %, cerca de una probabilidad de rendimiento del 50 %.
• En un segundo experimento, 219 nuevos participantes fueron capacitados y recibieron comentarios sobre cómo clasificar rostros. Clasificaron 128 rostros tomados del mismo conjunto de 800 rostros que en el primer experimento, pero a pesar de su entrenamiento, la tasa de precisión solo mejoró al 59 %.

Los investigadores decidieron averiguar si las percepciones de confiabilidad podrían ayudar a las personas a identificar imágenes artificiales.

«Los rostros brindan una rica fuente de información, con una exposición de solo milisegundos suficiente para hacer inferencias implícitas sobre rasgos individuales como la confiabilidad. Nos preguntamos si los rostros sintéticos activan los mismos juicios de confiabilidad. De lo contrario, una percepción de confiabilidad podría ayudar a distinguir los rostros reales. de caras sintéticas».

Un tercer estudio pidió a 223 participantes que calificaran la confiabilidad de 128 rostros tomados del mismo conjunto de 800 rostros en una escala de 1 (muy poco confiable) a 7 (muy confiable).

La calificación promedio para las caras sintéticas fue un 7,7 % MÁS confiable que la calificación promedio para las caras reales, lo cual es estadísticamente significativo.

«Quizás lo más interesante es que descubrimos que las caras generadas sintéticamente son más confiables que las caras reales».

Las caras negras se calificaron como más confiables que las caras del sur de Asia, pero por lo demás no hubo ningún efecto entre razas.

Las mujeres fueron calificadas como significativamente más confiables que los hombres.

«Es más probable que una cara sonriente se califique como confiable, pero el 65,5 % de las caras reales y el 58,8 % de las caras sintéticas sonríen, por lo que la expresión facial por sí sola no puede explicar por qué las caras sintéticas se califican como más confiables».

Los investigadores sugieren que las caras sintetizadas pueden considerarse más confiables porque se parecen a las caras promedio, que a su vez se consideran más confiables.

Para proteger al público de las «falsificaciones profundas», también propusieron pautas para la creación y distribución de imágenes sintetizadas.

«Las salvaguardas podrían incluir, por ejemplo, la incorporación de marcas de agua robustas en las redes de síntesis de imágenes y videos que proporcionarían un mecanismo posterior para una identificación confiable. Debido a que es la democratización del acceso a esta poderosa tecnología lo que representa la amenaza más importante, también fomentar la reconsideración del enfoque a menudo de laissez-faire para el público y la liberación sin restricciones de código para que cualquiera lo incorpore a cualquier aplicación.

«En este momento crucial, y como lo han hecho otros campos científicos y de ingeniería, alentamos a la comunidad gráfica y visual a desarrollar pautas para la creación y distribución de tecnologías de medios sintéticos que incorporen pautas éticas para investigadores, editores y distribuidores de medios».