Los métodos astronómicos aplicados a los reflejos en los ojos podrían ayudar a detectar deepfakes

En una era en la que la creación de imágenes de inteligencia artificial (IA) está al alcance de las masas, la capacidad de detectar imágenes falsas (en particular, deepfakes de personas) se está volviendo cada vez más importante.

¿Y si pudiéramos saberlo con sólo mirar a alguien a los ojos?

Ese es el hallazgo convincente de una nueva investigación compartida en la Reunión Nacional de Astronomía de la Royal Astronomical Society (NOAL 2024) en Hull, que se celebró del 14 al 19 de julio, lo que sugiere que las falsificaciones generadas por IA pueden detectarse analizando los ojos humanos de la misma manera que los astrónomos estudian imágenes de galaxias.

El punto central del trabajo, realizado por Adejumoke Owolabi, estudiante de maestría de la Universidad de Hull, gira en torno al reflejo en los ojos de una persona.

Si los reflejos coinciden, es probable que la imagen sea la de un ser humano real. Si no es así, es probable que se trate de una falsificación.

«Los reflejos en los globos oculares son consistentes para la persona real, pero incorrectos (desde el punto de vista físico) para la persona falsa», dijo Kevin Pimbblet, profesor de astrofísica y director del Centro de Excelencia en Ciencias de Datos, Inteligencia Artificial y Modelado de la Universidad de Hull.

Los investigadores analizaron los reflejos de la luz en los globos oculares de personas en imágenes reales y generadas por IA. Luego emplearon métodos que se usan habitualmente en astronomía para cuantificar los reflejos y comprobaron la coherencia entre los reflejos del globo ocular izquierdo y el derecho.

Las imágenes falsas a menudo carecen de consistencia en los reflejos entre cada ojo, mientras que las imágenes reales generalmente muestran los mismos reflejos en ambos ojos.

«Para medir la forma de las galaxias, analizamos si son compactas en su centro, si son simétricas y cuán suaves son. Analizamos la distribución de la luz», dijo el profesor Pimbblet.

«Detectamos los reflejos de forma automatizada y pasamos sus características morfológicas a través del CAS [concentration, asymmetry, smoothness] y los índices de Gini para comparar la similitud entre los globos oculares izquierdo y derecho.

«Los hallazgos muestran que los deepfakes tienen algunas diferencias entre ambos».

El coeficiente de Gini se utiliza normalmente para medir cómo se distribuye la luz en una imagen de una galaxia entre sus píxeles. Esta medida se realiza ordenando los píxeles que componen la imagen de una galaxia en orden ascendente por flujo y luego comparando el resultado con lo que se esperaría de una distribución de flujo perfectamente uniforme.

Un valor de Gini de 0 es una galaxia en la que la luz se distribuye uniformemente entre todos los píxeles de la imagen, mientras que un valor de Gini de 1 es una galaxia con toda la luz concentrada en un solo píxel.

El equipo también probó los parámetros CAS, una herramienta desarrollada originalmente por astrónomos para medir la distribución de la luz de las galaxias y determinar su morfología, pero descubrió que no era un predictor exitoso de ojos falsos.

«Es importante tener en cuenta que esto no es una solución milagrosa para detectar imágenes falsas», añadió el profesor Pimbblet.

«Hay falsos positivos y falsos negativos; no se puede detectar todo, pero este método nos proporciona una base, un plan de ataque, en la carrera armamentística para detectar deepfakes».