Los investigadores desarrollan enfoques innovadores para abordar la información falsa en múltiples frentes

A medida que el uso de Internet se convierte en una parte integral de nuestra vida diaria, muchas personas dependen de diversas fuentes en línea para obtener información. Si bien Internet ofrece mayor comodidad y una gama más amplia de fuentes de noticias, la difusión de información falsa se ha convertido en uno de los mayores desafíos de este siglo, exacerbado por el auge de la inteligencia artificial generativa. La difusión de información falsa, ya sea en forma de información errónea, desinformación o información errónea (MDM, por sus siglas en inglés), puede llevar a personas y organizaciones a tomar decisiones perjudiciales, y se ha demostrado que crea divisiones sociales en torno a cuestiones críticas y polémicas.

Un equipo de investigación, que incluye miembros de varias facultades, incluida la Facultad de Artes y Ciencias Sociales, la Escuela de Negocios NUS, la Escuela de Computación, la Facultad de Diseño e Ingeniería, la Facultad de Derecho y la Escuela de Políticas Públicas Lee Kuan Yew, está abordando la cuestión de información falsa de frente a través de un programa conocido como Giroscopio de Información (iGyro).

Se trata de una iniciativa de investigación integral de cinco años que busca identificar y abordar vulnerabilidades en el canal de información digital, desarrollar estrategias para mejorar la resiliencia digital entre los usuarios en línea y promover comportamientos que fomenten el compromiso con información confiable. Dirigido por el profesor Chen Tsuhan, el equipo interdisciplinario de 40 investigadores está comprometido a comprender y dar forma al panorama en evolución de la información digital.

«En la aviación, un giroscopio proporciona estabilidad y orientación para mantener un control preciso de una aeronave. De manera similar, iGyro muestra los esfuerzos de nuestro equipo para mantener la estabilidad frente a un panorama de información cambiante y caótico. También simboliza la naturaleza interdisciplinaria del equipo. con experiencia que abarca disciplinas como las ciencias sociales, la informática, la ingeniería y el derecho», afirmó el profesor Chen.

Al adoptar un marco holístico de tres capas, el equipo de iGyro sitúa la comprensión y la configuración del comportamiento humano en el centro de su investigación. La siguiente capa de su marco es el dominio de la tecnología, cuyo objetivo es comprender las diferentes etapas del proceso de información digital, desde la creación hasta la difusión y el consumo. Finalmente, la capa más externa de su marco estudia el impacto potencial de las estrategias de mitigación, así como el papel de las regulaciones y políticas utilizadas para implementar estas estrategias.

El equipo de iGyro publicado un artículo de revista en Gobierno digital: investigación y práctica explicando cómo el equipo de iGyro ha aplicado el marco de tres capas para examinar el ciclo de vida del contenido creado por inteligencia artificial generativa, desde la creación hasta el consumo. Al poner un fuerte énfasis en el comportamiento humano, el equipo de iGyro destacó las vulnerabilidades y abogó por políticas adaptativas y basadas en evidencia para mejorar la integridad de la información y la confianza pública en los ecosistemas digitales.

Desde su creación en 2023, el equipo de iGyro también ha logrado avances alentadores en el desarrollo de herramientas para combatir la difusión de información falsa.

SNIFFER: un modelo de lenguaje grande multimodal para detectar información errónea

La desinformación fuera de contexto, en la que imágenes auténticas se combinan con texto falso que no es representativo de la imagen, es una de las formas más fáciles y efectivas de difundir información falsa y engañar al público. Sin embargo, las tecnologías actuales carecen de explicaciones convincentes para sus juicios, lo cual es esencial para desacreditar la información errónea.

Para abordar la desinformación fuera de contexto, un equipo dirigido por los investigadores principales de iGyro, el profesor Wynne Hsu y el profesor Lee Mong Li, de la Escuela de Computación NUS, desarrolló SNIFFER, un novedoso modelo multimodal de lenguaje grande (MLLM) diseñado para detectar y explicar información errónea fuera de contexto en imágenes y leyendas.

SNIFFER utiliza un modelo de inteligencia artificial (IA) especializado para realizar un análisis doble. El primer paso implica una verificación interna de la coherencia entre la imagen y el título. El segundo paso extrae información de fuentes externas para examinar la relevancia entre el contexto de la imagen y el título proporcionado. Con base en los resultados de estos dos pasos, SNIFFER determinará la autenticidad del par imagen-título para llegar a un juicio final y una explicación de si el par es engañoso o no.

Se ha descubierto que SNIFFER supera el rendimiento de los modelos MLLM anteriores en un 40 % y lleva a cabo sus tareas de detección de información errónea con mayor precisión en comparación con otros métodos de detección de última generación. Los investigadores esperan que con más mejoras, SNIFFER pueda estar disponible públicamente para ayudar a los usuarios a identificar información fuera de contexto.

QACheck: una herramienta para la verificación de datos guiada por preguntas

La disponibilidad de herramientas fiables de verificación de datos es una forma de combatir la difusión de información falsa. Sin embargo, la verificación de hechos a través de fuentes en línea implica un proceso de razonamiento complejo y de varios pasos. Muchos sistemas de verificación de datos existentes también carecen de transparencia en su proceso de toma de decisiones, lo que dificulta que los usuarios obtengan una explicación razonable de sus conclusiones.

Para abordar este problema, el investigador principal de iGyro, el profesor asociado Kan Min-Yen, de la Escuela de Computación de NUS, junto con su equipo de investigación, trabajó con colaboradores internacionales para desarrollar el sistema de verificación de hechos Multihop guiado por preguntas (QACheck), que dirige el razonamiento del modelo planteando una serie de preguntas críticas necesarias para verificar una afirmación.

QACheck consta de cinco módulos principales: un verificador de reclamos, un generador de preguntas, un módulo de respuesta a preguntas, un validador de control de calidad y un razonador. Los usuarios pueden ingresar un reclamo en QACheck, que luego evalúa su precisión y produce un informe detallado que describe el proceso de razonamiento a través de una serie de preguntas y respuestas. La herramienta también cita las fuentes de evidencia para cada pregunta, promoviendo una experiencia de verificación de hechos transparente, explicable y fácil de usar.

El siguiente paso del equipo es aumentar la amplitud y profundidad de QACheck integrando bases de conocimiento adicionales e incorporando una interfaz multimodelo para admitir diferentes formatos de datos, como imágenes, tablas y gráficos, para ampliar la capacidad del sistema para procesar y analizar estos formatos.

Mapeo de la legislación global implementada contra las noticias falsas

A medida que las fuentes de información digital se vuelven sofisticadas y evolucionan rápidamente, las regulaciones y políticas deben adaptarse y mantenerse al día con este panorama dinámico.

Un equipo dirigido por el investigador principal de iGyro, el profesor Simon Chesterman, de la Facultad de Derecho de NUS, creó un mapa interactivo del panorama global de los esfuerzos legislativos contra las noticias falsas y la desinformación para ilustrar cómo las leyes destinadas a abordar el MDM han evolucionado a nivel mundial desde 1995 hasta 2023.

En particular, el equipo descubrió que estas leyes se introdujeron inicialmente en países con menos libertades civiles, particularmente en África y Asia. Más recientemente, las naciones asiáticas han contribuido significativamente al aumento de dicha legislación, otorgando a menudo mayores poderes a sus gobiernos. El equipo también descubrió que la expansión de estas leyes se ha acelerado más rápidamente en los países occidentales, incluidos Estados Unidos, Canadá y la Unión Europea.

A través de este mapa interactivo, el equipo de iGyro espera realizar un análisis más profundo de los tipos de leyes que rigen la información digital y la efectividad de los diferentes enfoques adoptados por diferentes países para combatir las noticias falsas. Los valiosos conocimientos obtenidos de su investigación ayudarían a dar forma a las políticas futuras para todos los países.

«Esperamos que al desarrollar herramientas innovadoras, como SNIFFER y QACheck, y analizar el panorama legislativo global contra las noticias falsas y la desinformación para dar forma a políticas futuras, podamos crear un ecosistema de información digital confiable y capacitar a los usuarios para que tengan una Internet confiable para acceder a la información. «, dijo el profesor Chen.