El algoritmo probabilístico se dirige al problema de noticias falsas de las redes sociales

Las noticias falsas en las redes sociales son cada vez más fáciles de extender y más difíciles de detectar. Eso es gracias a la inteligencia artificial (IA) cada vez más poderosa y los recortes a los recursos de verificación de hechos mediante plataformas principales.

Esto es especialmente preocupante durante las elecciones, cuando los actores locales e internacionales pueden usar imágenes, texto, audio y contenido de video para difundir información errónea.

Sin embargo, al igual que la IA y los algoritmos pueden propagar noticias falsas, pueden usarse para detectarla. Investigadores de la Escuela de Ingeniería e Informática Gina Cody de Concordia han desarrollado un nuevo enfoque para identificar noticias falsas. Y dicen que podrá encontrar patrones ocultos que revelen si un elemento en particular es probablemente falso o no.

El modelo, llamado SmoothDetector, integra un algoritmo probabilístico con una red neuronal profunda. Está diseñado para capturar las incertidumbres y patrones clave en las representaciones latentes compartidas de textos e imágenes en una configuración multimodal. El modelo utiliza datos anotados de texto e imágenes de la plataforma de redes sociales con sede en los Estados Unidos X y Weibo con sede en China para aprender. Los investigadores actualmente están buscando formas de incorporar finalmente funcionalidades para detectar contenido falso de audio y video, aprovechando cada medio para contrarrestar la información errónea.

«SmoothDetector puede descubrir patrones complejos de datos anotados, combinando el poder expresivo del aprendizaje profundo con una capacidad de algoritmo probabilístico para cuantificar la incertidumbre, entregando una predicción segura de la autenticidad de un elemento», dice el doctorado. Candidato Akinlolu Ojo. Describe el modelo en el diario Acceso IEEE.

Una de las complejidades que aprende el modelo es el tono. La codificación posicional le da al modelo la capacidad de aprender el significado de una determinada palabra en relación con los demás en una oración, proporcionándole una coherencia a la oración. La misma técnica se usa en las imágenes.

«La innovación de nuestro modelo radica en su enfoque probabilístico», dice Ojo.

Aprendiendo posible ambigüedad

SmoothDetector se basa en modelos multimodales de detección de noticias falsos existentes aunque todavía relativamente nuevos, explica Ojo. Los modelos anteriores solo pueden examinar un modo a la vez, texto, imagen o audio o video, en lugar de todos los modos de una publicación simultáneamente. Eso significaba que una publicación con texto falso, pero una foto precisa podría etiquetarse como un falso positivo o negativo.

Esto podría crear una confusión adicional, especialmente con respecto a las noticias de última hora, cuando se generan grandes cantidades de información rápidamente y puede ser contradictoria.

«Queríamos capturar estas incertidumbres para asegurarnos de que no estábamos haciendo un juicio simple sobre si algo era falso o real», dice Ojo. «Es por eso que estamos trabajando con un modelo probabilístico. Puede monitorear o controlar el juicio del modelo de aprendizaje profundo. No solo confiamos en el patrón directo en la información».

SmoothDetector obtiene su nombre del suavizado de la distribución de probabilidad de un resultado: en lugar de decidir directamente que un contenido es falso o real, evalúa la incertidumbre inherente en los datos y cuantifica la probabilidad de suavizar la probabilidad, ofreciendo un juicio más matizado de la autenticidad de un artículo.

«Esto hace que sea más versátil capturar información o correlación positiva y negativa», agrega.

Ojo dice que aunque se necesita más trabajo para que el modelo sea realmente multimodal y capaz de analizar datos de audio y visuales, es transferible a otras plataformas además de X y Weibo.

Nizar Bouguila, profesor del Instituto Concordia de Ingeniería de Sistemas de Información, contribuyó a este documento, junto con el Profesor Asistente Fatma Najar, Ph.D. 22, en el John Jay College of Criminal Justice, con los profesores asistentes Nuha Zamzami, Ph.D. 20, y Hanen Himdi en la Universidad de Jeddah en Arabia Saudita.