La inteligencia artificial puede no ser la solución para detener la propagación de noticias falsas

La desinformación se ha utilizado en guerra y estrategia militar a lo largo del tiempo. Pero es innegable que se está intensificando con el uso de tecnologías inteligentes y redes sociales. Esto se debe a que estas tecnologías de la comunicación brindan una forma relativamente económica y sin barreras para difundir información básicamente en cualquier lugar.

La pregunta del millón de dólares entonces es: ¿Puede este problema de escala y alcance producido tecnológicamente también ser resuelto usando tecnología?

De hecho, el desarrollo continuo de nuevas soluciones tecnológicas, como la inteligencia artificial (IA), puede proporcionar parte de la solución.

Las empresas de tecnología y las empresas de redes sociales están trabajando en la detección automática de noticias falsas a través del procesamiento del lenguaje natural, el aprendizaje automático y el análisis de redes. La idea es que un algoritmo identifique la información como «noticias falsas» y clasificarlo más bajo para disminuir la probabilidad de que los usuarios lo encuentren.

Repetición y exposición

Desde una perspectiva psicológica, La exposición repetida a la misma información hace que sea más probable que alguien la crea.. Cuando la IA detecta desinformación y reduce la frecuencia de su circulación, esto puede romper el ciclo de patrones de consumo de información reforzados.

Sin embargo, la detección de IA sigue siendo poco fiable. Primero, la detección actual se basa en la evaluación del texto (contenido) y su red social para determinar su credibilidad. A pesar de determinar el origen de las fuentes y el patrón de difusión de las noticias falsas, el problema fundamental radica en cómo AI verifica la naturaleza real del contenido.

En teoría, si la cantidad de datos de entrenamiento es suficiente, el modelo de clasificación respaldado por IA podría interpretar si un artículo contiene noticias falsas o no. Sin embargo, la realidad es que hacer tales distinciones requiere conocimientos políticos, culturales y sociales previos, o sentido común, del que aún carecen los algoritmos de procesamiento del lenguaje natural.

Además, las noticias falsas pueden tener muchos matices cuando se modifican deliberadamente para «aparecen como noticias reales pero contienen información falsa o manipuladora, «como muestra un estudio previo a la impresión.

Asociaciones humano-IA

El análisis de clasificación también está muy influenciado por el tema: la IA a menudo diferencia los temas, en lugar de realmente el contenido del problema para determinar su autenticidad. Por ejemplo, es más probable que los artículos relacionados con COVID-19 se etiqueten como noticias falsas que otros temas.

Una solución sería emplear personas para que trabajen junto con la inteligencia artificial para verificar la autenticidad de la información. Por ejemplo, en 2018, el Ministerio de Defensa de Lituania desarrolló un programa de inteligencia artificial que «Señala la desinformación dentro de los dos minutos posteriores a su publicación y envía esos informes a especialistas humanos para su análisis posterior.. «

Se podría adoptar un enfoque similar en Canadá estableciendo una unidad o departamento especial nacional para combatir la desinformación, o apoyando a los think tanks, universidades y otros terceros para investigar soluciones de inteligencia artificial para noticias falsas.

Evitando la censura

El control de la difusión de noticias falsas puede, en algunos casos, considerarse censura y una amenaza para la libertad de expresión. Incluso un ser humano puede tener dificultades para juzgar si la información es falsa o no. Entonces, quizás la pregunta más importante es: ¿Quién y qué determina la definición de noticias falsas? ¿Cómo nos aseguramos de que los filtros de IA no nos arrastren a la trampa de los falsos positivos y etiqueten incorrectamente la información como falsa debido a sus datos asociados?

Un sistema de inteligencia artificial para identificar noticias falsas puede tener aplicaciones siniestras. Los gobiernos autoritarios, por ejemplo, pueden utilizar AI como excusa para justificar la eliminación de cualquier artículo o para enjuiciar a personas que no estén a favor de las autoridades. Por lo tanto, cualquier implementación de IA, y cualquier ley o medida relevante que surja de su aplicación, requerirá un sistema transparente con un tercero para monitorearlo.

Los desafíos futuros siguen siendo la desinformación, especialmente cuando se asocia con la intervención extranjera, como un problema continuo. Es posible que un algoritmo inventado hoy no sea capaz de detectar noticias falsas en el futuro.

Por ejemplo, falsificaciones profundas, que son «manipulación digital de audio o video altamente realista y difícil de detectar«- es probable que juegue un papel más importante en la guerra de información futura. Y la desinformación que se propaga a través de aplicaciones de mensajería como WhatsApp y Signal se está volviendo más difícil de rastrear e interceptar debido al cifrado de extremo a extremo.

Un estudio reciente mostró que El 50 por ciento de los encuestados canadienses recibió noticias falsas a través de aplicaciones de mensajería privada con regularidad.. Regular esto requeriría lograr un equilibrio entre la privacidad, la seguridad individual y la represión de la desinformación.

Si bien definitivamente vale la pena asignar recursos para combatir la desinformación utilizando IA, se necesitan precaución y transparencia dadas las posibles ramificaciones. Las nuevas soluciones tecnológicas, desafortunadamente, pueden no ser una solución milagrosa.

---

---

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.