La nueva extensión del navegador permite a los usuarios luchar contra la desinformación en línea

La mayoría de la gente está de acuerdo en que la difusión de información errónea en línea es un problema grave. Pero hay mucho menos consenso sobre qué hacer al respecto.

Muchas soluciones propuestas se centran en cómo las plataformas de redes sociales pueden o deben moderar el contenido que publican sus usuarios para evitar que se difunda información errónea.

«Pero este enfoque pone una decisión social crítica en manos de empresas con fines de lucro. Limita la capacidad de los usuarios para decidir en quién confían. Y tener plataformas a cargo no ayuda en nada a combatir la información errónea que los usuarios encuentran en otras fuentes en línea», dice Farnaz Jahanbakhsh SM ’21, Ph.D. ’23, que actualmente realiza un postdoctorado en la Universidad de Stanford.

Ella y el profesor del MIT David Karger han propuesto una estrategia alternativa. Crearon una extensión de navegador web que permite a las personas detectar información errónea e identificar a otras personas en las que confían para evaluar el contenido en línea.

Su enfoque descentralizado, llamado extensión del navegador Trustnet, pone el poder de decidir qué constituye información errónea en manos de usuarios individuales en lugar de una autoridad central. Es importante destacar que la extensión universal del navegador funciona para cualquier contenido de cualquier sitio web, incluidas publicaciones en sitios de redes sociales, artículos en agregadores de noticias y videos en plataformas de transmisión.

A través de un estudio de dos semanas, los investigadores descubrieron que personas no capacitadas podían utilizar la herramienta para evaluar eficazmente la información errónea. Los participantes dijeron que tener la capacidad de evaluar el contenido y ver las evaluaciones de otras personas en las que confían les ayudó a pensar críticamente al respecto.

«En el mundo actual, es trivial que los malos actores creen cantidades ilimitadas de información errónea que parezca precisa, bien fundamentada y cuidadosamente argumentada. La única forma de protegernos de esta avalancha será confiar en información que haya sido verificada por fuentes confiables. Trustnet presenta una visión de cómo podría ser ese futuro», afirma Karger.

Jahanbakhsh, quien realizó esta investigación mientras era estudiante de posgrado en ingeniería eléctrica e informática (EECS) en el MIT, y Karger, profesora de EECS y miembro del Laboratorio de Ciencias de la Computación e Inteligencia Artificial (CSAIL), detallan sus hallazgos en un artículo presentado esta semana en la Conferencia ACM sobre factores humanos en sistemas informáticos (CHI 2024). El investigación también está disponible en el arXiv servidor de preimpresión.

Luchando contra la desinformación

Este nuevo artículo se basa en su trabajo anterior sobre la lucha contra la desinformación en línea. Los investigadores crearon una plataforma de redes sociales llamada Trustnet, que permitió a los usuarios evaluar la precisión del contenido y especificar usuarios confiables cuyas evaluaciones querían ver.

Pero en el mundo real, pocas personas probablemente migrarían a una nueva plataforma de redes sociales, especialmente cuando ya tienen amigos y seguidores en otras plataformas. Por otro lado, pedir a las empresas de redes sociales que proporcionen a los usuarios capacidades de evaluación de contenidos sería una batalla cuesta arriba que tal vez requiera legislación. Incluso si existieran regulaciones, harían poco para detener la información errónea en otras partes de la web.

En cambio, los investigadores buscaron una solución independiente de la plataforma, lo que los llevó a crear la extensión del navegador Trustnet.

Los usuarios de la extensión hacen clic en un botón para evaluar el contenido, lo que abre un panel lateral donde lo etiquetan como preciso, inexacto o cuestionan su exactitud. Pueden proporcionar detalles o explicar sus fundamentos en un cuadro de texto adjunto.

Los usuarios también pueden identificar a otras personas en las que confían para realizar evaluaciones. Luego, cuando el usuario visita un sitio web que contiene evaluaciones de estas fuentes confiables, el panel lateral aparece automáticamente para mostrarlas.

Además, los usuarios pueden optar por seguir a otras personas además de sus asesores de confianza. Pueden optar por ver evaluaciones de contenido de aquellos a quienes siguen caso por caso. También pueden utilizar el panel lateral para responder preguntas sobre la precisión del contenido.

«Pero la mayor parte del contenido que encontramos en la web está integrado en un feed de redes sociales o se muestra como un enlace en una página de agregación, como la página principal de un sitio web de noticias. Además, algo que sabemos por trabajos anteriores es que los usuarios normalmente no Ni siquiera hacen clic en los enlaces cuando los comparten», dice Jahanbakhsh.

Para solucionar esos problemas, los investigadores diseñaron la extensión Trustnet para verificar todos los enlaces en la página que un usuario está leyendo. Si fuentes confiables han evaluado el contenido de alguna página vinculada, la extensión coloca indicadores junto a esos vínculos y atenuará el texto de los vínculos al contenido considerado inexacto.

Uno de los mayores desafíos técnicos que enfrentaron los investigadores fue habilitar la funcionalidad de verificación de enlaces, ya que los enlaces suelen pasar por múltiples redirecciones. También se les retó a tomar decisiones de diseño que se adaptaran a una variedad de usuarios.

Evaluaciones diferentes

Para ver cómo las personas utilizarían Trustnet Extension, llevaron a cabo un estudio de dos semanas en el que a 32 personas se les asignó la tarea de evaluar dos contenidos por día.

Los investigadores se sorprendieron al ver que el contenido que estos usuarios no capacitados elegían para evaluar, como consejos para mejorar el hogar o chismes de celebridades, a menudo era diferente del contenido evaluado por profesionales, como artículos de noticias. Los usuarios también dijeron que valorarían las evaluaciones de personas que no fueran verificadores de datos profesionales, como que los médicos evaluaran el contenido médico o los inmigrantes evaluaran el contenido relacionado con asuntos exteriores.

«Creo que esto muestra que lo que los usuarios necesitan y los tipos de contenido que consideran importante evaluar no se alinean exactamente con lo que se les entrega. Un enfoque descentralizado es más escalable, por lo que se podría evaluar más contenido», dice Jahanbakhsh.

Sin embargo, los investigadores advierten que permitir que los usuarios elijan en quién confiar podría hacer que queden atrapados en su propia burbuja y solo vean contenido que esté de acuerdo con sus puntos de vista.

Este problema podría mitigarse identificando relaciones de confianza de una manera más estructurada, tal vez sugiriendo que un usuario siga a ciertos asesores confiables, como la FDA.

En el futuro, Jahanbakhsh quiere seguir estudiando las relaciones de confianza estructuradas y las implicaciones más amplias de descentralizar la lucha contra la desinformación. También quiere ampliar este marco más allá de la desinformación. Por ejemplo, se podría utilizar la herramienta para filtrar contenido que no simpatiza con un determinado grupo protegido.

«Se ha prestado menos atención a los enfoques descentralizados porque algunas personas piensan que los individuos no pueden evaluar el contenido», afirma. «Nuestros estudios han demostrado que eso no es cierto. Pero los usuarios no deberían quedarse indefensos para resolver las cosas por sí solos. Podemos poner a su disposición la verificación de datos, pero de una manera que les permita elegir el contenido que quieren ver.»

Esta historia se republica por cortesía de MIT News (web.mit.edu/newsoffice/), un sitio popular que cubre noticias sobre investigación, innovación y enseñanza del MIT.