Los hallazgos inquietantes revelan plataformas de Internet no reguladas como caldo de cultivo para el racismo, la misoginia, el odio religioso

Si bien los sitios convencionales han tomado medidas para moderar el contenido dañino, las plataformas menos reguladas, como 4chan, continúan fomentando una comunidad turbia de discurso de odio en línea.

La plataforma 4Chan es un tablón de anuncios basado en imágenes de propiedad japonesa utilizada en todo el mundo, donde las personas pueden publicar comentarios y compartir imágenes, con más de 22 millones de visitantes únicos al mes.

Es infame por su naturaleza anónima y su moderación mínima, lo que lo convierte en un estudio de caso único para analizar el discurso de odio.

Plataformas como estas siguen siendo calzadas de reproducción para ideologías extremas, con el último estudio que profundiza en la inquietante prevalencia del discurso de odio en el tablón de discusión políticamente incorrecto de 4Chan, conocido como /pol /, utilizando técnicas de aprendizaje de IA de punta de vanguardia y máquinas.

Las publicaciones en 4chan también incluyen varias formas de odio, incluidas contra mujeres y niñas.

Los hallazgos inquietantes revelaron que el 11.2% de los puestos contenían un discurso de odio, dirigido a varias comunidades basadas en la raza, la religión, el género y la orientación sexual. Entre las diferentes categorías:

• El racismo fue el más frecuente, representando el 35.9% de las publicaciones de odio.
• El odio religioso siguió de cerca, lo que representa el 23.3%.
• El odio de orientación sexual comprendía el 16,5%.
• El sexismo se encontró en el 12% de las discusiones de odio.

Utilizando técnicas de modelado de temas en la investigación, se identificaron temas recurrentes en estas discusiones odiosas.

El discurso de odio racial a menudo incorporaba teorías de conspiración y retórica deshumanizadora. El odio religioso se dirigió en gran medida a las comunidades judías y musulmanas, llenas de estereotipos y lenguaje agresivo. Mientras tanto, el sexismo en / pol / mostró fuertes tendencias misóginas, reduciendo a las mujeres a etiquetas y objetivaciones despectivas.

La investigación empleó modelos de procesamiento del lenguaje natural (PNL) de última generación, incluidos Roberta y Detoxify, para medir el alcance y los tipos de discursos de odio que se encuentran en plataformas políticamente incorrectas.

Con un conjunto de datos de medio millón de publicaciones recopilados con el tiempo, el estudio tuvo como objetivo cuantificar la escala del discurso nocivo y descubrir sus patrones ocultos.

Los objetivos clave incluyen medir la prevalencia de diferentes formas de discurso de odio en /pol /, evaluar la toxicidad de las discusiones y su impacto en la seguridad digital e identificar temas recurrentes dentro del discurso de odio para comprender mejor su contexto.

Dr. Adrian Bermúdez-Villalva, autor principal de la papel publicado en Transacciones IEEE sobre tecnología y sociedaddel Departamento de Seguridad de la Información en Royal Holloway, dijo: «Los hallazgos de nuestro estudio exponen los peligros de los espacios digitales no moderados y su papel en la difusión del discurso de odio.

«Si bien la libertad de expresión es un derecho fundamental, debe equilibrarse con los riesgos del daño en línea.

«Encontramos que las discusiones que involucran orientación sexual y racismo estaban entre las más tóxicas, con casi el 99% de los puestos marcados clasificados como altamente ofensivos.

La Dra. Maryam Mehrnezhad, coautora y lector en el Departamento de Seguridad de la Información agrega: «Como parte de la misión en curso del proyecto de la agencia, nuestro objetivo es desarrollar soluciones procesables que capaciten a las personas para navegar en línea de manera segura mientras responsabilizan las plataformas por fomentar entornos digitales inclusivos».

El informe destaca la complejidad del odio en línea, donde las discusiones no se limitan a insultos manifiestos, sino que se extienden al lenguaje codificado, la retórica política y el adoctrinamiento ideológico.

El estudio tiene profundas implicaciones para los formuladores de políticas, desarrolladores de plataformas e investigadores. Los formuladores de políticas deben comprender la naturaleza y la prevalencia del odio en línea para elaborar regulaciones más efectivas, como la Ley de Seguridad en línea del Reino Unido y las políticas de moderación de contenido de la UE.

Los hallazgos enfatizan la importancia para los desarrolladores tecnológicos de herramientas de moderación avanzadas impulsadas por la IA que pueden detectar no solo un discurso de odio explícito, sino también un lenguaje y la sociedad matizados y codificados en su conjunto necesitan iniciativas de alfabetización digital para educarlos sobre la identificación y contrarrestar el discurso de odio en línea.