Investigador crea software gratuito de moderación de comentarios para YouTube

Como experto en la construcción de una Internet más segura y justa, el profesor adjunto de Rutgers, Shagun Jhaver, sospechó durante mucho tiempo que los creadores de contenido digital de grupos minoritarios sufrían un acoso en línea desproporcionado. Pero cuando escuchó sobre un YouTuber brasileño de 35 años que sufrió un ataque de nervios y fue hospitalizado después de un aluvión de odio digital, decidió hacer algo al respecto.

Jhaver, quien enseña en el Departamento de Bibliotecología y Ciencias de la Información en la Escuela de Comunicación e Información de Rutgers, creó una herramienta de moderación de comentarios para YouTube para garantizar que los usuarios como el presentador de video en Brasil, quien finalmente cerró su canal, puedan trabajar sin temor. de ataque Llamado FilterBuddy, el gratuito, herramienta de código abierto está diseñado para brindar a los creadores de contenido profesionales, cualquiera que se gane la vida publicando en plataformas de redes sociales, el poder de protegerse a sí mismos y a sus audiencias.

Para desarrollar FilterBuddy, Jhaver investigó las herramientas de moderación de contenido que vienen de serie con plataformas como YouTube, Facebook, Twitter y Twitch. En entrevistas con 19 creadores de América, Asia, Europa y Medio Oriente, Jhaver y sus colegas de la Universidad de Washington descubrieron que los creadores de contenido, especialmente de comunidades subrepresentadas, a menudo son atacados por su apariencia, creencias y antecedentes. “Se enfrentan a un abuso desproporcionado, por lo que tienen una necesidad desproporcionada”, dijo.

Jhaver también aprendió que las herramientas de filtrado de palabras clave que brindan las plataformas son difíciles de usar y en gran medida ineficaces. «Estas herramientas son muy rudimentarias, muy difíciles de ampliar y, en muchas plataformas, ni siquiera puedes buscar las reglas de filtrado que has configurado».

Los hallazgos fueron publicados recientemente en el Actas de la Conferencia ACM CHI sobre factores humanos en sistemas informáticos.

Con base en estos datos, Jhaver y sus colegas crearon un sistema para que los creadores de YouTube admitan una mejor creación, mantenimiento y auditoría de filtros de palabras, que pueden etiquetar y poner en cuarentena comentarios potencialmente ofensivos antes de que se hagan públicos. FilterBuddy también incluye una vista previa de captura de filtro interactivo (para probar la efectividad del filtro antes de la implementación), la capacidad de construir sobre filtros creados por otros y gráficos y tablas de series de tiempo para comprender qué comentarios son capturados por qué filtros a lo largo del tiempo.

En última instancia, Jhaver espera que FilterBuddy inspire a las plataformas a desarrollar recursos internos más potentes y que facilite la conexión de aplicaciones de terceros.

«Utilizamos herramientas de desarrollo estándar para crear FilterBuddy, pero la comunidad aprecia mucho las funciones y las necesita con urgencia», dijo. «El hecho de que construimos este servicio con un presupuesto reducido demuestra que, en este momento, las plataformas no están prestando suficiente atención a las necesidades de los creadores».

Lo más importante, dijo Jhaver, es que espera que su software contribuya a un espacio en línea más seguro, para usuarios y creadores. “Nadie debería tener que abandonar su trabajo por comentarios abusivos”, dijo.