Informe: TikTok impulsa publicaciones sobre trastornos alimentarios y suicidio

Los algoritmos de TikTok están promocionando videos sobre autolesiones y trastornos alimentarios para adolescentes vulnerables, según un informe publicado el miércoles que destaca las preocupaciones sobre las redes sociales y su impacto en la salud mental de los jóvenes.

Investigadores del Center for Countering Digital Hate, una organización sin fines de lucro, crearon cuentas de TikTok para adolescentes ficticios en EE. UU., Reino Unido, Canadá y Australia. A los investigadores que manejan las cuentas les gustaron los videos sobre autolesiones y trastornos alimentarios para ver cómo respondería el algoritmo de TikTok.

En cuestión de minutos, la popular plataforma recomendaba videos sobre cómo perder peso y autolesionarse, incluidos algunos con imágenes de modelos y tipos de cuerpo idealizados, imágenes de hojas de afeitar y discusiones sobre el suicidio.

Cuando los investigadores crearon cuentas con nombres de usuario que sugerían una vulnerabilidad particular a los trastornos alimentarios (nombres que incluían las palabras «bajar de peso», por ejemplo), las cuentas recibieron contenido aún más dañino.

«Es como estar atrapado en una sala de espejos distorsionados donde constantemente te dicen que eres feo, que no eres lo suficientemente bueno, que tal vez deberías suicidarte», dijo el director ejecutivo del centro, Imran Ahmed, cuya organización tiene oficinas en el EE. UU. y el Reino Unido «Literalmente está lanzando los mensajes más peligrosos posibles a los jóvenes».

Los algoritmos de las redes sociales funcionan al identificar temas y contenido de interés para un usuario, a quien luego se le envía más de lo mismo como una forma de maximizar su tiempo en el sitio. Pero los críticos de las redes sociales dicen que los mismos algoritmos que promueven contenido sobre un equipo deportivo en particular, un pasatiempo o una moda de baile pueden enviar a los usuarios a una madriguera de contenido dañino.

Es un problema particular para los adolescentes y los niños, que tienden a pasar más tiempo en línea y son más vulnerables al acoso, la presión de los compañeros o el contenido negativo sobre trastornos alimentarios o suicidio, según Josh Golin, director ejecutivo de Fairplay, una organización sin fines de lucro que apoya más en línea. protecciones para niños.

Agregó que TikTok no es la única plataforma que no protege a los usuarios jóvenes del contenido dañino y la recopilación agresiva de datos.

«Todos estos daños están relacionados con el modelo de negocios», dijo Golin. «No importa cuál sea la plataforma de redes sociales».

En una declaración de un portavoz de la compañía, TikTok cuestionó los hallazgos, señalando que los investigadores no usaron la plataforma como los usuarios típicos y diciendo que, como resultado, los resultados estaban sesgados. La compañía también dijo que el nombre de la cuenta de un usuario no debería afectar el tipo de contenido que recibe el usuario.

TikTok prohíbe a los usuarios menores de 13 años, y sus reglas oficiales prohíben videos que fomenten los trastornos alimentarios o el suicidio. Los usuarios de EE. UU. que buscan contenido sobre trastornos alimentarios en TikTok reciben un aviso que ofrece recursos de salud mental e información de contacto de la Asociación Nacional de Trastornos Alimentarios.

«Consultamos regularmente con expertos en salud, eliminamos las violaciones de nuestras políticas y brindamos acceso a recursos de apoyo para cualquier persona que lo necesite», dijo el comunicado de TikTok, propiedad de ByteDance Ltd., una empresa china que ahora tiene su sede en Singapur.

A pesar de los esfuerzos de la plataforma, los investigadores del Centro para contrarrestar el odio digital descubrieron que el contenido sobre trastornos alimentarios se había visto en TikTok miles de millones de veces. En algunos casos, los investigadores encontraron que los jóvenes usuarios de TikTok usaban lenguaje codificado sobre los trastornos alimentarios en un esfuerzo por evadir la moderación de contenido de TikTok.

La gran cantidad de contenido dañino que se envía a los adolescentes en TikTok muestra que la autorregulación ha fallado, dijo Ahmed, y agregó que se necesitan reglas federales para obligar a las plataformas a hacer más para proteger a los niños.

Ahmed señaló que la versión de TikTok que se ofrece a las audiencias chinas nacionales está diseñada para promover contenido sobre matemáticas y ciencias entre los usuarios jóvenes, y limita el tiempo que los niños de 13 y 14 años pueden estar en el sitio cada día.

Una propuesta ante el Congreso impondría nuevas reglas que limitan los datos que las plataformas de redes sociales pueden recopilar sobre usuarios jóvenes y crearía una nueva oficina dentro de la Comisión Federal de Comercio enfocada en proteger la privacidad de los usuarios jóvenes de redes sociales.

Uno de los patrocinadores del proyecto de ley, el senador Edward Markey, D-Mass., dijo el miércoles que es optimista de que los legisladores de ambos partidos puedan estar de acuerdo en la necesidad de regulaciones más estrictas sobre cómo las plataformas acceden y utilizan la información de los usuarios jóvenes.

«Los datos son la materia prima que usa la gran tecnología para rastrear, manipular y traumatizar a los jóvenes en nuestro país todos los días», dijo Markey.

© 2022 Prensa Asociada. Reservados todos los derechos. Este material no puede ser publicado, transmitido, reescrito o redistribuido sin permiso.