Información de expertos: por qué las empresas de redes sociales deben ser controladas

En septiembre, el Wall Street Journal liberado los archivos de Facebook. Basándose en miles de documentos filtrados por la denunciante y ex empleada Frances Haugen, los archivos de Facebook muestran que la compañía sabe que sus prácticas dañan a los jóvenes, pero no actúa, eligiendo el beneficio corporativo sobre el bien público.

Los archivos de Facebook son condenatorios para la empresa, que también es propietaria de Instagram y WhatsApp. Sin embargo, no es la única empresa de redes sociales que compromete los derechos y el bienestar de los jóvenes protegidos internacionalmente al priorizar las ganancias.

Como investigadores y expertos en Derechos de los niños, privacidad e igualdad en línea y el riesgos, daños y recompensas en línea que enfrentan los jóvenes, las noticias de las últimas semanas no nos sorprendieron.

Datos personales recolectados

La recolección y la mercantilización de los datos personales (incluidos los datos de los niños) sustenta la modelo financiero de internet —Un modelo que la psicóloga social y filósofa Shoshana Zuboff ha denominado capitalismo de vigilancia .

Las empresas de redes sociales ganan dinero con este modelo al recopilar, analizar y vender la información personal de los usuarios. Para aumentar el flujo de estos valiosos datos, trabajan para involucrar a más personas, durante más tiempo, a través de más interacciones.

En última instancia, el valor de los datos personales recopilados radica en los perfiles personales detallados que admiten los datos, perfiles que se utilizan para alimentar los algoritmos que dar forma a nuestras fuentes de noticias, personalizar nuestros resultados de búsqueda, ayuda nosotros conseguimos un trabajo (u obstaculizar) y determinar los anuncios que recibimos.

En un giro que se refuerza a sí mismo, estos mismos datos se utilizan para dar forma a nuestros entornos en línea para fomentar la divulgación de aún más datos, y el proceso se repite.

Capitalismo de vigilancia

Reciente La investigación confirma que el diseño deliberado, las elecciones algorítmicas y de políticas realizados por las empresas de redes sociales (que se encuentran en el corazón del capitalismo de la vigilancia) exponen directamente a los jóvenes a contenido dañino. Sin embargo, los daños de capitalismo de vigilancia se extienden mucho más allá de esto.

Nuestra investigación tanto en Canadá como en el Reino Unido ha descubierto repetidamente la preocupación de los jóvenes por cómo las empresas de redes sociales y los responsables políticos les están fallando. En lugar de respetar los derechos de expresión de los jóvenes, estar libres de discriminación y participar en las decisiones que los afectan, las empresas de redes sociales monitorean a los jóvenes para bombardearlos con contenido no solicitado al servicio de las ganancias corporativas.

Como resultado, los jóvenes a menudo nos han informado que se sienten presionados a ajustarse a los perfiles estereotipados que se utilizan para orientar su comportamiento y dar forma a su entorno con fines de lucro.

Por ejemplo, las adolescentes nos han dicho que aunque usar Instagram y Snapchat creaba ansiedad e inseguridad en sus cuerpos, les resultaba casi imposible «apagar» las plataformas. También nos dijeron cómo la protección limitada proporcionada por la configuración de privacidad predeterminada los deja vulnerables a «fotos de pollas» no deseadas y solicitudes para enviar imágenes íntimas a hombres que no conocen.

Varias niñas y sus padres nos dijeron que esto a veces puede conducir a resultados extremos, que incluyen rechazo escolar, autolesión y, en algunos casos, intentar suicidarse.

El modelo financiero del capitalismo de vigilancia que subyace en las redes sociales garantiza que las empresas hagan todo lo posible para mantener a los jóvenes comprometidos.

Los jóvenes nos han dicho que quieren más libertad y control en el uso de estos espacios, por lo que son tan públicos o privados como quieran, sin miedo a ser monitoreados o perfilados, o que sus datos están siendo distribuidos a corporaciones.

Los adolescentes también nos dijeron que rara vez se molestan en reportar contenido dañino a las plataformas. Esto no se debe a que no sepan cómo, sino a que he aprendido de la experiencia que no ayuda. Algunas plataformas fueron demasiado lentas para responder, otras no respondieron en absoluto y algunas dijeron que lo que se informó no infringía los estándares de la comunidad, por lo que no estaban dispuestos a ayudar.

Eliminar el contenido tóxico perjudica el resultado final

Estas respuestas no son sorprendentes. Durante años, hemos sabido sobre la falta de recursos moderar el contenido y lidiar con el acoso en línea.

El reciente testimonio de Haugen en un Comité Senatorial de Comercio, Ciencia y Transporte escuchar y informes anteriores sobre otras plataformas de redes sociales resaltar una motivación de ganancias aún más profunda. Las ganancias dependen de un compromiso social significativo, y el contenido dañino, tóxico y divisivo impulsa el compromiso.

Básicamente, eliminar el contenido tóxico dañaría los resultados corporativos.

Principios rectores que centran los derechos del niño

Entonces, ¿qué se debe hacer a la luz de las revelaciones recientes, aunque no sin precedentes, en los Archivos de Facebook? Los temas son, sin duda, complejos, pero hemos elaborado una lista de principios rectores que centran los derechos del niño y dan prioridad a lo que los jóvenes nos han dicho sobre lo que necesitan:

Los jóvenes deben participar directamente en el desarrollo de políticas relevantes.

Todas las iniciativas de políticas relacionadas deben evaluarse de manera continua utilizando un marco de evaluación de los derechos del niño.

Se debe evitar que las empresas de redes sociales lancen productos para niños y que recopilen sus datos con fines de elaboración de perfiles.

Los gobiernos deberían invertir más recursos para brindar respuestas informales rápidas, gratuitas y de fácil acceso y apoyo para aquellos que sufren daños en línea (aprendiendo de modelos existentes como el de Australia). Comisionado de eSafety y de Nueva Escocia Unidad CyberScan).

Necesitamos leyes que garanticen que las empresas de redes sociales sean transparentes y responsables, especialmente cuando se trata de moderación de contenido.

Las agencias gubernamentales (incluida la policía) deben hacer cumplir las leyes existentes contra el contenido de odio, sexualmente violento y acosador. Se debe pensar en expandir la responsabilidad de la plataforma para provocar y perpetuar este tipo de contenido.

Las iniciativas educativas deben priorizar la familiarización de los jóvenes, los adultos que los apoyan y las corporaciones con los derechos del niño, en lugar de enfocarse en un discurso de «seguridad» que responsabilice a los jóvenes de su propia protección. De esta manera, podemos trabajar juntos para romper el modelo de capitalismo de vigilancia que los pone en peligro en primer lugar.

---

---

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.