‘Take It Down:’ una herramienta para que los adolescentes eliminen imágenes explícitas

«Una vez que envías esa foto, no puedes retirarla», dice la advertencia a los adolescentes, a menudo ignorando la realidad de que muchos adolescentes envían imágenes explícitas de sí mismos bajo coacción o sin comprender las consecuencias.

Una nueva herramienta en línea tiene como objetivo devolver algo de control a los adolescentes, o a las personas que alguna vez fueron adolescentes, y eliminar imágenes y videos explícitos de ellos mismos de Internet.

Llamado Llevarlo hacia abajola herramienta es operada por el Centro Nacional para Niños Desaparecidos y Explotados, y financiada en parte por Meta Platforms, el propietario de Facebook e Instagram.

El sitio permite que cualquiera, de forma anónima y sin cargar ninguna imagen real, cree lo que es esencialmente una huella digital de la imagen. Esta huella digital (un conjunto único de números llamado «hash») luego se ingresa en una base de datos y las empresas de tecnología que aceptaron participar en el proyecto eliminan las imágenes de sus servicios.

Ahora, las advertencias. Las plataformas participantes son, a partir del lunes, Facebook e Instagram de Meta, Yubo, OnlyFans y Pornhub, propiedad de Mindgeek. Si la imagen está en otro sitio, o si se envía en una plataforma encriptada como WhatsApp, no se eliminará.

Además, si alguien altera la imagen original, por ejemplo, recortándola, agregando un emoji o convirtiéndola en un meme, se convierte en una nueva imagen y, por lo tanto, necesita un nuevo hash. Las imágenes que son visualmente similares, como la misma foto con y sin un filtro de Instagram, tendrán hashes similares, que difieren en un solo carácter.

«Take It Down está hecho específicamente para personas que tienen una imagen que tienen razones para creer que ya está en la Web en alguna parte, o que podría estarlo», dijo Gavin Portnoy, vocero del NCMEC. «Eres un adolescente y estás saliendo con alguien y compartes la imagen. O alguien te extorsionó y te dijo: ‘si no me das una imagen u otra imagen tuya, voy a hacer X». , Y, Z.'»

Portnoy dijo que los adolescentes pueden sentirse más cómodos yendo a un sitio que involucrando a la policía, que no sería anónima, por ejemplo.

«Para un adolescente que no quiere ese nivel de participación, solo quiere saber que se eliminó, esto es un gran problema para ellos», dijo. El NCMEC está viendo un aumento en los informes de explotación de niños en línea. la sin fines de lucro CyberTipline recibió 29,3 millones de informes en 2021, un 35 % más que en 2020.

Meta, cuando aún era Facebook, intentó crear una herramienta similar, aunque para adultos, en 2017. No funcionó bien porque el sitio pedía a las personas que, básicamente, enviaran sus desnudos (encriptados) a Facebook, no la empresa más confiable incluso en 2017. La empresa probó el servicio en Australia durante un breve período, pero no lo expandió a otros países.

Pero en ese tiempo, la extorsión y explotación sexual en línea solo ha empeorado, tanto para niños y adolescentes como para adultos. Muchas empresas de tecnología ya utilizan este sistema hash para compartir, eliminar e informar a las fuerzas del orden sobre imágenes de abuso sexual infantil. Portnoy dijo que el objetivo es que se inscriban más empresas.

«Nunca tuvimos a nadie que dijera que no», dijo.

Twitter y TikTok hasta el momento no se han comprometido con el proyecto. Ninguna de las compañías respondió de inmediato a un mensaje para hacer comentarios el domingo.

Antigone Davis, directora global de seguridad de Meta, dijo que Take It Down es una de las muchas herramientas que utiliza la empresa para abordar el abuso y la explotación infantil en sus plataformas.

«Además de respaldar el desarrollo de esta herramienta y tener sistemas de informes y bloqueos en nuestra plataforma, también hacemos una serie de cosas diferentes para tratar de evitar que sucedan este tipo de situaciones en primer lugar. Entonces, por ejemplo , no permitimos que adultos no conectados envíen mensajes a menores», dijo.

El sitio funciona con imágenes reales y generadas por inteligencia artificial y «falsificaciones profundas», dijo Davis. Los deepfakes se crean para parecerse a personas reales que dicen o hacen cosas que en realidad no hicieron.

© 2023 Prensa Asociada. Reservados todos los derechos. Este material no puede ser publicado, transmitido, reescrito o redistribuido sin permiso.