Dark Web Forum Research revela la creciente amenaza de imágenes de abuso infantil generado por IA

El Reino Unido tiene como objetivo ser el primer país del mundo en crear nuevos delitos relacionados con el abuso sexual generado por IA. Nuevas leyes Hazlo ilegal Poseer, crear o distribuir herramientas AI diseñadas para generar material de abuso sexual infantil (CSAM), castigado con hasta cinco años de prisión. Las leyes también harán que sea ilegal que cualquiera posea los llamados «manuales de pedófilos» que enseñan a las personas cómo usar la IA para abusar sexualmente de los niños.

En las últimas décadas, la amenaza contra los niños por abuso en línea se ha multiplicado a un ritmo preocupante. Según el Internet Watch Foundationque rastrea y elimina el abuso de Internet, ha habido un aumento del 830% en las imágenes de abuso sexual infantil en línea desde 2014. La prevalencia de las herramientas de generación de imágenes de IA lo alimenta aún más.

El año pasado, nosotros en el Instituto Internacional de Investigación de Policía y Protección en la Universidad de Anglia Ruskin publicada un informe Sobre la creciente demanda de material de abuso sexual infantil generado por IA en línea.

Los investigadores analizaron chats que tuvieron lugar en foros web oscuros durante los 12 meses anteriores. Encontramos evidencia de creciente interés en esta tecnología y del deseo de los delincuentes en línea de que otros aprendan más y creen imágenes de abuso.

Horrificadamente, los miembros del foro se refirieron a aquellos que creaban la IMAGERY como «artistas». Esta tecnología está creando un nuevo mundo de oportunidades para que los delincuentes creen y compartan las formas más depravadas de contenido de abuso infantil.

Nuestro análisis mostró que los miembros de estos foros están utilizando imágenes y videos no generados por el AIA ya a su disposición para facilitar su aprendizaje y capacitar el software que usan para crear las imágenes. Muchos expresaron sus esperanzas y expectativas que la tecnología evolucionaría, lo que les facilita la creación de este material.

Los espacios web oscuros están ocultos y solo accesibles a través de un software especializado. Proporcionan a los delincuentes anonimato y privacidad, lo que dificulta que la policía los identifique y los procese.

Internet Watch Foundation ha documentado sobre estadísticas sobre el rápido aumento en el número de imágenes generadas por IA que encuentran como parte de su trabajo. El volumen sigue siendo relativamente bajo en comparación con la escala de imágenes que no se encuentran en AI, pero los números están creciendo a un ritmo alarmante.

La caridad reportado En octubre de 2023, un total de 20,254 imágenes generadas por IA se cargaron en un mes a un foro web oscuro. Antes de que se publicara este informe, se sabía poco sobre la amenaza.

Los daños del abuso de IA

La percepción entre los delincuentes es que las imágenes de abuso sexual infantil generado por IA son un crimen sin víctimas, porque las imágenes no son «reales». Pero está lejos de ser inofensivo, en primer lugar porque se puede crear a partir de fotos reales de niños, incluidas imágenes que son completamente inocentes.

Si bien hay muchas cosas que aún no sabemos sobre el impacto del abuso generado por IA específicamente, hay una gran investigación sobre el daños del abuso sexual infantil en línea, así como cómo se utiliza la tecnología para perpetuar o empeorar El impacto del abuso fuera de línea. Por ejemplo, las víctimas pueden tener un trauma continuo debido a la permanencia de fotos o videos, solo sabiendo que las imágenes están ahí fuera. Los delincuentes también pueden usar imágenes (reales o falsas) para intimidar o víctimas de chantaje.

Estas consideraciones también son parte de las discusiones en curso sobre la pornografía de Deepfake, cuya creación también el gobierno también planea criminalizar.

Todos estos problemas pueden exacerbarse con la tecnología de IA. Además, también es probable que haya un impacto traumático en los moderadores y los investigadores que tienen que ver las imágenes de abuso en los mejores detalles para identificar si son imágenes «reales» o «generadas».

¿Qué puede hacer la ley?

La ley del Reino Unido actualmente prohíbe la toma, fabricación, distribución y posesión de una imagen indecente o una pseudofotografía (una imagen fotorrealista creada digitalmente) de un niño.

Pero actualmente no hay leyes que sean un delito poseer la tecnología para crear imágenes de abuso sexual infantil de IA. Las nuevas leyes deben garantizar que los oficiales de policía puedan dirigirse a los abusadores que están utilizando o considerando usar IA para generar este contenido, incluso si no están actualmente en posesión de imágenes cuando se investigan.

Siempre estaremos detrás de los delincuentes cuando se trata de tecnología, y las agencias de aplicación de la ley en todo el mundo pronto se verán abrumadas. Necesitan leyes diseñadas para ayudarlos a identificar y procesar a aquellos que buscan explotar a los niños y los jóvenes en línea.

Es bienvenida noticia de que el gobierno está comprometido a tomar medidas, pero tiene que ser rápido. Cuanto más tarda la legislación para promulgar, más niños corren el riesgo de ser abusados.

Abordar la amenaza global también tomará más que leyes en un país. Necesitamos una respuesta de todo el sistema que comience cuando se está diseñando una nueva tecnología. Se han desarrollado muchos productos y herramientas de IA por razones completamente genuinas, honestas y no dañinas, pero pueden ser fácilmente adaptados y utilizados por delincuentes que buscan crear material dañino o ilegal.

La ley debe comprender y responder a esto, para que la tecnología no pueda usarse para facilitar el abuso, y para que podamos diferenciar entre aquellos que usan tecnología para dañarlo, y aquellos que la usan para siempre.

Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.