La inteligencia artificial está alimentando una crisis de pornografía deepfake en Corea del Sur. ¿Qué hay detrás y cómo se puede solucionar?

Es difícil hablar de inteligencia artificial sin hablar de pornografía deepfake, un subproducto dañino de la IA que se ha utilizado para atacar a todo el mundo, desde Taylor Swift hasta colegialas australianas.

Pero un reciente informe La startup Security Heroes descubrió que de 95.820 videos porno deepfake Analizados a partir de diferentes fuentes, el 53% presentaba cantantes y actrices surcoreanas, lo que sugiere que este grupo es un objetivo desproporcionado.

¿Qué hay detrás del problema de las deepfakes en Corea del Sur? ¿Y qué se puede hacer al respecto?

Adolescentes y menores entre las víctimas

Los deepfakes son fotos, vídeos o archivos de audio manipulados digitalmente que muestran de forma convincente a alguien diciendo o haciendo cosas que nunca hizo. Entre los adolescentes surcoreanos, la creación de deepfakes se ha vuelto tan común que algunos incluso la ven como una broma. Y no sólo se dirigen a las celebridades.

En Telegram, se han creado chats grupales con el propósito específico de participar en abusos sexuales basados ​​en imágenes contra mujeres, incluidas estudiantes de secundaria y preparatoria, maestras y familiares. Las mujeres que tienen sus fotos en plataformas de redes sociales como Kakao TalkInstagram y Facebook también son objetivos frecuentes.

Los perpetradores utilizan robots de inteligencia artificial para generar imágenes falsas, que luego se venden o difunden indiscriminadamente, junto con las cuentas de redes sociales, números de teléfono y nombres de usuario de KakaoTalk de las víctimas. Un grupo de Telegram atrajo a unos 220.000 miembros, según un informe de la BBC. Informe del Guardian.

Falta de conciencia

A pesar de que la violencia de género causa daño significativo En Corea del Sur, las víctimas siguen sin tener conciencia de este problema.

Corea del Sur ha experimentado un rápido crecimiento tecnológico en las últimas décadas. Ocupa el primer lugar en el mundo. El mundo en posesión de teléfonos inteligentes y se cita como el que tiene la mayor conectividad a Internet. Muchos trabajos, incluidos los de restaurantes, manufactura y transporte público, están siendo reemplazados rápidamente por robots e inteligencia artificial.

Pero como Human Rights Watch señalaEl progreso del país en materia de igualdad de género y otras medidas de derechos humanos no ha seguido el ritmo del avance digital. Y las investigaciones han demostrado que el progreso tecnológico puede, en realidad, exacerbar los problemas de Violencia de género.

Desde 2019, los delitos sexuales digitales contra niños y adolescentes en Corea del Sur han sido un gran problema, en particular debido a la Caso de la «Nth Room»Este caso involucró a cientos de víctimas jóvenes (muchas de las cuales eran menores de edad) y alrededor de 260.000 participantes que compartían contenido íntimo explotador y coercitivo.

El caso provocó una gran indignación y demandas de mayor protección. Incluso llevó a la creación de condiciones más severas en la Ley de Casos Especiales Relacionados con el Castigo de Delitos Sexuales de 2020. Pero a pesar de esto, la Fiscalía Suprema dijo solo el 28% Del total de 17.495 delincuentes sexuales digitales capturados en 2021, fueron acusados, lo que pone de relieve los desafíos actuales para abordar eficazmente los delitos sexuales digitales.

En 2020, el Ministerio de Justicia Se propone un grupo de trabajo sobre delitos sexuales digitales Unas 60 disposiciones legales que aún no han sido aceptadas. El equipo se disolvió poco después de la toma de posesión del presidente Yoon Suk Yeol en 2022.

Durante la carrera presidencial de 2022, Yoon dijo «No existe discriminación estructural de género» en Corea del Sur y se comprometió a abolir el Ministerio de Igualdad de Género y Familia, el principal ministerio responsable de prevenir la violencia de género. Ha quedado vacante desde febrero de este año.

¿Puede la tecnología también ser la solución?

Pero la IA no siempre es dañina, y Corea del Sur también es una prueba de ello. En 2022, un centro de apoyo digital para delitos sexuales dirigido por el gobierno metropolitano de Seúl desarrolló una herramienta que puede rastrear, monitorear y eliminar automáticamente imágenes y videos deepfake durante todo el día.

La tecnología que ganó el premio 2024 Premio de las Naciones Unidas a la Administración Pública—ha ayudado a reducir el tiempo que se tarda en encontrar deepfakes de un promedio de dos horas a tres minutos. Pero si bien estos intentos pueden ayudar a reducir el daño adicional que causan los deepfakes, es poco probable que sean una solución exhaustiva, ya que los efectos en las víctimas pueden ser persistentes.

Para lograr un cambio significativo, el gobierno debe exigir a los proveedores de servicios, como las plataformas de redes sociales y las aplicaciones de mensajería, que se responsabilicen de garantizar la seguridad de los usuarios.

Esfuerzos unificados

El 30 de agosto, el El gobierno de Corea del Sur anunció planea impulsar una legislación que penalice la posesión, compra y visualización de deepfakes en Corea del Sur.

Sin embargo, las investigaciones y los juicios pueden seguir siendo insuficientes hasta que los deepfakes en Corea del Sur sean reconocidos como una forma dañina de violencia de género. Será necesario un enfoque multifacético para abordar el problema de los deepfakes, que incluya un enfoque más fuerte. Leyes, reformas y educación.

Las autoridades surcoreanas también deben ayudar a mejorar la conciencia pública sobre la violencia de género y centrarse no sólo en apoyar a las víctimas, sino también en desarrollar políticas proactivas y programas educativos para prevenir la violencia en primer lugar.

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Lea el Artículo original.