
La proliferación de herramientas de IA ha llevado a nuevas formas de abuso que afectan a los niños.
Australia dijo el martes que obligará a los gigantes tecnológicos a evitar que las herramientas en línea se utilicen para crear imágenes desnudas generadas por IA o al acecho de personas sin detección.
El gobierno trabajará con la industria para desarrollar una nueva legislación contra las «tecnologías aborrecibles», dijo en un comunicado, sin proporcionar un cronograma.
«No hay lugar para aplicaciones y tecnologías que se usen únicamente para abusar, humillar y dañar a las personas, especialmente a nuestros hijos», dijo la ministra de Comunicaciones, Anika Wells.
Las aplicaciones «Nudify», las herramientas de inteligencia artificiales que despojan digitalmente, han explotado en línea, lo que provocó advertencias de que las llamadas estafas de sextortación dirigidas a los niños están surgiendo.
El gobierno utilizará «cada palanca» para restringir el acceso a «Nudificar» y acariciar aplicaciones, colocando la responsabilidad de las compañías tecnológicas para bloquearlas, dijo Wells.
«Si bien este movimiento no eliminará el problema de la tecnología abusiva de una sola vez, junto con las leyes existentes y nuestras reformas de seguridad en línea líderes en el mundo, marcará una verdadera diferencia en la protección de los australianos», agregó.
La proliferación de herramientas de IA ha llevado a nuevas formas de abuso que impactan a los niños, incluidos los escándalos de pornografía en universidades y escuelas de todo el mundo, donde los adolescentes crean imágenes sexualizadas de sus compañeros de clase.
Una reciente encuesta de Save the Children encontró que uno de cada cinco jóvenes en España ha sido víctimas de desnudos de profundos, con esas imágenes compartidas en línea sin su consentimiento.
Cualquier nueva legislación tendrá como objetivo garantizar que la inteligencia artificial legítima y basada en el consentimiento y los servicios de seguimiento en línea no se vean afectados inadvertidamente, dijo el gobierno.
‘Apresurado’
Australia ha estado a la vanguardia de los esfuerzos globales para frenar el daño por Internet, especialmente los dirigidos a los niños.
El país aprobó las leyes históricas en noviembre que restringen los menores de 16 años de las redes sociales, una de las represiones más difíciles del mundo en sitios populares como Facebook, Instagram, YouTube y X.
Los gigantes de las redes sociales, que enfrentan multas de hasta AUS $ 49.5 millones (US $ 32 millones) si no cumplen con la prohibición de adolescentes, han descrito las leyes como «vagas», «problemáticas» y «apuradas».
No está claro cómo las personas verificarán sus edades para inscribirse en las redes sociales.
La ley entra en vigor a fines de este año.
Un estudio independiente ordenado por el gobierno encontró esta semana que la comprobación de edad se puede hacer «de manera privada, eficiente y efectiva».
La garantía de edad es posible a través de una variedad de tecnologías, pero «ninguna solución única se ajusta a todos los contextos», dijo el informe final del estudio.
© 2025 AFP
Citación: Australia abordar los desnudos de Deepfake, acoso en línea (2025, 2 de septiembre) recuperado el 2 de septiembre de 2025 de https://techxplore.com/news/2025-09-australia-tackle-depfake-nudes-online.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.