La junta de supervisión de Meta quiere reglas deepfake para AI Age

El consejo de supervisión de Meta pidió el jueves al gigante tecnológico que traslade sus normas sobre deepfakes de pornografía de los días de «Photoshop» a la era de la inteligencia artificial.

La junta independiente, considerada como un tribunal superior para las decisiones de moderación de contenido de Meta, dijo que presentó la recomendación después de revisar dos casos que involucraban imágenes deepfake de mujeres de alto perfil en India y Estados Unidos.

En un caso, una deepfake compartida en Instagram se mantuvo en línea a pesar de una denuncia y, en el otro, la imagen falsificada no se permitió en la plataforma Meta. Ambas decisiones dieron lugar a apelaciones ante la junta.

La junta decidió que las deepfakes involucradas en ambos casos violaron una regla de Meta contra una práctica llamada «Photoshop sexualizado despectivo», que debe hacerse más fácil de entender para la gente, dijo.

La junta dijo que Meta definió el término como el uso de imágenes manipuladas y sexualizadas de maneras que probablemente sean no deseadas por quienes aparecen en ellas.

El software Photoshop para edición de imágenes se lanzó por primera vez en 1990 y fue tan ampliamente utilizado que se convirtió en una referencia común para modificar imágenes.

Pero referirse a «Photoshop» en una norma sobre deepfakes de pornografía es «demasiado limitado» cuando la tecnología, como la IA generativa, está disponible para crear imágenes o vídeos con indicaciones de texto simples, concluyó la junta.

La junta de supervisión sugirió que Meta deje en claro que no permite contenido sexual no consensuado creado o manipulado por IA.

Si bien Meta acordó acatar las decisiones de la junta con respecto a decisiones de moderación de contenido específico, toma las sugerencias de políticas como recomendaciones que puede adoptar si lo considera oportuno.

© 2024 AFP