La privacidad de las imágenes podría protegerse con el uso de inteligencia artificial generativa. Investigadores de Japón, China y Finlandia crearon un sistema que reemplaza partes de imágenes que podrían amenazar la confidencialidad con alternativas visualmente similares pero generadas por IA.
Denominado «reemplazo de contenido generativo», en las pruebas, el 60% de los espectadores no pudo decir qué imágenes habían sido alteradas. Los investigadores pretenden que este sistema proporcione una opción visualmente más cohesiva para la censura de imágenes, lo que ayuda a preservar la narrativa de la imagen y al mismo tiempo protege la privacidad.
Este investigación fue presentado en la Asociación de Maquinaria de Computación Conferencia CHI sobre factores humanos en sistemas informáticoscelebrada en Honolulu, Hawaii, EE. UU., en mayo de 2024.
Con solo unas pocas indicaciones de texto, la IA generativa puede ofrecer una solución rápida para un ensayo escolar complicado, una nueva estrategia comercial o un sinfín de memes. La llegada de la IA generativa a la vida diaria ha sido rápida y todavía se está lidiando con la escala potencial de su papel e influencia. Los temores sobre su impacto en la seguridad laboral futura, la seguridad en línea y la originalidad creativa han llevado a huelgas de escritores de Hollywood, casos judiciales por fotografías falsificadas y acaloradas discusiones sobre la autenticidad.
Sin embargo, un equipo de investigadores ha propuesto utilizar una característica a veces controvertida de la IA generativa (su capacidad para manipular imágenes) como una forma de resolver problemas de privacidad.
«Descubrimos que las técnicas de protección de la privacidad de las imágenes existentes no necesariamente pueden ocultar información manteniendo la estética de la imagen. Las imágenes resultantes a veces pueden parecer antinaturales o discordantes. Consideramos que esto es un factor desmotivador para las personas que de otro modo considerarían aplicar protección de la privacidad», explicó Associate Profesor Koji Yatani de la Escuela de Graduados en Ingeniería de la Universidad de Tokio.
«Por eso, decidimos explorar cómo podemos lograr ambas cosas (es decir, una sólida protección de la privacidad y usabilidad de la imagen) al mismo tiempo incorporando la última tecnología de IA generativa».
Los investigadores crearon un sistema informático al que denominaron reemplazo generativo de contenido (GCR). Esta herramienta identifica lo que podría constituir una amenaza a la privacidad y lo reemplaza automáticamente con un sustituto realista pero creado artificialmente. Por ejemplo, la información personal en el talón de un boleto podría reemplazarse con letras ilegibles, o un edificio privado podría intercambiarse por un edificio falso u otros elementos paisajísticos.
«Existe una serie de métodos de protección de imágenes comúnmente utilizados, como difuminar, rellenar de color o simplemente eliminar la parte afectada de la imagen. En comparación con estos, nuestros resultados muestran que el reemplazo de contenido generativo puede mantener mejor la historia de las imágenes originales y mayor armonía visual», afirmó Yatani. «Descubrimos que los participantes no podían detectar GCR en el 60% de las imágenes».
Por ahora, el sistema GCR requiere muchos recursos informáticos, por lo que todavía no estará disponible en ningún dispositivo personal. El sistema probado era completamente automático, pero desde entonces el equipo desarrolló una nueva interfaz para permitir a los usuarios personalizar las imágenes, dando más control sobre el resultado final.
Aunque algunos pueden estar preocupados por los riesgos de este tipo de alteración de imágenes realistas, donde la línea entre las imágenes originales y alteradas se vuelve más ambigua, el equipo es positivo acerca de sus ventajas.
«Para los usuarios públicos, creemos que el mayor beneficio de esta investigación es proporcionar una nueva opción para la protección de la privacidad de las imágenes», afirmó Yatani. «GCR ofrece un método novedoso para proteger contra amenazas a la privacidad, manteniendo al mismo tiempo la coherencia visual para fines narrativos y permitiendo a las personas compartir su contenido de manera más segura».
Más información:
Anran Xu et al, Examinando la percepción humana del reemplazo de contenido generativo en la protección de la privacidad de imágenes, Actas de la Conferencia CHI sobre factores humanos en sistemas informáticos (2024). DOI: 10.1145/3613904.3642103
Citación: Ocultar a simple vista: la IA puede ayudar a reemplazar la información confidencial en imágenes con elementos visuales similares (2024, 29 de mayo) recuperado el 29 de mayo de 2024 de https://techxplore.com/news/2024-05-plain-sight-ai-confidential -imagenes.html
Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.
GIPHY App Key not set. Please check settings