in

Ocultar a simple vista: la IA puede ayudar a reemplazar la información confidencial en imágenes con elementos visuales similares

Ocultos a plena vista

Ocultos a plena vista

Las secciones de estas imágenes delineadas con un cuadro rojo fueron anotadas como una amenaza a la privacidad con el uso de un conjunto de datos de código abierto llamado DIPA. Luego, GCR utilizó las indicaciones de texto anotadas para reemplazar las secciones con sustitutos visualmente similares o bien integrados. Crédito: 2024 A. Xu, S. Fang, H. Yang et al./ Association for Computing Machinery

La privacidad de las imágenes podría protegerse con el uso de inteligencia artificial generativa. Investigadores de Japón, China y Finlandia crearon un sistema que reemplaza partes de imágenes que podrían amenazar la confidencialidad con alternativas visualmente similares pero generadas por IA.

Denominado «reemplazo de contenido generativo», en las pruebas, el 60% de los espectadores no pudo decir qué imágenes habían sido alteradas. Los investigadores pretenden que este sistema proporcione una opción visualmente más cohesiva para la censura de imágenes, lo que ayuda a preservar la narrativa de la imagen y al mismo tiempo protege la privacidad.

Este investigación fue presentado en la Asociación de Maquinaria de Computación Conferencia CHI sobre factores humanos en sistemas informáticoscelebrada en Honolulu, Hawaii, EE. UU., en mayo de 2024.

Con solo unas pocas indicaciones de texto, la IA generativa puede ofrecer una solución rápida para un ensayo escolar complicado, una nueva estrategia comercial o un sinfín de memes. La llegada de la IA generativa a la vida diaria ha sido rápida y todavía se está lidiando con la escala potencial de su papel e influencia. Los temores sobre su impacto en la seguridad laboral futura, la seguridad en línea y la originalidad creativa han llevado a huelgas de escritores de Hollywood, casos judiciales por fotografías falsificadas y acaloradas discusiones sobre la autenticidad.

Sin embargo, un equipo de investigadores ha propuesto utilizar una característica a veces controvertida de la IA generativa (su capacidad para manipular imágenes) como una forma de resolver problemas de privacidad.

«Descubrimos que las técnicas de protección de la privacidad de las imágenes existentes no necesariamente pueden ocultar información manteniendo la estética de la imagen. Las imágenes resultantes a veces pueden parecer antinaturales o discordantes. Consideramos que esto es un factor desmotivador para las personas que de otro modo considerarían aplicar protección de la privacidad», explicó Associate Profesor Koji Yatani de la Escuela de Graduados en Ingeniería de la Universidad de Tokio.

«Por eso, decidimos explorar cómo podemos lograr ambas cosas (es decir, una sólida protección de la privacidad y usabilidad de la imagen) al mismo tiempo incorporando la última tecnología de IA generativa».

  • Ocultos a plena vista

    Ejemplos de métodos populares para reemplazar y proteger el contenido de imágenes (descritos aquí con cuadros rojos) y cómo se comparan con GCR en la columna del extremo derecho. Crédito: 2024 A. Xu, S. Fang, H. Yang et al./ Association for Computing Machinery

  • Ocultos a plena vista

    Como se ha observado cómicamente en muchas otras imágenes generadas por IA compartidas en línea, por ahora GCR también puede tener dificultades para recrear manos y rasgos faciales realistas. Crédito: 2024 A. Xu, S. Fang, H. Yang et al. / Asociación para Maquinaria de Computación

Los investigadores crearon un sistema informático al que denominaron reemplazo generativo de contenido (GCR). Esta herramienta identifica lo que podría constituir una amenaza a la privacidad y lo reemplaza automáticamente con un sustituto realista pero creado artificialmente. Por ejemplo, la información personal en el talón de un boleto podría reemplazarse con letras ilegibles, o un edificio privado podría intercambiarse por un edificio falso u otros elementos paisajísticos.

«Existe una serie de métodos de protección de imágenes comúnmente utilizados, como difuminar, rellenar de color o simplemente eliminar la parte afectada de la imagen. En comparación con estos, nuestros resultados muestran que el reemplazo de contenido generativo puede mantener mejor la historia de las imágenes originales y mayor armonía visual», afirmó Yatani. «Descubrimos que los participantes no podían detectar GCR en el 60% de las imágenes».

Por ahora, el sistema GCR requiere muchos recursos informáticos, por lo que todavía no estará disponible en ningún dispositivo personal. El sistema probado era completamente automático, pero desde entonces el equipo desarrolló una nueva interfaz para permitir a los usuarios personalizar las imágenes, dando más control sobre el resultado final.

Aunque algunos pueden estar preocupados por los riesgos de este tipo de alteración de imágenes realistas, donde la línea entre las imágenes originales y alteradas se vuelve más ambigua, el equipo es positivo acerca de sus ventajas.

«Para los usuarios públicos, creemos que el mayor beneficio de esta investigación es proporcionar una nueva opción para la protección de la privacidad de las imágenes», afirmó Yatani. «GCR ofrece un método novedoso para proteger contra amenazas a la privacidad, manteniendo al mismo tiempo la coherencia visual para fines narrativos y permitiendo a las personas compartir su contenido de manera más segura».

Más información:
Anran Xu et al, Examinando la percepción humana del reemplazo de contenido generativo en la protección de la privacidad de imágenes, Actas de la Conferencia CHI sobre factores humanos en sistemas informáticos (2024). DOI: 10.1145/3613904.3642103

Proporcionado por la Universidad de Tokio


Citación: Ocultar a simple vista: la IA puede ayudar a reemplazar la información confidencial en imágenes con elementos visuales similares (2024, 29 de mayo) recuperado el 29 de mayo de 2024 de https://techxplore.com/news/2024-05-plain-sight-ai-confidential -imagenes.html

Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.



Fuente

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

GIPHY App Key not set. Please check settings

Solo hoy: obtenga $130 en ahorros en Level Lock Plus Connect en Best Buy

Las mejores composiciones del equipo Baizhi en Wuthering Waves

Las mejores composiciones del equipo Baizhi en Wuthering Waves