Combatir los defensores con la verificación similar a Captcha que utiliza interacciones físicas en tiempo real

Investigadores del Instituto de Robótica de la Universidad Carnegie Mellon y el Instituto de Tecnología de Massachusetts (MIT), crearon Charcha (evaluación humana de computadora para recrear personajes con acciones humanas), un protocolo de verificación seguro y personalizado que permite que la imagen de un individuo aparezca en contenido de video generativo. El equipo se inspiró para crear Charcha para responder a problemas éticos en IA generativa, como los profundos no autorizados. La investigación es publicado en el arxiv servidor de preimpresión.

«Cuando nos dimos cuenta de lo fácil que era raspar datos de Internet y crear contenido realista de IA sin consentimiento, sabíamos que queríamos desarrollar una salvaguardia», dijo Mehul Agarwal, co-investigador y el estudiante de aprendizaje automático de 2024 en CMU. «Estamos reaccionando a la creciente capacidad de los actores maliciosos para mal uso de IA generativa y tratando de mantenerse a la vanguardia de la curva».

El sistema Charcha se inspiró en el legado de verificación de Captcha. Mientras que Captcha usa pruebas de texto o imagen para diferenciar entre humanos y bots, Charcha se basa en interacciones físicas en tiempo real para diferenciar entre ellos. El programa pide a los usuarios que realicen un conjunto de acciones físicas aleatorias frente a una cámara web, como girar la cabeza de izquierda a derecha, entrecerrar los ojos o sonreír con los dientes.

El proceso de verificación en vivo, que toma alrededor de 90 segundos, analiza las acciones para garantizar que la persona esté presente e imitando las solicitudes adecuadas. Al garantizar que la persona esté interactuando con el sistema, Charcha evita que los videos pregrabados o las imágenes fijas de la verificación de omitir.

«Los algoritmos incorporados analizan micro-movimientos para verificar que el usuario esté físicamente presente y no una simulación», dijo Gauri Agarwal, co-investigador y ex alumnos de la Escuela de Ciencias de la Computación de CMU que trabaja en el MIT Media Lab. «Una vez que esté satisfecho de que haya completado la acción con precisión y en tiempo real, el programa usará esas imágenes para capacitar a nuestro modelo».

El proceso Charcha ofrece un nivel único de autonomía a los usuarios que eligen interactuar con él. Mediante el uso del programa, los usuarios no tienen que abandonar el contenido generativo de IA por completo, pero en su lugar pueden Personalizar videos musicales u otro contenido con confianza.

«Muchas plataformas almacenan datos indefinidamente, y tienen políticas poco claras sobre cómo se puede usar el contenido generado por IA», dijo Mehul. «Charcha cambia la responsabilidad a los usuarios al permitirles verificarse antes de que se puedan generar ninguna imagen. No depende de políticas de privacidad externa y les da a las personas un mayor control sobre su semejanza».

Gauri y Mehul Agarwal presentaron Charcha en la Conferencia 2024 sobre Sistemas de Procesamiento de Información Neural (Neurips), donde ganó un interés significativo de múltiples líderes de la industria.

«Creo que la respuesta positiva de nuestra audiencia en la conferencia realmente destaca la necesidad de seguridad en torno a las herramientas generativas de IA», dijo Gauri. «Esto ayudó a confirmar nuestra creencia de que Charcha podría ser una herramienta esencial para el futuro».