Los deepfakes de celebridades están por todo TikTok. He aquí por qué se están volviendo comunes y cómo puedes detectarlos

Una de las plataformas de redes sociales más populares del mundo, TikTok, ahora alberga un flujo constante de videos falsos.

Deepfakes son videos en los que la cara o el cuerpo de un sujeto se ha alterado digitalmente para que se vea como otra persona, generalmente una persona famosa.

uno notable el ejemplo es la cuenta de TikTok @deeptomcriuse, que ha publicado docenas de videos falsos en los que se hace pasar por Tom Cruise, y atrajo a unos 3,6 millones de seguidores.

En otro ejemplo, el CEO de Meta Mark Zuckerberg parece estar confesando el intercambio de datos conspirativos. Más recientemente, ha habido una serie de videos tontos con actores como robert pattinson y Keanu Reeves.

Aunque los deepfakes a menudo se usan de forma creativa o por diversión, se utilizan cada vez más en campañas de desinformación, para el fraude de identidad y para desacreditar a figuras públicas y celebridades.

Y si bien la tecnología necesaria para hacerlos es sofisticada, se está volviendo cada vez más accesible, dejando atrás el software de detección y la regulación.

Una cosa es segura: los deepfakes llegaron para quedarse. Entonces, ¿qué podemos hacer con ellos?

roles variados

La manipulación de texto, imágenes y material de archivo ha sido durante mucho tiempo la base de la interactividad. Y los deepfakes no son una excepción; son el resultado de un profundo deseo de participar en la cultura, la narración, el arte y remezclando.

La tecnología se utiliza ampliamente en las artes digitales y la sátira. Proporciona técnicas más refinadas (y más baratas) para las inserciones visuales, en comparación con las pantallas verdes y las imágenes generadas por computadora.

La tecnología deepfake también puede permitir una apariencia auténtica resurrecciones de actores fallecidos y recreaciones históricas. Incluso pueden jugar un papel en ayudar a las personas a hacer el duelo por sus seres queridos fallecidos.

Pero también están disponibles para mal uso.

Al mismo tiempo, se cree que la tecnología deepfake presenta varios problemas sociales, tales como:

• deepfakes que se utilizan como «prueba» para otras noticias falsas y desinformación
• deepfakes que se utilizan para desacreditar a celebridades y otras personas cuyo sustento depende de compartir contenido mientras se mantiene una reputación
• dificultades para proporcionar imágenes verificables para la comunicación política, los mensajes de salud y las campañas electorales
• las caras de las personas se utilizan en la pornografía deepfake.

El último punto es de especial interés. En 2019, la firma de software de detección de deepfakes Deeptrace descubrió que el 96% de 14,000 deepfakes eran pornográfico en naturaleza. Se han utilizado aplicaciones gratuitas como la ahora desaparecida DeepNude 2.0 para hacer que las mujeres vestidas aparezcan desnudas en las imágenes, a menudo para vengarse de pornografía y chantajear.

En Australia, las aplicaciones deepfake incluso han permitido a los perpetradores eludir la «pornografía de venganza» leyes—un problema que se espera que pronto se vuelva más severo.

Más allá de esto, los deepfakes también se utilizan en fraude de identidad y estafas, particularmente en forma de mensajes de video de un «colega» o «pariente» de confianza que solicita una transferencia de dinero. Un estudio encontró que el fraude de identidad mediante la manipulación digital costó a las instituciones financieras de EE. UU. 20.000 millones de dólares estadounidenses en 2020].

Una preocupación creciente

Los creadores de deepfakes enfatizan la cantidad de tiempo y esfuerzo que se necesita para que estos videos se vean realistas. Tomemos como ejemplo a Chris Ume, el artista de efectos visuales e IA detrás de la cuenta de TikTok @deeptomcruise. Cuando esta cuenta hecha titulares el año pasado, ume dicho The Verge «no puedes hacerlo con solo presionar un botón».

Pero hay buena evidencia de que las falsificaciones profundas son cada vez más fáciles de hacer. Investigadores de la iniciativa Global Pulse de las Naciones Unidas han demostrado cómo los discursos pueden falsificarse de manera realista en solo 13 minutos.

A medida que se desarrollen más aplicaciones deepfake, podemos esperar que las personas menos capacitadas produzcan cada vez más deepfakes de apariencia auténtica. Solo piense en cuánto ha crecido la edición de fotos en la última década.

El software de legislación, regulación y detección está luchando para mantenerse al día con los avances en la tecnología deepfake.

En 2019, Facebook vino a criticar por no eliminar un video manipulado de la política estadounidense Nancy Pelosi, después de que no cumplió con su definición de falsificación profunda.

En 2020, Twitter prohibido el intercambio de medios sintéticos que pueden engañar, confundir o dañar a las personas (excepto cuando se aplica una etiqueta). Tik Tok hizo lo mismo. Y YouTube prohibió las falsificaciones profundas relacionado con las elecciones federales de EE. UU. de 2020.

Pero incluso si estas son políticas bien intencionadas, es poco probable que los moderadores de la plataforma puedan reaccionar a los informes y eliminar las falsificaciones profundas lo suficientemente rápido.

En Australia, abogados de la firma de Nueva Gales del Sur Ashurst han dicho que las leyes existentes de derechos de autor y difamación podrían no proteger a los australianos contra las falsificaciones profundas.

Y si bien los intentos de desarrollar leyes han comenzado en el extranjero, estos se centran en la comunicación política. por ejemplo california posee hizo ilegal publicar o distribuir contenido manipulado digitalmente de un candidato durante una elección, pero no tiene protecciones para personas que no son políticas o celebridades.

Cómo detectar un deepfake

Uno de los mejores remedios contra los deepfakes dañinos es que los usuarios se equipen con tantas habilidades de detección como puedan.

Por lo general, la primera señal de una falsificación profunda es que algo se sentirá «apagado». Si es así, mire más de cerca la cara del sujeto y pregúntese:

• ¿La cara es demasiado suave o hay sombras inusuales en los pómulos?
• ¿Los movimientos de los párpados y la boca parecen inconexos, forzados o poco naturales?
• el cabello se ve falso? La tecnología deepfake actual lucha por mantener el aspecto original del cabello (especialmente el vello facial).

El contexto también es importante:

• pregúntese qué está diciendo o haciendo la figura. ¿Rechazan las vacunas o actúan en un clip porno? Todo lo que parezca fuera de lugar o contrario al conocimiento público será relevante aquí.
• busque en línea palabras clave sobre el video, o la persona en él, ya que muchos deepfakes sospechosos ya habrán sido desacreditados
• trate de juzgar la confiabilidad de la fuente, ¿parece genuina? Si estás en una plataforma de redes sociales, ¿está verificada la cuenta del posteador?

Mucho de lo anterior es alfabetización digital básica y requiere ejercer un buen juicio. Cuando falla el sentido común, hay algunas formas más profundas de tratar de detectar falsificaciones profundas. Puedes:

• busque palabras clave utilizadas en el video para ver si hay una transcripción pública de lo que se dice; los medios a menudo cubren citas de políticos y celebridades de alto perfil dentro de las 72 horas.
• toma una captura de pantalla del video que se está reproduciendo y haz un Google búsqueda inversa de imágenes. Esto puede revelar si existe una versión original del video, que luego puede comparar con la dudosa.
• ejecute cualquier video sospechoso que muestre a un «colega» o «pariente» de esa persona directamente.

Finalmente, si logras detectar un deepfake, no te lo guardes. Presiona siempre el botón de reportar.

---

---

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.