Médicos de confianza de la televisión hacen deepfake para promover estafas de salud en las redes sociales

Algunos de los médicos de televisión más conocidos del Reino Unido están siendo cada vez más «falsificados» en vídeos para vender productos fraudulentos en las redes sociales, según los hallazgos El BMJ hoy.

Nombres confiables como Hilary Jones, Michael Mosley y Rangan Chatterjee se están utilizando para promocionar productos que afirman curar la presión arterial alta y la diabetes, y para vender gomitas de cáñamo, explica el periodista Chris Stokel-Walker.

El deepfaking es el uso de inteligencia artificial (IA) para reproducir digitalmente la imagen de un ser humano real en un vídeo de un cuerpo que no es el suyo. Es difícil encontrar pruebas fiables de lo convincente que es, pero un estudio reciente sugiere que hasta la mitad de las personas a las que se les muestran deepfakes en los que se habla de temas científicos no pueden distinguirlos de los vídeos auténticos.

John Cormack, un médico jubilado radicado en Essex, trabajó con El BMJ para intentar capturar una idea de la escala de los llamados médicos deepfaked en las redes sociales.

«La conclusión es que es mucho más barato gastar dinero en hacer vídeos que en investigar, crear nuevos productos y lanzarlos al mercado de la forma convencional», afirma.

La gran cantidad de contenido cuestionable en las redes sociales que copia la imagen de médicos y celebridades populares es una consecuencia inevitable de la revolución de la inteligencia artificial que estamos viviendo actualmente, dice Henry Ajder, un experto en tecnología deepfake. «La rápida democratización de herramientas de inteligencia artificial accesibles para la clonación de voces y la generación de avatares ha transformado el panorama del fraude y la suplantación de identidad».

«Ha habido un aumento significativo de este tipo de actividad», dice Jones, que contrata a un especialista en redes sociales para que busque en Internet vídeos deepfake que tergiversen sus opiniones y trate de eliminarlos. «Incluso si lo hace, simplemente aparecen al día siguiente con un nombre diferente».

Un portavoz de Meta, la empresa propietaria de Facebook e Instagram, en la que se alojaron muchos de los vídeos encontrados por Cormack, dijo a El BMJ«Investigaremos los ejemplos destacados por La revista médica británicaNo permitimos contenido que engañe o busque defraudar intencionalmente a otros, y trabajamos constantemente para mejorar la detección y la aplicación de las normas. Animamos a cualquier persona que vea contenido que pueda infringir nuestras políticas a que lo denuncie para que podamos investigar y tomar medidas».

Los deepfakes funcionan aprovechándose de las emociones de las personas, escribe Stokel-Walker, y cuando se trata de productos médicos, esa conexión emocional con el individuo que le habla del medicamento maravilloso o del magnífico producto médico es aún más importante.

Es posible que alguien que no conoces intente convencerte de las virtudes de un tratamiento en particular despierte sospechas. Pero si se trata de alguien que ya has visto en las redes sociales, la televisión o la radio, es más probable que creas lo que te dice.

Detectar deepfakes también puede ser complicado, dice Ajder, ya que la tecnología ha mejorado: «Es difícil cuantificar la eficacia de esta nueva forma de fraude deepfake, pero el creciente volumen de vídeos que circulan actualmente sugeriría que los malos actores están teniendo cierto éxito».

En el caso de quienes se están aprovechando de sus imágenes, parece que no hay mucho que puedan hacer al respecto, pero Stokel-Walker ofrece algunos consejos sobre qué hacer si encuentras una deepfake. Por ejemplo, analiza detenidamente el contenido para asegurarte de que tus sospechas estén bien fundadas y, a continuación, deja un comentario cuestionando su veracidad. Utiliza las herramientas de denuncia integradas de la plataforma para expresar tus inquietudes y, por último, denuncia a la persona o cuenta que compartió la publicación.