Los clones de IA hechos a partir de datos de usuarios plantean riesgos asombrosos

Imagine, si quiere, un doppelgänger digital. Un clon que se ve, habla y se comporta como tú, creado a partir de las profundidades de la inteligencia artificial, reflejando cada uno de tus gestos con una precisión espeluznante. Por muy emocionante que suene, ¿cómo te sentirías al respecto?

Nuestra investigación en la Universidad de Columbia Británica centra la atención en esta misma pregunta. Con los avances en tecnologías de aprendizaje profundo como aplicaciones interactivas deepfake, conversión de voz y actores virtualeses posible replicar digitalmente la apariencia y el comportamiento de un individuo.

Esta imagen especular de un individuo creado por inteligencia artificial se denomina «clon de IA». Nuestro estudio se sumerge en las aguas turbias de lo que estos clones de IA podrían significar para nuestra autopercepción, relaciones y sociedad. En nuestro artículo publicado como parte del Actas de la ACM sobre interacción humano-computadoraidentificamos tres tipos de riesgos que plantean las réplicas de IA: fobia a los doppelgänger, fragmentación de la identidad y recuerdos vivos.

Clonación de IA

Definimos los clones de IA como representaciones digitales de individuos, diseñados para reflejar algunos o múltiples aspectos del «individuo fuente» del mundo real.

A diferencia de los personajes ficticios en entornos digitales, estos clones de IA se basan en personas existentes, lo que podría imitar su apariencia visual, gestos conversacionales o patrones de comportamiento. La profundidad de la replicación puede variar mucho, desde replicar ciertas características distintas hasta crear un gemelo digital casi perfecto.

Los clones de IA también son tecnologías interactivas, diseñadas para interpretar la entrada del usuario y del entorno, realizar procesamiento interno y producir resultados perceptibles. Y, lo que es más importante, se trata de tecnologías basadas en inteligencia artificial basadas en datos personales.

A medida que el volumen de datos personales que generamos continúa creciendo, también lo hace la fidelidad de estos clones de IA para replicar nuestro comportamiento.

Miedos, fragmentos y falsos recuerdos

Presentamos a 20 participantes ocho escenarios especulativos que involucran clones de IA. Los participantes eran de diversas edades y antecedentes, y reflexionaron sobre sus emociones y los impactos potenciales en su autopercepción y relaciones.

Primero, descubrimos que la doppelgänger-phobia era un miedo no solo al clon de IA en sí, sino también a su posible uso indebido. A los participantes les preocupaba que sus contrapartes digitales pudieran explotar y desplazar su identidad.

En segundo lugar, estaba la amenaza de la fragmentación de la identidad. La creación de réplicas amenaza la individualidad única de la persona que está siendo clonada, causando una perturbación en su autopercepción cohesiva. En otras palabras, a las personas les preocupa que puedan perder partes de su singularidad e individualidad en el proceso de replicación.

Por último, los participantes expresaron su preocupación por lo que describimos como «recuerdos vivos». Esto se relaciona con el peligro que representa cuando una persona interactúa con un clon de alguien con quien tiene una relación existente. A los participantes les preocupaba que pudiera conducir a una tergiversación del individuo, o que desarrollaran un apego excesivo al clon, alterando la dinámica de las relaciones interpersonales.

Preservar los valores humanos

Es evidente que el desarrollo y el despliegue de clones de IA tienen profundas implicaciones. Nuestro estudio no solo aporta información valiosa al diálogo crítico sobre la IA ética, sino que también propone un nuevo marco para el diseño de clones de IA que prioriza la identidad y la autenticidad.

La responsabilidad recae en todas las partes interesadas, incluidos los diseñadores, desarrolladores, legisladores y usuarios finales, para navegar responsablemente por este territorio desconocido. Esto implica considerar concienzudamente la moderación y las estrategias de caducidad de los datos generados por el usuario para evitar el uso indebido y el exceso de confianza.

Además, es imperativo reconocer que las implicaciones de las tecnologías de clonación de IA en la identidad personal y las relaciones interpersonales representan solo la punta del iceberg. A medida que avanzamos por el delicado camino de este floreciente campo, los hallazgos de nuestro estudio pueden servir como una brújula que nos guíe para priorizar las consideraciones éticas y los valores humanos por encima de todo.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.