Preguntas y respuestas: ¿Podrían las “credenciales de personalidad” proteger a las personas contra los impostores digitales?

A medida que los agentes de inteligencia artificial se vuelven más avanzados, podría resultar cada vez más difícil distinguir entre usuarios que utilizan inteligencia artificial y humanos reales en Internet. En un nuevo informe técnico, investigadores del MIT, OpenAI, Microsoft y otras empresas tecnológicas e instituciones académicas proponen el uso de credenciales de personalidad, una técnica de verificación que permite a alguien demostrar que es un ser humano real en línea, al tiempo que preserva su privacidad.

El papel es publicado en el arXiv servidor de preimpresión.

MIT News habló con dos coautores del artículo, Nouran Soliman, estudiante de posgrado en ingeniería eléctrica y ciencias de la computación, y Tobin South, estudiante de posgrado en el Media Lab, sobre la necesidad de dichas credenciales, los riesgos asociados con ellas y cómo podrían implementarse de manera segura y equitativa.

¿Por qué necesitamos credenciales de personalidad?

Tobin South: Las capacidades de la IA están mejorando rápidamente. Si bien gran parte del discurso público ha versado sobre cómo los chatbots siguen mejorando, la IA sofisticada permite muchas más capacidades que un simple ChatGPT mejorado, como la capacidad de la IA para interactuar en línea de forma autónoma. La IA podría tener la capacidad de crear cuentas, publicar contenido, generar contenido falso, hacerse pasar por humanos en línea o amplificar contenido algorítmicamente a gran escala. Esto abre muchos riesgos. Se puede pensar en esto como un problema de «impostor digital», en el que cada vez es más difícil distinguir entre la IA sofisticada y los humanos. Las credenciales de personalidad son una posible solución a ese problema.

Nouran Soliman: Esas capacidades avanzadas de inteligencia artificial podrían ayudar a los actores maliciosos a ejecutar ataques a gran escala o difundir información errónea. Internet podría estar repleta de IA que compartan contenido de seres humanos reales para ejecutar campañas de desinformación. Será cada vez más difícil navegar por Internet, y en particular por las redes sociales. Podríamos imaginar el uso de credenciales personales para filtrar determinados contenidos y moderar el contenido de nuestro feed de redes sociales o determinar el nivel de confianza de la información que recibimos en línea.

¿Qué es una credencial de personalidad y cómo se puede garantizar que dicha credencial sea segura?

Sur: Las credenciales de personalidad le permiten demostrar que es humano sin revelar nada más sobre su identidad. Estas credenciales le permiten obtener información de una entidad como el gobierno, que puede garantizar que usted es humano, y luego, a través de la tecnología de privacidad, le permiten demostrar ese hecho sin compartir ninguna información confidencial sobre su identidad.

Sur: Para obtener una credencial de persona, tendrás que presentarte en persona o tener una relación con el gobierno, como un número de identificación fiscal. Hay un componente offline. Tendrás que hacer algo que solo los humanos pueden hacer. Las IA no pueden presentarse en el DMV, por ejemplo. E incluso las IA más sofisticadas no pueden falsificar o descifrar la criptografía. Por lo tanto, combinamos dos ideas (la seguridad que tenemos a través de la criptografía y el hecho de que los humanos aún tienen algunas capacidades que las IA no tienen) para crear garantías realmente sólidas de que eres humano.

Soliman: Pero las credenciales de personalidad pueden ser opcionales. Los proveedores de servicios pueden dejar que las personas elijan si quieren usar una o no. En este momento, si las personas solo quieren interactuar con personas reales y verificadas en línea, no hay una forma razonable de hacerlo. Y más allá de simplemente crear contenido y hablar con personas, en algún momento los agentes de IA también van a tomar acciones en nombre de las personas. Si voy a comprar algo en línea o negociar un trato, entonces tal vez en ese caso quiera estar seguro de que estoy interactuando con entidades que tienen credenciales de personalidad para asegurarme de que son confiables.

Sur: Las credenciales de personalidad se basan en una infraestructura y un conjunto de tecnologías de seguridad que hemos tenido durante décadas, como el uso de identificadores como una cuenta de correo electrónico para iniciar sesión en servicios en línea, y pueden complementar esos métodos existentes.

¿Cuáles son algunos de los riesgos asociados con las credenciales de personalidad y cómo se podrían reducir esos riesgos?

Soliman: Uno de los riesgos proviene de cómo se podrían implementar las credenciales de personalidad. Existe una preocupación por la concentración de poder. Digamos que una entidad específica es la única emisora, o que el sistema está diseñado de tal manera que todo el poder se otorga a una entidad. Esto podría generar muchas preocupaciones para una parte de la población, tal vez no confíen en esa entidad y no sientan que sea seguro interactuar con ella. Necesitamos implementar las credenciales de personalidad de tal manera que la gente confíe en los emisores y garantizar que las identidades de las personas permanezcan completamente aisladas de sus credenciales de personalidad para preservar la privacidad.

Sur: Si la única manera de obtener una credencial de personalidad es ir físicamente a algún lugar para demostrar que uno es humano, entonces eso podría ser aterrador si uno se encuentra en un entorno sociopolítico donde es difícil o peligroso ir a ese lugar físico. Eso podría impedir que algunas personas tengan la capacidad de compartir sus mensajes en línea sin restricciones, posiblemente sofocando la libertad de expresión. Por eso es importante tener una variedad de emisores de credenciales de personalidad y un protocolo abierto para garantizar que se mantenga la libertad de expresión.

Soliman: Nuestro artículo intenta alentar a los gobiernos, a los responsables de las políticas, a los líderes y a los investigadores a invertir más recursos en las credenciales de personalidad. Sugerimos que los investigadores estudien diferentes direcciones de implementación y exploren los impactos más amplios que las credenciales de personalidad podrían tener en la comunidad. Debemos asegurarnos de crear las políticas y las reglas adecuadas sobre cómo se deben implementar las credenciales de personalidad.

Sur: La IA avanza muy rápido, sin duda mucho más rápido que la velocidad a la que se adaptan los gobiernos. Es hora de que los gobiernos y las grandes empresas empiecen a pensar en cómo pueden adaptar sus sistemas digitales para estar preparados para demostrar que alguien es humano, pero de una manera que preserve la privacidad y sea segura, para que podamos estar preparados cuando lleguemos a un futuro en el que la IA tenga estas capacidades avanzadas.

Esta historia se vuelve a publicar por cortesía de MIT News (web.mit.edu/newsoffice/), un sitio popular que cubre noticias sobre investigación, innovación y enseñanza del MIT.