El navegador Atlas de OpenAI promete la máxima comodidad. Pero el brillante marketing enmascara los riesgos para la seguridad

La semana pasada, se presentó OpenAI ChatGPT Atlasun navegador web que promete revolucionar la forma en que interactuamos con Internet. El director ejecutivo de la empresa, Sam Altman, descrito como una «oportunidad que se presenta una vez cada década» para repensar cómo navegamos por la web.

La promesa es convincente: imagine un asistente de inteligencia artificial (IA) que lo siga a través de todos los sitios web, recuerde sus preferencias, resuma artículos y maneje tareas tediosas como reservar vuelos o hacer pedidos de alimentos en su nombre.

Pero detrás del brillante marketing se esconde una realidad más preocupante. Atlas está diseñado para ser «agente», capaz de navegar de forma autónoma en sitios web y realizar acciones en sus cuentas iniciadas. Esto introduce vulnerabilidades de seguridad y privacidad que la mayoría de los usuarios no están preparados para gestionar.

Si bien OpenAI promociona la innovación, silenciosamente está trasladando la carga de la seguridad a los consumidores desprevenidos a quienes se les pide que confíen a una IA sus decisiones digitales más sensibles.

¿Qué hace que el modo agente sea diferente?

El núcleo del atractivo de Atlas es el «modo agente».

A diferencia de los navegadores web tradicionales en los que navega manualmente por Internet, el modo agente permite a ChatGPT operar su navegador de forma semiautónoma. Por ejemplo, cuando se le solicite «buscar un bar de cócteles cerca de usted y reservar una mesa», buscará, evaluará opciones e intentará hacer una reserva.

La tecnología funciona dándole acceso ChatGPT a su contexto de navegación. Puede ver cada pestaña abierta, interactuar con formularios, hacer clic en botones y navegar entre páginas como lo haría usted.

Combinada con la función «memorias del navegador» de Atlas, que registra los sitios web que visitas y tus actividades en ellos, la IA construye una comprensión cada vez más detallada de tu vida digital.

Esta conciencia contextual es lo que permite que funcione el modo agente. Pero es también lo que lo hace peligrosamente vulnerable.

Una tormenta perfecta de riesgos de seguridad

Los riesgos inherentes a este diseño van más allá de las preocupaciones de seguridad de los navegadores convencionales.

Considerar ataques de inyección rápidadonde sitios web maliciosos incorporan comandos ocultos que manipulan el comportamiento de la IA.

Imagínese visitar lo que parece ser un sitio de compras legítimo. Sin embargo, la página contiene instrucciones invisibles que indican a ChatGPT que extraiga datos personales de todas las pestañas abiertas, como un portal médico activo o un borrador de correo electrónico, y luego extraiga los detalles confidenciales sin necesidad de acceder a una contraseña.

De manera similar, el código malicioso en un sitio web podría influir en el comportamiento de la IA en varias pestañas. Por ejemplo, un script en un sitio de compras podría engañar al agente de IA para que cambie a su pestaña de banca abierta y envíe un formulario de transferencia.

Las capacidades de autocompletar y las funciones de interacción de formularios de Atlas pueden convertirse en vectores de ataque. Este es especialmente el caso cuando una IA toma decisiones en fracciones de segundo sobre qué información ingresar y dónde enviarla.

Las funciones de personalización agravan estos riesgos. Las memorias del navegador de Atlas crean perfiles completos de su comportamiento: los sitios web que visita, lo que busca, lo que compra y el contenido que lee.

Mientras que OpenAI promesas Estos datos no entrenarán sus modelos de forma predeterminada, Atlas todavía almacena datos más personales en un solo lugar. Este tesoro consolidado de información representa un señuelo para los piratas informáticos.

¿Debería OpenAI modelo de negocio evolucionatambién podría convertirse en una mina de oro para una publicidad muy dirigida.

AbiertoAI dice que lo ha intentado para proteger la seguridad de los usuarios y ha ejecutado miles de horas de ataques simulados enfocados. También dice que ha «agregado salvaguardias para abordar nuevos riesgos que pueden surgir del acceso a sitios en los que se ha iniciado sesión y al historial de navegación mientras se toman medidas en su nombre».

Sin embargo, la empresa aún reconoce que «los agentes son susceptibles a instrucciones maliciosas ocultas, [which] podría llevar al robo de datos de los sitios en los que ha iniciado sesión o a realizar acciones que no pretendía».

Una degradación en la seguridad del navegador

Esto marca una escalada importante en los riesgos de seguridad del navegador.

Por ejemplo, el sandboxing es un enfoque de seguridad diseñado para mantener los sitios web aislados y evitar que códigos maliciosos accedan a datos de otras pestañas. La web moderna depende de esta separación.

Pero en Atlas, el agente de IA no es un código malicioso: es un usuario confiable con permiso para ver y actuar en todos los sitios. Esto socava el principio básico del aislamiento del navegador.

Y aunque la mayoría de las preocupaciones sobre la seguridad de la IA se han centrado en la tecnología que produce información inexacta, la inyección rápida es más peligrosa. No es la IA la que comete un error; es la IA que sigue una orden hostil oculta en el entorno.

Atlas es especialmente vulnerable porque brinda control a nivel humano a una capa de inteligencia que puede manipularse leyendo una sola línea de texto malicioso en un sitio que no es de confianza.

Piénselo dos veces antes de usar

Antes de que la navegación agente se generalice, necesitamos rigurosas auditorías de seguridad de terceros realizadas por investigadores independientes que puedan probar las defensas de Atlas contra estos riesgos. Necesitamos marcos regulatorios más claros que definir responsabilidad cuando los agentes de IA cometen errores o son manipulados. Y necesitamos que OpenAI demuestre, no simplemente prometa, que sus salvaguardas pueden resistir a atacantes decididos.

Para las personas que estén considerando descargar Atlas, el consejo es sencillo: extremar la precaución.

Si utiliza Atlas, piénselo dos veces antes de habilitar el modo agente en sitios web donde maneja información confidencial. Trate los recuerdos del navegador como una responsabilidad de seguridad y desactívelos a menos que tenga una razón de peso para compartir su historial de navegación completo con una IA. Utilice el modo incógnito de Atlas como predeterminado y recuerde que cada característica de conveniencia es simultáneamente una vulnerabilidad potencial.

El futuro de la navegación basada en IA puede ser inevitable, pero no debería llegar a expensas de la seguridad del usuario. El Atlas de OpenAI nos pide que confiemos en que la innovación superará a la explotación. La historia sugiere que no deberíamos ser tan optimistas.

Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.