Editor Top
Los controles tradicionales son inadecuados
Los navegadores de IA pueden navegar por sitios web de forma autónoma, completar formularios y realizar transacciones mientras están autenticados en los recursos web. Como escribieron él y sus colegas en su informe, esto hace que los navegadores de IA sean susceptibles a nuevos riesgos de ciberseguridad, “como acciones indirectas de agentes deshonestos inducidas por inyección rápida, acciones de agentes erróneas impulsadas por razonamientos inexactos y una mayor pérdida y abuso de credenciales si se engaña al navegador de IA para que navegue de forma autónoma a un sitio web de phishing”.
«Los controles tradicionales son inadecuados para los nuevos riesgos introducidos por los navegadores de IA, y las soluciones apenas están comenzando a surgir», dijo Mirolyubov. «Existe una brecha importante en la inspección de las comunicaciones multimodales con los navegadores, incluidos los comandos de voz para los navegadores de IA».
La inyección rápida sigue siendo una preocupación particular, reconoció el CISO de OpenAI, Dane Stuckey, en una publicación para Xanteriormente Twitter, el día después del lanzamiento de ChatGPT Atlas: «La inyección rápida sigue siendo un problema de seguridad fronterizo sin resolver, y nuestros adversarios dedicarán mucho tiempo y recursos para encontrar formas de hacer que los agentes de ChatGPT caigan en estos ataques».
