Editor Top
Informes recientes y manifestaciones del Conferencia de seguridad informática de sombrero negro He demostrado cómo las indicaciones de IA fuera de Gemini, denominadas, podrían engañar a la IA y obligarlo a controlar los dispositivos inteligentes conectados a casa de Google. Ese es un problema para Google, que ha estado trabajando para agregar funciones de Gemini a su aplicación Google Home y reemplazar el Asistente de Google con el nuevo AI Helper.
El secreto de estas serias vulnerabilidades es cómo Gemini está diseñado para responder a los comandos básicos en inglés. Las demostraciones muestran cómo Gemini le leerá un aviso que Gemini le lee a una invitación insertada de Google Calendar de la misma manera que escanea otros datos de la aplicación de Google, como cuando resume los correos electrónicos. Pero en este caso, la adición le da a Gemini un orden muy específico, como crear un agente para controlar los dispositivos cotidianos desde Google Home.
Los investigadores de la Universidad de Tel Aviv, incluidos Ben Nassi, STAV Cohen y oir, han creado su propio sitio web Eso muestra su informe titulado Invitación es todo lo que necesita. Incluye videos que muestran cómo se pueden usar las indicaciones correctas de Géminis para abrir Windows, apagar las luces, encender una caldera o geolocar al usuario actual.
Como la invitación es todo lo que necesitas, ¿muestra la investigación?se puede ocultar un mensaje detallado en un título de invitación de calendario inocuo o un lugar similar. Estos comandos pueden hacer que Gemini cree un agente oculto y esperar una respuesta común (como decir «gracias» en un correo electrónico) para activar ciertas acciones.
Incluso si sus controles de calendario son ajustados, algunos de estos ataques de aviso podrían realizarse a través de otras cosas que los escaneos de Géminis, como una línea de asunto de correo electrónico. Otras demostraciones mostraron cómo los comandos similares podrían conducir a mensajes de spam, eventos eliminados, transmisión automática de zoom y trucos más desagradables.
¿Debería preocuparse por sus dispositivos de Google Home?
Google le dijo a CNET que han introducido múltiples soluciones Para abordar las vulnerabilidades de aviso, ya que los investigadores proporcionaron a Google su informe en febrero de 2015. Ese es el punto de las conferencias de sombrero negro: descubrir problemas antes de que los ciberdelincuentes reales los aprovechen y obtengan las soluciones rápidamente.
Andy Wen, director senior de gestión de productos de seguridad en Google Workspace, dijo a CNET: «Arreglamos este problema antes de que pudiera ser explotado gracias al gran trabajo y la divulgación responsable de Ben Nassi y su equipo. Su investigación nos ayudó a comprender mejor las vías de ataque novedosas, y aceleró nuestro trabajo para implementar nuevas defensas de vanguardia que ahora están en su lugar protegiendo a los usuarios».
Si todavía está preocupado, puede deshabilitar Gemini por completo en la mayoría de los casos.
Como he cubierto antes, la piratería inteligente para el hogar es muy rara y muy difícil con las últimas medidas de seguridad de hoy. Pero a medida que estos nuevos AI generativos se agregan a las casas inteligentes (las actualizaciones de Alexa Plus y eventuales de Siri AI incluidas en el Siri), existe la posibilidad de que puedan traer nuevas vulnerabilidades con ellas. Ahora, estamos viendo cómo funciona realmente, y me gustaría que estas funciones de IA obtengan otro pase de seguridad, lo antes posible.
