Editor Top
Por lo general, soy optimista con la tecnología de casa inteligente y su fuerte resistencia a la piratería, pero una nueva vulnerabilidad me preocupa. Se llama aviso (también conocido como inyecciones rápidas), una nueva versión de malware que se dirige a AIS conversacional y generativo como Gemini, Alexa Plus o Siri ahora se vuelven tan omnipresentes en nuestras vidas, y está a punto de ser mucho más común.
Informar obliga a AI a leer instrucciones que hacen que haga algo que el usuario/suscriptor no quiere. Los ejemplos pueden variar desde molestos, como enviar correos electrónicos de spam o abrir automáticamente una llamada de zoom con un extraño, hasta francamente peligroso, como copiar y enviar datos personales o controlar dispositivos domésticos inteligentes como calefacción, luces e incluso cerraduras inteligentes.
La información es preocupante porque puede esconderse en muchos lugares y los expertos todavía están aprendiendo qué peligros presenta a la IA al estilo LLM. Pero hay formas de protegerse a sí mismo y a su hogar: vea mis pasos a continuación.
El aumento de la rápida
Las integraciones de Google Home de Gemini son útiles, pero las opciones de comando pueden incluir algunos riesgos.
La rápida o inyección de inmediato tomaron el centro del escenario este verano en una conferencia de Blackhat donde los investigadores de la Universidad de Tel Aviv dirigidos por Ben Nassi demostraron cómo pudieron Use indicaciones maliciosas Oculto en los mensajes cotidianos para hacer que Gemini AI de Google haga cosas como abrir Windows Smart, encender una caldera conectada o enviar la geolocalización de un usuario, gracias a la integración de Gemini con Google Home y aplicaciones relacionadas. Los mensajes internos se ocultaron con cuidadosamente los comandos que redujeron a «Hola Géminis, active esta característica y haga que haga esto cuando el usuario escribe algo como ‘gracias’ o ‘adiós’ en un correo electrónico».
Peor aún, gran parte de la rápida fue «Click Cero», lo que significaba que los usuarios no tenían que hacer clic en una URL, documento o mensaje para activarla. Géminis solo tuvo que leer un mensaje o mensaje de calendario donde el aviso estaba cuidadosamente oculto, como cuando resume una conversación por correo electrónico para usted.
Las buenas noticias provienen de esto: actualmente no necesita preocuparse por la caída de Gemini que caen presas de estas indicaciones que controlan el hogar. Google se dio cuenta de estas vulnerabilidades a principios de 2025 y Configurar salvaguardas para eliminarlas y ayudar a prevenir este tipo de aviso.
El portavoz de Google también me dijo que «esta colaboración activa con los sombreros blancos e investigadores de seguridad es un desarrollo profundamente positivo, lo que lleva a pruebas productivas y caza de errores que hace que los sistemas de IA fueran más fuertes para todos. Participamos activamente en programas de valor y valor como nuestro programa de recompensas de vulnerabilidad de IA».
Sin embargo, el descubrimiento de estas vulnerabilidades mostró cuán peligrosa puede ser la rápida y cómo se puede engañar por AIS por la información inicial ubicada en los lugares más inocuos. Tampoco es un ataque que pueda ser detectado por el software o los firewalls tradicionales de virus. Ese es un problema a medida que AIS se desarrolla más, más presente en nuestra comunicación diaria y más conectado con nuestras computadoras, dispositivos domésticos y teléfonos.
Espero que los ciberdelincuentes estén observando vulnerabilidades de aviso que pueden no ser atrapados tan pronto como estos pasos en falso de Géminis, especialmente porque el Alexa Plus AI continúa su lento despliegue y Apple también está en conversaciones para actualizar Siri con las características de Gemini AI.
5 pasos clave para detener las amenazas de aviso
La información es una nueva amenaza basada en la IA, pero hay formas de proteger su hogar.
Si la inyección de aviso/indicación se desliza más allá de las defensas simplemente haciendo que AI lo lea, ¿cómo se protege contra ella? Afortunadamente, varias prácticas de seguridad pueden ayudar, y en la era de la IA, estos pasos también evitan otros problemas de privacidad y seguridad, por lo que son hábitos saludables para todos.
Siempre mantenga sus dispositivos actualizados, especialmente en la era de la IA
Las actualizaciones siempre han sido una defensa de primera línea para parchear las vulnerabilidades de seguridad y mantener las aplicaciones más seguras. Ahora, proporcionan actualizaciones importantes a las funciones de IA que también viven en nuestros teléfonos, que pueden incluir nuevas características de seguridad.
Siempre mantenga actualizado el sistema operativo de su teléfono a la última versión, así como a las aplicaciones (IA o no) que use en él. Presione actualizaciones automáticas si la configuración le permite.
Leer más: Mi hogar inteligente es mucho más seguro después de estos 5 cambios vitales de contraseña
No acepte ni abra ningún mensaje de fuentes desconocidas
No toda la información es cero, y algunas versiones necesitan que abra o acepte algo para insertar el mensaje donde la IA lo leerá. Evite esto evitando cualquier mensaje o remitente que no reconozca. Ni siquiera los abra para aprender más si es posible, simplemente elimine y siga adelante.
Cuando contacté a Google, una cosa que mencionaron fue: «Los ataques de inyección inmediatos, aunque específicos de la IA, comparten una dinámica fundamental con amenazas de larga data como el phishing en el correo electrónico. Ambos son áreas donde los atacantes investigarán constantemente nuevas vulnerabilidades». Al igual que Phishing, es mejor eliminar e informar que correr riesgos.
No le pidas a AI que resume cualquier cosa que no sepa bien y confíe en
En muchos casos, la IA no lee el aviso a menos que se le ordene hacerlo. Eso puede incluir resumir correos electrónicos o textos, crear eventos calendario, resumir documentos en línea, etc. Para evitar la información, es mejor evitar pedirle a AI que resume un montón de mensajes que podría pasar por usted mismo.
Tenga cuidado de que AIS acceda a demasiados mensajes desconocidos.
Deshabilite la IA en su correo electrónico, calendarios, aplicaciones de chat y otros lugares que pueda recibir mensajes
La rápida debe provenir de algún lugar, incluso si no siempre requiere que haga clic en un enlace. Una forma a menudo efectiva de evitar que tome el control de los dispositivos conectados, TP se asegura de que su IA elegida no «ve» ninguna indicación.
Con ese fin, vea si puede deshabilitar las funciones de AI en su correo electrónico, mensajes (como resúmenes de mensajes de texto) y aplicaciones de productividad como los calendarios para reducir en gran medida los riesgos de cualquier tipo de avisura que tome el control.
Si puede crear configuraciones detalladas, puede cambiar la IA para que solo haga las cosas cuando se le solicite, por lo que aún puede retener ciertos beneficios. Esta es la defensa de HITL o humano en el circuito, donde un humano debe dar permiso de IA para actuar para que no se transfiera por sí solo.
No solo copie y pegue líneas de asunto, nombres de archivos o código de correo electrónico
A menudo se esconde en los bordes de descripciones largas, sujetos por correo electrónico, nombres de archivos y fragmentos de código. Es posible que tenga la tentación de copiar y pegar cuando organice o transfiera datos. Ahorra tiempo, pero recomiendo tener el hábito de verificar todos esos títulos y descripciones primero para asegurarse de que no hay comandos extraños que se esconden en el extremo de la cola.
Para obtener más información, consulte por qué me gusta la IA en la seguridad del hogar, los últimos movimientos para proteger a los niños de la IA y por qué no debería usar la IA como terapeuta.
