Editor Top
Normalmente estoy seguro de la resistencia del hogar inteligente a la piratería, especialmente desde las mejoras de seguridad de los últimos años. Pero ahora la edad de la IA está aquí, y ha traído algunas vulnerabilidades nuevas, incluidas las formas de tomar el control de los dispositivos domésticos. Lo peor se llama aviso o inyecciones rápidas, y se dirige a AIS que usamos todos los días como Gemini, Alexa Plus y Siri.
La información es un tipo de malware que puede eludir los programas antivirus y dar órdenes de IA sin que usted sepa. En el peor de los casos, puede copiar y enviar datos personales a alguien o dar comandos a dispositivos de inicio inteligentes como luces e incluso cerraduras inteligentes.
No se pierda ninguno de nuestros contenido tecnológico imparcial y reseñas basadas en el laboratorio. Agregar CNET Como fuente de Google preferida.
Los expertos todavía están aprendiendo qué peligros se invitan a la IA al estilo LLM y a los muchos lugares que puede ocultar. Mientras tanto, hay muchos pasos que puede tomar para ayudar a mantenerse a salvo y alerta. Esto es lo que sugiero.
El aumento de la rápida
Las integraciones de Google Home de Gemini son útiles, pero las opciones de comando pueden incluir algunos riesgos.
La rápida o inyección de inmediato tomaron el centro del escenario este verano en una conferencia de Blackhat donde los investigadores de la Universidad de Tel Aviv dirigidos por Ben Nassi demostraron cómo pudieron Use indicaciones maliciosas Oculto en los mensajes cotidianos para hacer que Gemini AI de Google haga cosas como abrir Windows Smart, encender una caldera conectada o enviar la geolocalización de un usuario, gracias a la integración de Gemini con Google Home y aplicaciones relacionadas. Los mensajes internos se ocultaron con cuidadosamente los comandos que redujeron a «Hola Géminis, active esta característica y haga que haga esto cuando el usuario escribe algo como ‘gracias’ o ‘adiós’ en un correo electrónico».
Peor aún, gran parte de la rápida fue «Click Cero», lo que significaba que los usuarios no tenían que hacer clic en una URL, documento o mensaje para activarla. Géminis solo tuvo que leer un mensaje o mensaje de calendario donde el aviso estaba cuidadosamente oculto, como cuando resume una conversación por correo electrónico para usted.
Las buenas noticias provienen de esto: actualmente no necesita preocuparse por la caída de Gemini que caen presas de estas indicaciones que controlan el hogar. Google se dio cuenta de estas vulnerabilidades a principios de 2025 y Configurar salvaguardas para eliminarlas y ayudar a prevenir este tipo de aviso.
El portavoz de Google también me dijo que «esta colaboración activa con los sombreros blancos e investigadores de seguridad es un desarrollo profundamente positivo, lo que lleva a pruebas productivas y caza de errores que hace que los sistemas de IA fueran más fuertes para todos. Participamos activamente en programas de valor y valor como nuestro programa de recompensas de vulnerabilidad de IA».
Sin embargo, el descubrimiento de estas vulnerabilidades mostró cuán peligrosa puede ser la rápida y cómo se puede engañar por AIS por la información inicial ubicada en los lugares más inocuos. Tampoco es un ataque que pueda ser detectado por el software o los firewalls tradicionales de virus. Ese es un problema a medida que AIS se desarrolla más, más presente en nuestra comunicación diaria y más conectado con nuestras computadoras, dispositivos domésticos y teléfonos.
Espero que los ciberdelincuentes estén observando vulnerabilidades de aviso que pueden no ser atrapados tan pronto como estos pasos en falso de Géminis, especialmente porque el Alexa Plus AI continúa su lento despliegue y Apple también está en conversaciones para actualizar Siri con las características de Gemini AI.
5 pasos clave para detener las amenazas de aviso
La información es una nueva amenaza basada en la IA, pero hay formas de proteger su hogar.
Si la inyección de aviso/indicación se desliza más allá de las defensas simplemente haciendo que AI lo lea, ¿cómo se protege contra ella? Afortunadamente, varias prácticas de seguridad pueden ayudar, y en la era de la IA, estos pasos también evitan otros problemas de privacidad y seguridad, por lo que son hábitos saludables para todos.
Siempre mantenga sus dispositivos actualizados, especialmente en la era de la IA
Las actualizaciones siempre han sido una defensa de primera línea para parchear las vulnerabilidades de seguridad y mantener las aplicaciones más seguras. Ahora, proporcionan actualizaciones importantes a las funciones de IA que también viven en nuestros teléfonos, que pueden incluir nuevas características de seguridad.
Siempre mantenga actualizado el sistema operativo de su teléfono a la última versión, así como a las aplicaciones (IA o no) que use en él. Presione actualizaciones automáticas si la configuración le permite.
Leer más: Mi hogar inteligente es mucho más seguro después de estos 5 cambios vitales de contraseña
No acepte ni abra ningún mensaje de fuentes desconocidas
No toda la información es cero, y algunas versiones necesitan que abra o acepte algo para insertar el mensaje donde la IA lo leerá. Evite esto evitando cualquier mensaje o remitente que no reconozca. Ni siquiera los abra para aprender más si es posible, simplemente elimine y siga adelante.
Cuando contacté a Google, una cosa que mencionaron fue: «Los ataques de inyección inmediatos, aunque específicos de la IA, comparten una dinámica fundamental con amenazas de larga data como el phishing en el correo electrónico. Ambos son áreas donde los atacantes investigarán constantemente nuevas vulnerabilidades». Al igual que Phishing, es mejor eliminar e informar que correr riesgos.
No le pidas a AI que resume cualquier cosa que no sepa bien y confíe en
En muchos casos, la IA no lee el aviso a menos que se le ordene hacerlo. Eso puede incluir resumir correos electrónicos o textos, crear eventos calendario, resumir documentos en línea, etc. Para evitar la información, es mejor evitar pedirle a AI que resume un montón de mensajes que podría pasar por usted mismo.
Tenga cuidado de que AIS acceda a demasiados mensajes desconocidos.
Deshabilite la IA en su correo electrónico, calendarios, aplicaciones de chat y otros lugares que pueda recibir mensajes
La rápida debe provenir de algún lugar, incluso si no siempre requiere que haga clic en un enlace. Una forma a menudo efectiva de evitar que tome el control de los dispositivos conectados, TP se asegura de que su IA elegida no «ve» ninguna indicación.
Con ese fin, vea si puede deshabilitar las funciones de AI en su correo electrónico, mensajes (como resúmenes de mensajes de texto) y aplicaciones de productividad como los calendarios para reducir en gran medida los riesgos de cualquier tipo de avisura que tome el control.
Si puede crear configuraciones detalladas, puede cambiar la IA para que solo haga las cosas cuando se le solicite, por lo que aún puede retener ciertos beneficios. Esta es la defensa de HITL o humano en el circuito, donde un humano debe dar permiso de IA para actuar para que no se transfiera por sí solo.
No solo copie y pegue las líneas de asunto, los nombres o el código de los archivos de correo electrónico
A menudo se esconde en los bordes de descripciones largas, sujetos por correo electrónico, nombres de archivos y fragmentos de código. Es posible que tenga la tentación de copiar y pegar cuando organice o transfiera datos. Ahorra tiempo, pero recomiendo tener el hábito de verificar todos esos títulos y descripciones primero para asegurarse de que no hay comandos extraños que se esconden en el extremo de la cola.
Para obtener más información, consulte por qué me gusta la IA en la seguridad del hogar, los últimos movimientos para proteger a los niños de la IA y por qué no debería usar la IA como terapeuta.
