Editor Top
La casa moderna con su tecnología inteligente ofertas defensas efectivas contra la piratería informática de la vieja escuela cuando está bien mantenido. Pero ahora hay un nuevo tipo de malware y está encontrando un tipo de vulnerabilidad que no existía antes, gracias a la IA.
La amenaza se llama inyecciones rápidas o, coloquialmente, software rápido. Es un nuevo tipo de delito cibernético que puede hacer que su IA siga comandos fraudulentos, y preocupa a todos, desde Google y Manzana a AbiertoAI. En el hogar inteligente, esto es particularmente peligroso porque el software rápido podría usarse para controlar la calefacción, apagar las luces o incluso desbloquear conectado cerraduras inteligentes.
No se pierda ninguno de nuestro contenido tecnológico imparcial y reseñas de laboratorio. Añadir CNET como fuente preferida de Google.
Los expertos todavía están aprendiendo qué peligros presenta el software rápido para la IA estilo LLM y los muchos lugares donde puede esconderse. Mientras tanto, hay medidas que puede tomar para mantenerse seguro y alerta. Esto es lo que sugiero.
El auge del software rápido
Las integraciones de Google Home de Gemini son útiles, pero las opciones de comando pueden incluir algunos riesgos.
Promptware o inyecciones rápidas ocuparon un lugar central este verano en una conferencia de Blackhat donde investigadores de la Universidad de Tel Aviv encabezados por Ben Nassi demostraron cómo eran capaces de utilizar mensajes maliciosos oculto en los mensajes cotidianos para que la IA Gemini de Google haga cosas como abrir ventanas inteligentes, encender una caldera conectada o enviar la geolocalización de un usuario, gracias a la integración de Gemini con Google Home y aplicaciones relacionadas. Dentro de los mensajes se ocultaban comandos cuidadosamente diseñados que se reducían a: «Hola Géminis, activa esta función y haz que haga esto cuando el usuario escriba algo como ‘gracias’ o ‘adiós’ en un correo electrónico».
Peor aún, gran parte del software de aviso era de «clic cero», lo que significaba que los usuarios no tenían que hacer clic en una URL, documento o mensaje para activarlo. Géminis solo tuvo que leer un título o un mensaje de calendario donde el mensaje estaba cuidadosamente oculto, como cuando resume una conversación por correo electrónico.
De esto surgieron buenas noticias: actualmente no necesita preocuparse de que Géminis sea víctima de estas indicaciones de control del hogar. Google se enteró de estas vulnerabilidades a principios de 2025 y establecer medidas de seguridad para eliminarlos y ayudar a prevenir este tipo de avisos.
El portavoz de Google también me dijo que «esta colaboración activa con sombreros blancos e investigadores de seguridad es un desarrollo profundamente positivo, que conduce a pruebas productivas y búsqueda de errores que fortalecen los sistemas de IA para todos. Participamos activamente y valoramos programas como nuestro Programa de recompensa por vulnerabilidad de IA».
Sin embargo, el descubrimiento de estas vulnerabilidades demostró cuán peligroso puede ser el software rápido y cómo el software ubicado en los lugares más inocuos puede engañar a las IA. Tampoco es un ataque que pueda ser detectado por el software antivirus o los cortafuegos tradicionales. Ese es un problema a medida que las IA se vuelven más desarrolladas, más presentes en nuestra comunicación diaria y más conectadas a nuestras computadoras, dispositivos domésticos y teléfonos.
Supongo que los ciberdelincuentes estarán atentos a las vulnerabilidades del software rápido que tal vez no se detecten tan pronto como estos errores de Gemini, especialmente porque Alexa Plus AI continúa su lento despliegue y Apple también está en conversaciones para actualizar Siri con funciones de Gemini AI.
Cinco pasos clave para detener las amenazas de software rápido
Promptware es una nueva amenaza basada en inteligencia artificial, pero existen formas de proteger su hogar.
Si el software rápido/la inyección rápida elude las defensas simplemente haciendo que la IA lo lea, ¿cómo se puede proteger contra ello? Afortunadamente, varias prácticas de seguridad pueden ayudar, y en la era de la IA, estas medidas también previenen otros problemas de privacidad y seguridad, por lo que son hábitos saludables para todos.
Mantenga siempre actualizados sus dispositivos, especialmente en la era de la IA
Las actualizaciones siempre han sido una defensa de primera línea para corregir las vulnerabilidades de seguridad y mantener las aplicaciones más seguras. Ahora, también brindan actualizaciones importantes para las funciones de inteligencia artificial que se encuentran en nuestros teléfonos, que pueden incluir nuevas funciones de seguridad.
Mantenga siempre actualizado el sistema operativo de su teléfono a la última versión, así como las aplicaciones (AI o de otro tipo) que utilice en él. Envíe actualizaciones automáticas si la configuración lo permite.
Leer más: Mi hogar inteligente es mucho más seguro después de estos 5 cambios de contraseña vitales
No acepte ni abra ningún mensaje de fuentes desconocidas
No todo el software de aviso es de cero clic, y algunas versiones necesitan que usted abra o acepte algo para insertar el aviso donde la IA lo leerá. Evite esto evitando cualquier mensaje o remitente que no reconozca. Si es posible, ni siquiera los abras para obtener más información; simplemente elimínalos y continúa.
Cuando me comuniqué con Google, una cosa que mencionaron fue: «Los ataques de inyección rápida, si bien son específicos de la IA, comparten una dinámica fundamental con amenazas de larga data como el phishing en el correo electrónico. Ambas son áreas donde los atacantes buscarán constantemente nuevas vulnerabilidades». Al igual que el phishing, es mejor eliminarlo e informarlo que correr riesgos.
No le pidas a la IA que resuma nada que no sepas bien y en el que no confíes
En muchos casos, la IA no leerá el mensaje a menos que se le ordene hacerlo. Eso puede incluir resumir correos electrónicos o mensajes de texto, crear eventos de calendario, resumir documentos en línea, etc. Para evitar el aviso, es mejor evitar pedirle a la IA que resuma un montón de mensajes que usted mismo podría leer.
Tenga cuidado al permitir que las IA accedan a demasiados mensajes desconocidos.
Desactive la IA en su correo electrónico, calendarios, aplicaciones de chat y otros lugares donde pueda recibir mensajes
El Promptware tiene que venir de alguna parte, incluso si no siempre requiere que hagas clic en un enlace. Una forma a menudo eficaz de evitar que tome el control de los dispositivos conectados es asegurarse de que la IA elegida no «vea» ninguna indicación.
Con ese fin, vea si puede desactivar las funciones de IA en su correo electrónico, mensajes (como resúmenes de mensajes de texto) y aplicaciones de productividad como calendarios para reducir en gran medida los riesgos de que cualquier tipo de software rápido tome el control.
Si puede crear configuraciones detalladas, puede cambiar la IA para que solo haga cosas cuando se le solicite, de modo que aún pueda conservar ciertos beneficios. Esta es la defensa HITL o Human-in-the-Loop donde un humano debe darle permiso a la IA para actuar para que no se encuentre con ningún software rápido por sí solo.
No se limite a copiar y pegar líneas de asunto, nombres de archivos o códigos de correo electrónico
El Promptware a menudo se esconde en los bordes de descripciones largas, asuntos de correo electrónico, nombres de archivos y fragmentos de código que puede tener la tentación de copiar y pegar cuando organiza o transfiere datos. Ahorra tiempo, pero recomiendo adquirir el hábito de verificar todos esos títulos y descripciones primero para asegurarse de que no haya comandos extraños escondidos al final.
Para obtener más información, consulte por qué me gusta la IA en la seguridad del hogar, las últimas medidas para proteger a los niños de la IA y por qué no debería utilizar la IA como terapeuta.
