Cuatro formas en que los delincuentes podrían usar la IA para atacar a más víctimas

Las advertencias sobre la inteligencia artificial (IA) son omnipresentes en este momento. han incluido mensajes de miedo sobre el potencial de la IA para causar la extinción de los humanos, invocando imágenes de las películas de Terminator. El primer ministro del Reino Unido, Rishi Sunak, incluso ha organizar una cumbre para discutir la seguridad de la IA.

Sin embargo, hemos estado usando herramientas de IA durante mucho tiempo, desde los algoritmos utilizados para recomendar productos relevantes en sitios web de compras, hasta automóviles con tecnología que reconoce las señales de tráfico y proporciona posicionamiento de carril. La IA es una herramienta para aumentar la eficiencia, procesar y clasificar grandes volúmenes de datos y descargar la toma de decisiones.

Sin embargo, estas herramientas están abiertas a todos, incluidos los delincuentes. Y ya estamos viendo la adopción temprana de la IA por parte de los delincuentes. La tecnología deepfake se ha utilizado para generar pornografía de venganzaPor ejemplo.

Tecnología mejora la eficiencia de la actividad delictiva. Permite a los infractores de la ley dirigirse a un mayor número de personas y les ayuda a ser más plausibles. Observar cómo los delincuentes se han adaptado y adoptado los avances tecnológicos en el pasado puede proporcionar algunas pistas sobre cómo podrían usar la IA.

1. Un mejor anzuelo de phishing

herramientas de IA como ChatGPT y Bardo de Google proporcionar soporte de escritura, lo que permite a los escritores sin experiencia elaborar mensajes de marketing efectivos, por ejemplo. Sin embargo, esta tecnología también podría ayudar a los delincuentes a sonar más creíbles al contactar a las víctimas potenciales.

Piense en todos esos correos electrónicos y textos de phishing de spam que están mal escritos y se detectan fácilmente. Ser plausible es clave para poder obtener información de una víctima.

El phishing es un juego de números: un estimado de 3.400 millones de correos electrónicos no deseados se envían todos los días. Mis propios cálculos muestran que si los delincuentes fueran capaces de mejorar sus mensajes para que tan solo el 0,000005 % de ellos convencieran a alguien para que revelara información, resultaría en 6,2 millones más de víctimas de phishing cada año.

2. Interacciones automatizadas

Uno de los primeros usos de las herramientas de IA fue automatizar las interacciones entre los clientes y los servicios a través de mensajes de texto, chat y teléfono. Esto permitió una respuesta más rápida a los clientes y una eficiencia empresarial optimizada. Es probable que su primer contacto con una organización sea con un sistema de IA, antes de hablar con un ser humano.

Los delincuentes pueden usar las mismas herramientas para crear interacciones automatizadas con un gran número de posibles víctimas, a una escala imposible si solo fuera llevado a cabo por humanos. Pueden hacerse pasar por servicios legítimos como bancos por teléfono y correo electrónico, en un intento de obtener información que les permita robar su dinero.

3. Falsificaciones profundas

La IA es realmente buena para generar modelos matemáticos que pueden «entrenarse» en grandes cantidades de datos del mundo real, lo que hace que esos modelos sean mejores en una tarea determinada. La tecnología deepfake en video y audio es un ejemplo de esto. Un acto deepfake llamado metafísicademostró recientemente el potencial de la tecnología cuando presentó un video de Simon Cowell cantando ópera en el programa de televisión America’s Got Talent.

Esta tecnología está fuera del alcance de la mayoría de los delincuentes, pero la capacidad de utilizar la IA para imitar la forma en que una persona respondería a los mensajes de texto, escribiría correos electrónicos, dejaría notas de voz o realizaría llamadas telefónicas está disponible de forma gratuita mediante la IA. También lo son los datos para entrenarlo, que se pueden recopilar a partir de videos en las redes sociales, por ejemplo.

Las redes sociales siempre han sido una rica veta para los delincuentes que extraen información sobre objetivos potenciales. Ahora existe la posibilidad de que la IA se utilice para crear una versión falsa de ti. Este deepfake se puede explotar para interactuar con amigos y familiares, convenciéndolos de que entreguen información sobre usted a los delincuentes. ganando un una mejor visión de tu vida lo hace más fácil de adivinar contraseñas o pines.

4. Fuerza bruta

Otra técnica utilizada por los delincuentes llamada «fuerza bruta» también podría beneficiarse de la IA. Aquí es donde se prueban varias combinaciones de caracteres y símbolos para ver si coinciden con sus contraseñas.

Por eso, las contraseñas largas y complejas son más seguras; son más difíciles de adivinar con este método. La fuerza bruta requiere muchos recursos, pero es más fácil si sabes algo sobre la persona. Por ejemplo, esto permite ordenar listas de posibles contraseñas según su prioridad, lo que aumenta la eficiencia del proceso. Por ejemplo, podrían comenzar con combinaciones relacionadas con los nombres de miembros de la familia o mascotas.

Los algoritmos entrenados en sus datos podrían usarse para ayudar a crear estas listas priorizadas con mayor precisión y dirigirse a muchas personas a la vez, por lo que se necesitan menos recursos. Se podrían desarrollar herramientas específicas de IA que recopilen sus datos en línea y luego los analicen para crear un perfil suyo.

Si, por ejemplo, publica con frecuencia en las redes sociales sobre Taylor Swift, revisar manualmente sus publicaciones en busca de pistas de contraseña sería un trabajo difícil. Las herramientas automatizadas hacen esto de manera rápida y eficiente. Toda esta información se utilizaría para crear el perfil, lo que facilitaría adivinar contraseñas y pines.

Escepticismo saludable

No debemos tener miedo de la IA, ya que podría traer beneficios reales a la sociedad. Pero como con cualquier nueva tecnología, la sociedad necesita adaptarse y comprenderla. Aunque ahora damos por hecho los teléfonos inteligentes, la sociedad tuvo que adaptarse a tenerlos en nuestras vidas. En gran medida han sido beneficiosos, pero persisten las incertidumbres, como una buena cantidad de tiempo de pantalla para los niños.

Como individuos, debemos ser proactivos en nuestros intentos de comprender la IA, no complacernos. Deberíamos desarrollar nuestros propios enfoques al respecto, manteniendo un saludable sentido de escepticismo. Tendremos que considerar cómo verificamos la validez de lo que estamos leyendo, escuchando o viendo.

Estos simples actos ayudarán a la sociedad a cosechar los beneficios de la IA y garantizarán que podamos protegernos de posibles daños.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.