El spam generado por IA pronto podría inundar su bandeja de entrada, y se personalizará para que sea especialmente persuasivo.

Todos los días, los mensajes de príncipes nigerianos, vendedores ambulantes de drogas maravillosas y promotores de inversiones imperdibles obstruyen las bandejas de entrada de los correos electrónicos. Las mejoras en los filtros de spam solo parecen inspirar nuevas técnicas para romper las protecciones.

Ahora, la carrera armamentista entre los bloqueadores de spam y los remitentes de spam está a punto de intensificarse con la aparición de una nueva arma: la inteligencia artificial generativa. Con los avances recientes en IA popularizado por ChatGPTlos spammers podrían tener nuevas herramientas para evadir los filtros, captar la atención de las personas y convencerlas de que hagan clic, compren o den información personal.

Como director del laboratorio de Razonamiento Humano y de Máquinas Avanzados en la Universidad del Sur de Florida, yo investigo la intersección de la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano. He estudiado cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto se puede usar para comprender mejor cómo interactuar con las personas, ayudarlos a aprender o brindarles sugerencias útiles. Pero esto también significa que debe prepararse para un spam más inteligente que conoce sus puntos débiles y puede usarlos en su contra.

Correo no deseado, correo no deseado, correo no deseado

Entonces, ¿qué es el spam?

El spam se define como correos electrónicos comerciales no solicitados. enviado por una entidad desconocida. El término a veces se extiende a mensajes de texto, mensajes directos en las redes sociales y reseñas falsas sobre productos. Los spammers quieren empujarlo hacia la acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar vistas.

El spam es rentable. Una explosión de correo electrónico puede generar US $ 1,000 en solo unas pocas horas, que les cuesta a los spammers solo unos pocos dólares, sin incluir la configuración inicial. Una campaña de spam farmacéutico en línea podría generar alrededor de $ 7,000 por día.

Los anunciantes legítimos también quieren empujarlo a la acción (comprar sus productos, realizar sus encuestas, suscribirse a boletines informativos), pero mientras que un correo electrónico de un vendedor puede enlazar con el sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con regulaciones federalesun correo electrónico no deseado puede que no.

Los spammers tampoco tienen acceso a las listas de correo a las que se suscribieron los usuarios. En su lugar, los spammers utilizan estrategias contrarias a la intuición, como la La estafa del «príncipe nigeriano», en el que un príncipe nigeriano afirma necesitar tu ayuda para desbloquear una cantidad absurda de dinero y promete recompensarte muy bien. Los nativos digitales inteligentes descartan de inmediato tales súplicas, pero lo absurdo de la solicitud en realidad puede seleccionar por ingenuidad o edad avanzadafiltrando a los que tienen más probabilidades de caer en las estafas.

Sin embargo, los avances en IA significan que los spammers podrían no tener que depender de tales enfoques impredecibles. La IA podría permitirles dirigirse a individuos y hacer que sus mensajes sean más persuasivos en función de información de fácil acceso, como publicaciones en redes sociales.

Futuro del correo no deseado

Lo más probable es que haya oído hablar de los avances en los modelos generativos de lenguajes grandes como ChatGPT. La tarea que realizan estos LLM generativos es engañosamente simple: dada una secuencia de texto, predecir qué token (piense en esto como parte de una palabra) viene a continuación. Luego, prediga qué token viene después de eso. Y así sucesivamente, una y otra vez.

De alguna manera, el entrenamiento solo en esa tarea, cuando se realiza con suficiente texto en un LLM lo suficientemente grande, parece ser suficiente para imbuir a estos modelos con la capacidad de funcionar sorprendentemente bien en muchas otras tareas.

Ya han surgido múltiples formas de usar la tecnología, lo que demuestra la capacidad de la tecnología para adaptarse rápidamente y aprender sobre las personas. Por ejemplo, los LLM pueden escribir correos electrónicos completos en su estilo de escritura, con solo algunos ejemplos de cómo escribe. Y está el ejemplo clásico, que ahora tiene más de una década, de Target descubrir que una clienta estaba embarazada antes que ella.

spammers y vendedores por igual se beneficiaría de poder predecir más sobre las personas con menos datos. Dada su página de LinkedIn, algunas publicaciones y una imagen de perfil o dos, los spammers armados con LLM pueden hacer conjeturas razonablemente precisas sobre sus inclinaciones políticas, estado civil o prioridades de vida.

Nuestra investigación mostró que los LLM podrían usarse para predecir qué palabra dirá una persona a continuación con cierto grado de precisión. superando con creces otros enfoques de IAen una tarea de generación de palabras llamada tarea de fluidez semantica. También demostramos que los LLM pueden tomar ciertos tipos de preguntas de las pruebas de habilidades de razonamiento y predecir cómo responderá la gente a esa pregunta. Esto sugiere que los LLM ya tienen cierto conocimiento de cómo es la capacidad de razonamiento humano típica.

Si los spammers superan los filtros iniciales y logran que lea un correo electrónico, haga clic en un enlace o incluso participe en una conversación, su capacidad para aplicar persuasión personalizada aumenta dramáticamente. Aquí nuevamente, los LLM pueden cambiar el juego. Los primeros resultados sugieren que los LLM se pueden usar para argumentar de manera persuasiva sobre temas que van desde política a política de salud pública.

Bueno para el ganso

AI, sin embargo, no favorece a un lado o al otro. Los filtros de correo no deseado también deberían beneficiarse de los avances en IA, lo que les permitiría erigir nuevas barreras a los correos electrónicos no deseados.

Los spammers a menudo intentan engañar a los filtros con caracteres especiales, palabras mal escritas o texto oculto, confiando en la propensión humana a perdonar pequeñas anomalías en el texto, por ejemplo, «haga clic aquí ahora». Pero a medida que la IA mejora en la comprensión de los mensajes de spam, los filtros podrían mejorar en la identificación y el bloqueo del spam no deseado, y tal vez incluso dejar pasar el spam buscado, como el correo electrónico de marketing en el que se ha registrado explícitamente. Imagine un filtro que prediga si desea leer un correo electrónico incluso antes de leerlo.

A pesar de las crecientes preocupaciones sobre la IA, como lo demuestran Tesla, SpaceX y el CEO de Twitter, Elon Musk, el fundador de Apple, Steve Wozniak, y otros líderes tecnológicos. pidiendo una pausa en el desarrollo de IA: mucho bien podría provenir de los avances en la tecnología. AI puede ayudarnos a entender cómo los malos actores pueden explotar las debilidades en el razonamiento humano y encontrar formas de contrarrestar las actividades malévolas.

Todas las nuevas tecnologías pueden resultar tanto en asombro como en peligro. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.