¿Puede ChatGPT señalar a posibles terroristas? Un estudio utiliza herramientas automatizadas e inteligencia artificial para perfilar a los extremistas violentos

La tecnología como ChatGPT podría desempeñar un papel complementario y ayudar a perfilar a los terroristas e identificar la probabilidad de que participen en actividades extremistas, según un estudio que podría hacer que los esfuerzos antiterroristas sean más eficientes.

El estudio, «Un ciberterrorista detrás del teclado: un análisis de texto automatizado para la elaboración de perfiles psicolingüísticos y la evaluación de amenazas», fue publicado en el Revista de agresión y conflicto lingüístico.

Los investigadores de la Universidad Charles Darwin (CDU) alimentaron 20 declaraciones públicas posteriores al 11 de septiembre hechas por terroristas internacionales al software Linguistic Inquiry and Word Count (LIWC).

Luego proporcionaron a ChatGPT una muestra de declaraciones de cuatro terroristas dentro de este conjunto de datos y le hicieron dos preguntas a la tecnología: ¿Cuáles son los temas o temas principales del texto y qué quejas hay detrás de los mensajes comunicados?

ChatGPT pudo identificar los temas centrales de textos seleccionados de cuatro terroristas, lo que reveló pistas sobre las motivaciones de cada individuo y el propósito de sus textos. ChatGPT podría producir categorías temáticas y semánticas razonablemente bien.

Los temas incluyen represalias y autodefensa, rechazo de los sistemas democráticos, oposición al secularismo y gobernantes apóstatas, lucha y martirio, deshumanización de los oponentes, crítica a la inmigración masiva, oposición al multiculturalismo y más.

ChatGPT también identificó pistas sobre las motivaciones de la violencia, incluido el deseo de retribución y justicia, sentimiento antioccidental, opresión y agresión por parte de enemigos, agravios religiosos y miedo al reemplazo racial y cultural.

Los temas también se mapearon en el Protocolo de Evaluación de Radicalización Terrorista-18 (TRAP-18), una herramienta utilizada por las autoridades para evaluar a personas que potencialmente podrían participar en terrorismo.

Se descubrió que los temas coincidían con los indicadores TRAP-18 de comportamiento amenazante.

El autor principal, el Dr. Awni Etaywe, experto en lingüística forense centrada en el terrorismo, dice que la ventaja de los modelos de lenguaje grande (LLM) como ChatGPT es que podrían usarse como una herramienta complementaria que no requiere capacitación específica.

«Si bien los LLM no pueden reemplazar el juicio humano o el análisis de textos cercanos, ofrecen valiosas pistas de investigación, acelerando la sospecha y mejorando nuestra comprensión de las motivaciones detrás del discurso terrorista», dijo el Dr. Etaywe.

«A pesar de las preocupaciones sobre la posible utilización de herramientas de inteligencia artificial como ChatGPT como armas, tal como lo planteó Europol, este estudio ha demostrado que el trabajo futuro destinado a mejorar las capacidades proactivas de elaboración de perfiles forenses también puede aplicar el aprendizaje automático a la categorización de textos ciberterroristas».

El artículo fue escrito en coautoría por la profesora titular de Ciencias Políticas y Relaciones Internacionales de la CDU, la Dra. Kate Macfarlane, y el profesor de Tecnología de la Información de la CDU, Mamoun Alazab.

El Dr. Etaywe dijo que se necesitan más estudios para mejorar la precisión y confiabilidad de los LLM, incluidos los análisis de ChatGPT.

«Necesitamos asegurarnos de que se convierta en una ayuda práctica para identificar amenazas potenciales teniendo en cuenta los contextos socioculturales del terrorismo», dijo el Dr. Etaywe.

«Estos grandes modelos de lenguaje tienen hasta ahora un valor de investigación, pero no de evidencia».