Di la verdad: ¿Quieres detectores de mentiras de inteligencia artificial en el lugar de trabajo?

La empresa farmacéutica CVS recientemente llegó a un acuerdo en una demanda colectiva en la que se acusaba a la empresa de utilizar detectores de mentiras con inteligencia artificial durante las entrevistas de trabajo y de no informar a los posibles empleados sobre lo que estaba haciendo (los términos del acuerdo no fueron revelados).

Según la denuncia, CVS utilizó Tecnología de entrevistas en video de HireVue y Producto de análisis de IA de Affectiva.

HireVue es un producto de RR.HH. con inteligencia artificial diseñado para brindar beneficios tanto a los posibles empleados como a las empresas que realizan la contratación.

Según la empresa, los dos beneficios para los posibles empleados son que la IA puede reducir los sesgos en la contratación (aunque el uso del análisis facial se eliminó en 2020 por preocupaciones sobre posibles sesgos) y que las preguntas de la entrevista se pueden establecer de antemano, para que el candidato pueda hacer la entrevista con la IA en cualquier momento. (El software también facilita entrevistas en tiempo real con personas reales).

La plataforma se integra con sistemas y herramientas de RR.HH., incluidos Microsoft Teams, LinkedIn y Salesforce.

HireVue afirma que su producto permite a los equipos realizar mejores contrataciones mucho más rápido. Se graban videos y la IA los analiza para evaluar las señales verbales y no verbales, como la elección de palabras, el tono de voz y las expresiones faciales.

Las funciones de inteligencia artificial, desarrolladas por un equipo de científicos de datos y psicólogos industriales y organizacionales, son un secreto comercial, pero se trata de una especie de aprendizaje automático entrenado en entrevistas y seguimientos para descubrir qué empleados funcionaron.

La tecnología Emotion AI de Affectiva, integrada con la plataforma de entrevistas en video de HireVue para mejorar la inteligencia artificial de HireVue, fue diseñada para rastrear e interpretar varias expresiones faciales, como sonrisas, sorpresa, desprecio, disgusto y muecas burlonas. Este análisis contribuyó a generar una «puntuación de empleabilidad» para cada candidato, que incluía evaluaciones de rasgos como «conciencia y responsabilidad» y un «sentido innato de integridad y honor», según la demanda, que afirmaba que el software equivalía a un «detector de mentiras».

Europa planea una prueba de detector de mentiras para ingresar

La Unión Europea está planeando utilizar un sistema de detector de mentiras con inteligencia artificial llamado iBorderCtrl para los viajeros que ingresan a los países de la UE.

iBorderCtrl es una herramienta de software de inteligencia artificial diseñada para analizar los movimientos faciales y el lenguaje corporal con el fin de alertar a los agentes de inmigración sobre comportamientos sospechosos. Los críticos sostienen que el sistema discriminará a las personas con discapacidades o personalidades ansiosas, pero podría implementarse a partir del 6 de octubre de 2024.

¿Puede la IA realmente saber si alguien está mintiendo?

No está claro si la acusación contra CVS involucraba una detección real de mentiras, y aún menos claro si el software puede realmente juzgar la integridad y otras cualidades de una persona.

Pero la IA realmente puede hacer algo Muy buen trabajo con la detección de mentiras.según un estudio reciente de Alicia von Schenk y sus colegas de la Universidad de Würzburg en Alemania.

Los investigadores desarrollaron una herramienta de inteligencia artificial entrenada con el modelo de lenguaje BERT de Google sobre un conjunto de datos de 1.536 afirmaciones sobre planes para el fin de semana, de las cuales la mitad eran “mentiras incentivadas”. El sistema de inteligencia artificial identificó con éxito afirmaciones verdaderas y falsas el 67% de las veces (lo que es mejor que los humanos, que normalmente solo logran una precisión del 50%).

Los investigadores afirman que dicha herramienta podría utilizarse para identificar noticias falsas y desinformación en las redes sociales, detectar exageraciones o mentiras en solicitudes de empleo y entrevistas, y otros usos.

Otro grupo de investigación de la Escuela de Estudios Avanzados IMT de Lucca y la Universidad de Padua desarrolló una IA generativa (genAI) que Puede identificar mentiras en textos escritos. con un nivel de precisión del 80%, según los investigadores.

Con el aumento de herramientas genAI disponibles públicamente, podemos esperar que la investigación en el área de detección de mentiras mediante IA crezca.

El problema con la detección de mentiras mediante IA

En estas cifras se puede ver claramente el problema de la detección de mentiras por inteligencia artificial. Suponiendo que la inteligencia artificial de la Universidad de Würzburg sea aproximadamente tan precisa como la inteligencia artificial que se utiliza en la contratación o en la patrulla fronteriza, se puede ver cómo podría mejorar la contratación y arruinar la patrulla fronteriza.

En la contratación, la mayoría de los candidatos son rechazados y uno es seleccionado, normalmente con criterio humano. Si la IA juzga mejor, una empresa podría hacer mejores contrataciones, en promedio.

Pero con los agentes fronterizos, se acepta a todas las personas que entran, a menos que los agentes encuentren algún motivo para rechazarlas. Si la IA está generando señales de alerta y falsos positivos a gran escala basándose en una tasa de éxito del 67%, muchos viajeros que de otro modo serían aceptables podrían ser rechazados.

El plan europeo ya está siendo objeto de demandas, y me sorprendería que finalmente se implementara por ahora.

También es seguro asumir que el software de detección de mentiras con inteligencia artificial podría mejorar mucho, mucho. ¿Y luego qué? Una herramienta de este tipo podría resultar invaluable en la guerra para interrogar a prisioneros y también con fines de espionaje. Podría ser excelente para encontrar topos y agentes dobles en organizaciones de espionaje y para encontrar e identificar terroristas.

Algún día, la detección de mentiras mediante inteligencia artificial podría convertirse en un estándar en la contratación, e incluso aplicarse a las comunicaciones cotidianas de la oficina, incluidos correos electrónicos, mensajes de texto y otras herramientas de comunicación.

Personalmente, me encantaría ver una mejor IA aplicada a las publicaciones en las redes sociales, de modo que la desinformación pudiera ser marcada de manera predeterminada. Si se aplicara un software de detección de mentiras lo suficientemente bueno a gran escala en las redes sociales, estas podrían pasar de ser las fuentes de información menos confiables a las más confiables.

Y hay una gran cantidad de aplicaciones para la detección de mentiras de alta calidad mediante inteligencia artificial del futuro, incluida una función de las gafas con inteligencia artificial. (Imagínese ver una bandera roja literal en sus gafas cuando la persona que tiene frente a usted está diciendo una mentira).

Pero dudo que el software de detección de mentiras sea aceptado alguna vez en un entorno de oficina para empleados comunes y corrientes. Es demasiado intrusivo, espeluznante y problemático. Y engrasa la pendiente resbaladiza hacia el camino de la IA que cumple la función de validar a los humanos. Si la IA determina básicamente nuestra productividad, nuestra integridad y otros factores, entonces las personas están básicamente trabajando para el placer de las máquinas: algo propio de la ciencia ficción distópica.

Mientras tanto, vamos a ver muchos titulares en los próximos años sobre la detección de mentiras mediante inteligencia artificial, y más de lo que hemos visto este mes: demandas, investigaciones y enormes planes para su implementación en entornos de seguridad.

No voy a mentir: toda la tendencia es al mismo tiempo fascinante y horrible.