El uso de tecnología de reconocimiento facial en público podría generar percepciones de equidad en el lugar de trabajo

Muchas personas utilizan la tecnología de reconocimiento facial en sus dispositivos personales para ingresar una contraseña de manera rápida y segura o completar una transacción en línea. Pero cuando esa misma tecnología se implementa en entornos públicos, como para controlar a los pasajeros del aeropuerto o para otorgar acceso a una ubicación segura, ¿cómo se sienten las personas cuyas imágenes se capturan?

Según un nuevo estudio dirigido por Penn State y la Universidad de Alabama, la decisión de una organización de implementar públicamente la tecnología de reconocimiento facial, y si las partes interesadas están o no involucradas e informadas en esa toma de decisiones, no solo podría generar preocupaciones de privacidad de los usuarios. , seguridad de datos, vigilancia masiva y sesgo hacia grupos minoritarios, pero también podría revelar problemas de justicia organizacional, o percepciones de equidad, dentro de la propia organización.

«La tecnología es creada por humanos, y los humanos pueden ser sesgados fácilmente, por lo que la tecnología nunca es neutral», dijo Yao Lyu, estudiante de doctorado en la Facultad de Ciencias y Tecnología de la Información de Penn State. «La comunidad de interacción humano-computadora ha estado prestando cada vez más atención a los problemas de justicia en el diseño y desarrollo de tecnología. Pero, como destacamos en nuestro estudio, además del diseño y desarrollo, la implementación de tecnología también podría generar problemas de justicia, especialmente en un entorno organizacional donde varios actores están involucrados”.

En comparación con el uso de la tecnología de reconocimiento facial en un dispositivo personal, donde el usuario tiene control total sobre la decisión de usar la herramienta como medio de autenticación, la implementación reciente de la tecnología de reconocimiento facial en entornos públicos captura y usa las imágenes de las personas sin su consentimiento. Esto ha llevado a una creciente controversia, sobre todo en torno a las preocupaciones sobre la privacidad y la identificación errónea desproporcionada de mujeres y personas de color, lo que a menudo conduce a arrestos falsos debido al sesgo algorítmico en las herramientas de reconocimiento facial que utilizan las fuerzas del orden para identificar a sospechosos y testigos. Los debates en curso han llevado a ciudades y estados de EE. UU., incluidos San Francisco, Boston y Maine, a limitar o prohibir el uso de tecnología de reconocimiento facial en espacios públicos. Sin embargo, su despliegue va en aumento en ciertos sectores, incluidas las universidades públicas de EE. UU., donde Yao y su equipo centraron su estudio.

«Me sorprendió el hecho de que el sector de la educación se encuentra entre los entornos públicos en los que esta tecnología se implementa a gran escala, a través de la seguridad del campus, el control de la asistencia y el aprendizaje virtual», dijo Hengyi Fu, profesor asistente de la Facultad de Comunicación e Información. Ciencias en la Universidad de Alabama y coautor del estudio. «En contraste con las discusiones más polémicas sobre la tecnología de reconocimiento facial en otras áreas de la sociedad, hay poca oposición sostenida a su implementación en las escuelas».

Según Fu, en un entorno de educación superior, donde muchos jóvenes dan forma a su sentido de identidad social y pueden estar más dispuestos a compartir información personal, la implementación de la tecnología de reconocimiento facial podría conducir a la «eliminación normalizada de la oscuridad práctica», un pre- concepto de Internet que sostiene que la información privada en los registros de acceso público, como los registros policiales, está protegida en gran medida debido a las limitaciones de accesibilidad.

«Intentar manejar lo que se sabe y se revela sobre uno mismo puede verse como una forma legítima de que los estudiantes se aseguren de que sus acciones e intenciones se interpreten y entiendan correctamente», dijo.

En el estudio, el primero de su tipo en investigar cómo los participantes responden a la tecnología de reconocimiento facial en un entorno universitario, los investigadores examinaron las perspectivas de los profesores, el personal y los estudiantes que debían obtener acceso al espacio de trabajo colaborativo compartido de una universidad pública mediante el reconocimiento facial. , reemplazando el anterior sistema de pase de tarjeta, sin conocimientos ni educación previos. Entrevistaron a 19 usuarios del sistema al menos dos semanas después del uso inicial de la tecnología por parte de cada participante, midiendo la experiencia previa y el conocimiento de cada usuario sobre la tecnología de reconocimiento facial; sus impresiones y reacciones iniciales; sus actitudes generales hacia el sistema y la decisión de instalarlo; y si sus opiniones cambiaron después de sus interacciones iniciales.

Descubrieron que más de la mitad de los usuarios se sentían inicialmente incómodos o confundidos con la decisión de instalar el sistema, mientras que una minoría de usuarios sentía curiosidad o incluso se sentía impresionada. Con el tiempo, todos los participantes con percepciones negativas se mantuvieron firmes; la mayoría de los que inicialmente estaban a favor de la instalación gradualmente se sintieron menos solidarios; y la mayoría de los que inicialmente se sintieron neutrales aceptaron la tecnología, pero con cierto nivel de renuencia.

Además, la mayoría de los participantes se quejaron del proceso de toma de decisiones y consideraron injusto que se supusiera su consentimiento, independientemente de su impresión de la tecnología en sí. Ningún usuario informó haber recibido capacitación oficial sobre la tecnología o información sobre por qué se instaló el sistema o cómo se tomó la decisión de instalarlo.

«Todos los días se introducen nuevas tecnologías en nuestras vidas, incluido el reconocimiento facial, a menudo (con la promesa) de brindarnos más comodidad», dijo Lyu. «Es elegante, rápido y especialmente conveniente, pero (hay) también personas preocupadas por los problemas potenciales de la tecnología. La pregunta es: ¿la conveniencia supera las preocupaciones?»

A través de este estudio y otros proyectos en los que los investigadores investigan las tecnologías emergentes y cómo reaccionan las personas ante ellas, esperan armar a la gerencia de las organizaciones con información basada en evidencia que podría dar forma a cómo se toman las decisiones al implementar tecnología novedosa o, a veces, controvertida.

«A medida que continúa el despliegue de la tecnología de reconocimiento facial y aumentan las críticas públicas, se necesita investigación para comprender cómo se implementan las tecnologías controvertidas, qué tipo de experiencias tienen los usuarios y cómo es probable que respondan los usuarios», dijo Fu. «Este estudio proporciona información empírica y conceptual sobre las interacciones de los usuarios con un sistema de reconocimiento facial en un entorno del mundo real. Los datos cualitativos ofrecen una base para la investigación cuantitativa relacionada con el diseño que facilitará las comparaciones entre las actitudes hacia la tecnología de reconocimiento facial a lo largo del tiempo. «

El artículo de los investigadores, «Interacción de la tecnología de reconocimiento facial en un entorno universitario: impresión, reacción y toma de decisiones», se presentó en la iConference 2022 esta semana, donde fue finalista del premio Lee Dirks al mejor artículo completo de investigación. Yubo Kou, profesor asistente de ciencias y tecnología de la información en Penn State, también contribuyó con una visión inicial del proyecto.

---

---