La policía del Reino Unido no cumple con los «estándares legales y éticos» en el uso del reconocimiento facial, dicen los expertos

El proceso de utilizar el reconocimiento facial para la identificación, o el reconocimiento facial de uno a muchos. Primero, se captura una imagen de sonda de una persona. Luego, la imagen de la sonda se compara con una lista de observación de imágenes faciales conocidas para determinar si hay una coincidencia. Crédito: Una auditoría sociotécnica: evaluación del uso policial del reconocimiento facialEvani Radiya-Dixit, octubre de 2022

Un equipo del Centro Minderoo para la Tecnología y la Democracia de la Universidad de Cambridge creó la nueva herramienta de auditoría para evaluar el «cumplimiento de la ley y la orientación nacional» en torno a cuestiones como la privacidad, la igualdad y la libertad de expresión y reunión.

Con base en los hallazgos, publicados hoy en un nuevo informe y presentados en un evento en línea, los expertos se unen a los llamados para prohibir el uso policial del reconocimiento facial en espacios públicos.

«Hay una falta de mecanismos de reparación sólidos para las personas y las comunidades perjudicadas por los despliegues policiales de la tecnología», dijo la autora principal del informe, Evani Radiya-Dixit, investigadora visitante en el Centro Minderoo de Cambridge.

«Para proteger los derechos humanos y mejorar la rendición de cuentas sobre cómo se usa la tecnología, debemos preguntarnos qué valores queremos incorporar en la tecnología».

Los investigadores construyeron la herramienta de auditoría con base en las pautas legales actuales, incluidas las leyes de igualdad y protección de datos del Reino Unido, así como los resultados de los casos judiciales del Reino Unido y los comentarios de las organizaciones de la sociedad civil y la Oficina del Comisionado de Información.

Aplicaron sus estándares éticos y legales a tres usos de la tecnología de reconocimiento facial (FRT) por parte de la policía del Reino Unido. Uno fue el caso judicial de Bridges, en el que un activista por las libertades civiles con sede en Cardiff apeló contra el uso de FRT automatizado por parte de la policía de Gales del Sur para escanear en vivo multitudes y comparar rostros con los de una «lista de vigilancia» criminal.

Los investigadores también probaron las pruebas de la Policía Metropolitana de uso similar de FRT en vivo, y otro ejemplo de la Policía de Gales del Sur en el que los oficiales usaron aplicaciones de FRT en sus teléfonos inteligentes para escanear multitudes con el fin de identificar a «personas buscadas en tiempo real».

En los tres casos, encontraron que la información importante sobre el uso policial de FRT se «oculta», incluidos los escasos datos demográficos publicados sobre arrestos u otros resultados, lo que dificulta evaluar si las herramientas «perpetúan la elaboración de perfiles raciales», dicen los investigadores.

Además de la falta de transparencia, los investigadores encontraron poca responsabilidad, sin un recurso claro para las personas o comunidades afectadas negativamente por el uso o mal uso de la tecnología por parte de la policía. «Las fuerzas policiales no son necesariamente responsables de los daños causados ​​por la tecnología de reconocimiento facial», dijo Radiya-Dixit.

Algunos de los usos de FRT carecían de la supervisión regular de un comité de ética independiente o incluso del público, dicen los investigadores, y no hicieron lo suficiente para garantizar que hubiera un «humano en el circuito» confiable al escanear un número incalculable de rostros entre multitudes de miles mientras la caza de delincuentes.

En el juicio de la aplicación para teléfonos inteligentes de la policía de Gales del Sur, incluso la «lista de observación» incluía imágenes de personas inocentes según la ley del Reino Unido, aquellas que habían sido arrestadas pero no condenadas, a pesar de que la retención de tales imágenes es ilegal.

«Durante los últimos años, las fuerzas policiales de todo el mundo, incluso en Inglaterra y Gales, han implementado tecnologías de reconocimiento facial. Nuestro objetivo era evaluar si estos despliegues utilizaron prácticas conocidas para el uso seguro y ético de estas tecnologías», dijo la profesora Gina. Neff, Director Ejecutivo del Centro Minderoo para la Tecnología y la Democracia.

«Construir un sistema de auditoría único nos permitió examinar los problemas de privacidad, igualdad, responsabilidad y supervisión que deberían acompañar cualquier uso de tales tecnologías por parte de la policía».

Los oficiales tienen cada vez menos recursos y están sobrecargados, y FRT se considera una forma rápida, eficiente y económica de rastrear personas de interés, dicen los investigadores.

Al menos diez fuerzas policiales en Inglaterra y Gales han probado el reconocimiento facial, con pruebas que involucran el uso de FRT con fines policiales operativos, aunque diferentes fuerzas usan diferentes estándares.

Las cuestiones de privacidad son profundas para la tecnología policial que escanea y potencialmente retiene una gran cantidad de imágenes faciales sin conocimiento o consentimiento. Los investigadores destacan un posible «efecto escalofriante» si FRT lleva a una renuencia a ejercer los derechos fundamentales, por ejemplo, el derecho a protestar, entre el público, por temor a las posibles consecuencias.

El uso de FRT también plantea problemas de discriminación. Los investigadores señalan que, históricamente, los sistemas de vigilancia se utilizan para monitorear a los grupos marginados, y estudios recientes sugieren que la tecnología en sí contiene un sesgo inherente que identifica erróneamente de manera desproporcionada a las mujeres, las personas de color y las personas con discapacidades.

Dadas las brechas regulatorias y las fallas en el cumplimiento de los estándares mínimos establecidos por el nuevo conjunto de herramientas de auditoría, los investigadores escriben que apoyan los llamados a una «prohibición del uso policial del reconocimiento facial en espacios de acceso público».