Reconocimiento facial: los planes del Reino Unido para monitorear a los delincuentes migrantes no son éticos y no funcionarán

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo. Adivinó correctamente mi edad, pero cuando mi colega, que era de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema seguía teniendo problemas para detectar su rostro.

Después de muchos intentos fallidos, el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era solo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial. En los últimos años, los investigadores han demostró la injusticia en los sistemas de reconocimiento facialdescubriendo que el software y los algoritmos desarrollados por las grandes empresas de tecnología son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, recientemente, The Guardian informó que el Ministerio del Interior del Reino Unido planes hacer que los migrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial. Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era «puramente especulativo».

Obtener el equilibrio adecuado

Siempre existirá una tensión entre seguridad nacional y derechos individuales. La seguridad de muchos puede tener prioridad sobre la privacidad de unos pocos. Por ejemplo, en noviembre de 2015, cuando el grupo terrorista ISIS atacó París y mató a 130 personas, la policía de París encontré un teléfono que uno de los terroristas había abandonado en el lugar, y leyó los mensajes almacenados en él.

Hay muchos matices en este tema. Debemos preguntarnos, cuyos derechos se ven frenados por una violación de la privacidad, en que gradoy ¿quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes que toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo, sabemos que el reconocimiento facial es es más probable que se use para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de los blancos. Esto es a pesar del hecho de que los sistemas de reconocimiento facial son más preciso con tonos de piel más claros que oscuros.

Tomar una foto de tu cara y subirla cinco veces al día puede parecer degradante. Las fallas con tonos de piel más oscuros podrían hacer que registrarse en el sistema sea más que una experiencia frustrante. Podría haber consecuencias graves para los infractores si la tecnología falla.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

La alternativa

Otra opción que el gobierno está considerando para los delincuentes migrantes es el rastreo de ubicación. Monitoreo electrónico ya realiza un seguimiento de las personas con antecedentes penales en el Reino Unido usando etiquetas en los tobillos, y tendría sentido aplicar la misma tecnología a delincuentes migrantes y no migrantes por igual.

El seguimiento de ubicación viene con su propio cuestiones éticas para la privacidad personal y vigilancia racial. Debido a la naturaleza intrusiva del monitoreo electrónico, algunas personas que usan estos dispositivos pueden sufre de depresión, ansiedad o pensamientos suicidas.

Pero la tecnología de rastreo de ubicación da opciones, al menos. Por ejemplo, los datos se pueden manejar de manera confidencial siguiendo pautas de privacidad de datos como el del Reino Unido Ley de Protección de Datos 2018. Podemos minimizar la cantidad de datos de ubicación que recopilamos si solo rastreamos la ubicación de alguien una o dos veces al día. Podemos anonimizar los datos, solo haciendo visibles los nombres de las personas cuando y donde sea necesario.

El Ministerio del Interior del Reino Unido podría usar datos de ubicación para señalar actividades sospechosas, como si un delincuente ingresa a un área en la que se le ha prohibido. Para los delincuentes menores, no necesitamos rastrear la ubicación exacta de la persona, sino solo el área general, como un código postal o una ciudad.

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: «El público espera que controlemos a los delincuentes extranjeros condenados… Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados. »

---

---

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.