Reconocimiento facial: por qué no deberíamos prohibir que la policía lo use por completo

La policía del Reino Unido está siendo acusada de violar los estándares éticos al utilizar tecnología de reconocimiento facial en vivo para ayudar a combatir el crimen. Un informe reciente por la Universidad de Cambridge en las pruebas de la tecnología por parte de las fuerzas en Londres y el sur de Gales estaba particularmente preocupado por la «falta de reparación sólida» para cualquier persona que sufriera daños. Habló de la necesidad de «proteger los derechos humanos y mejorar la rendición de cuentas» antes de que el reconocimiento facial se utilice más ampliamente.

El equipo de Cambridge quiere una prohibición amplia de que la policía use la tecnología, y no están solos. El grupo británico de libertades civiles Big Brother Watch ha estado ejecutando un «detener el reconocimiento facial» campaña mientras el gobierno reflexiona sobre cómo regular las tecnologías de IA. Mientras tanto, 12 ONG llamado recientemente Los legisladores de la UE lo prohíban por completo, junto con otras formas de identificación biométrica, en su próxima Ley de IA.

Sin embargo, simplemente prohibir esta tecnología sería un error. En mi opinión, hay un buen caso para un enfoque más mesurado.

Creciente uso policial

Las fuerzas policiales de Londres y el sur de Gales parecen ser las únicas dos en el Reino Unido que actualmente utilizan el reconocimiento facial en vivo, que utiliza programas de inteligencia artificial para comparar la imagen facial digital de un individuo con una imagen facial existente para estimar la similitud. La policía de Manchester lo probó pero no obligado a hacer una pausa por el comisionado de cámaras de vigilancia en 2018 por no obtener las aprobaciones necesarias.

En 2020, un tribunal de apelaciones también falló en contra El uso de la tecnología por parte del sur de Gales, concluyendo que el marco legal de la fuerza para el despliegue les dio efectivamente una discreción ilimitada para hacerlo. Al tribunal no le importó que la policía hubiera notificado al público (lo que se conoce como despliegue operativo abierto).

A pesar de este fallo, la policía aún puede utilizar ampliamente el reconocimiento facial, aunque numerosos otras fuerzas ha dicho ellos no son haciéndolo en la actualidad.

La Policía Metropolitana de Londres utiliza cada vez más el reconocimiento facial para localizar a personas desaparecidas, sospechosos, testigos y víctimas. Han escaneado rostros de personas en plazas de ciudades y eventos públicos, usando un cámara de reconocimiento facial normalmente se coloca en un vehículo policial o en un poste de la calle. los se alerta al publico al despliegue a través de avisos a medida que ingresan a la zona de reconocimiento, a menos que eso comprometa las tácticas policiales o el despliegue sea urgente.

Entre febrero de 2020 y julio de 2022, el Met implementó la tecnología en ocho ubicaciones, incluidas circo Piccadilly. Ellos son estimados haber visto más de 150,000 rostros, lo que llevó a nueve arrestos pero también a ocho ocasiones en las que apuntaron a la persona equivocada.

Los pros y los contras

El reconocimiento facial ha evolucionado en los últimos años, por ejemplo para trabajar en tiempo real, pero persisten imprecisiones y errores. En Nueva Jersey, 228 arrestos injustificados según se informa, se realizaron utilizando reconocimiento facial (en tiempo no real) entre enero de 2019 y abril de 2021. Uno negro americano pasó 11 días en la cárcel tras ser identificado erróneamente. Las identificaciones falsas también pueden conducir a todo, desde vuelos perdidos hasta interrogatorios policiales angustiosos.

Los grupos específicos se ven afectados de manera desproporcionada. Un estudio estadounidense de 2019 descubrió que las mujeres tienen de dos a cinco veces más probabilidades de ser identificadas falsamente, mientras que los riesgos son de diez a 100 veces mayores para los rostros negros y asiáticos que para los blancos. Dado que la policía ya desproporcionadamente detener y buscar minorías étnicas, esta deficiencia en la tecnología podría incluso usarse para sostener tales prácticas.

Otro riesgo es que la policía instale de forma encubierta cámaras de reconocimiento facial de forma permanente. Esto podría ayudar al estado a tomar medidas enérgicas contra las protestas públicas, por ejemplo. Ya hay pendiente desafío legal contra Rusia ante el Tribunal Europeo de Derechos Humanos por tales prácticas, y el miedo a la vigilancia estatal es una de las razones por las que muchos quieren que se prohíba esta tecnología.

No obstante, el reconocimiento facial tiene sus beneficios. Eso puede ayudar policía para encontrar criminales serios, incluyendo terroristas, sin mencionar niños desaparecidos y personas en riesgo de hacerse daño a sí mismos o a otros.

Nos guste o no, también vivimos bajo un colosal capitalismo de vigilancia corporativa. los Reino Unido y Estados Unidos tener una de las cámaras CCTV más instaladas en el mundo. Los residentes de Londres son filmados 300 veces un día en promedio, y la policía generalmente puede usar los datos sin una orden de registro. Como si eso no fuera suficientemente malo, las grandes empresas tecnológicas saber casi todo personal sobre nosotros. Preocuparse por el reconocimiento facial en vivo es inconsistente con nuestra tolerancia de toda esta vigilancia.

Un mejor enfoque

En lugar de una prohibición total, incluso del reconocimiento facial encubierto, estoy a favor de una ley estatutaria para aclarar cuándo se puede implementar esta tecnología. Por un lado, la policía del Reino Unido puede usarlo actualmente para rastrear a las personas en sus listas de vigilancia, pero esto puede incluir incluso a las personas acusadas de delitos menores. Tampoco existen criterios uniformes para decidir quién puede incluirse en la lista.

Bajo la UE ley propuesta, el reconocimiento facial solo se puede implementar contra los sospechosos de delitos que conllevan una sentencia máxima de más de tres años. Eso parecería ser un corte razonable.

En segundo lugar, un tribunal u organismo independiente similar siempre debería autorizar el despliegue, incluida la evaluación de si sería proporcionado al objetivo policial en cuestión. En el Met, actualmente la autorización debe provenir de un oficial de policía con rango superintendente o superiory ellas hacen tengo que Haz una llamada proporcionalidad, pero esto no debería ser una decisión policial.

También necesitamos estándares éticos claros y auditables para lo que sucede durante y después de que se implementa la tecnología. Las imágenes de personas mal identificadas deben eliminarse inmediatamente, por ejemplo. Desafortunadamente, la política de Met sobre esto no está clara en este momento. El Met está tratando de usar la tecnología de manera responsable en otros aspectos, pero esto no es suficiente en sí mismo.

Por último, pero no menos importante, el potencial de discriminación debe abordarse exigiendo legalmente a los desarrolladores que entrenen la IA en una gama lo suficientemente diversa de comunidades para alcanzar un umbral mínimo. Este tipo de marco debería permitir que la sociedad disfrute de los beneficios del reconocimiento facial en vivo sin los daños. Simplemente prohibir algo que requiere un delicado equilibrio de intereses contrapuestos es un movimiento completamente equivocado.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.