TecTop
Crédito: Pixabay / CC0 Public Domain
A pesar de la creciente oposición, el gobierno de EE. UU. Está en camino de aumentar el uso de la controvertida tecnología de reconocimiento facial.
Publicación de la Oficina de Responsabilidad del Gobierno de EE. UU. un informe el 24 de agosto de 2021, detallando el uso actual y planificado de la tecnología de reconocimiento facial por parte de las agencias federales. La GAO encuestada 24 departamentos y agencias—Desde el Departamento de Defensa hasta la Administración de Pequeñas Empresas — y descubrió que 18 informaron usar la tecnología y 10 informaron planes para ampliar su uso de la misma.
El informe llega más de un año después de la Comité de Política Tecnológica de EE. UU. de la Association for Computing Machinery, la sociedad informática científica y educativa más grande del mundo, pidió una parada inmediata a prácticamente todo el uso gubernamental de la tecnología de reconocimiento facial.
El Comité de Política Tecnológica de EE. UU. Es uno de los numerosos grupos y figuras destacadas, incluido el ACLU, los Asociación Americana de Bibliotecas y las Naciones Unidas Relator Especial sobre Libertad de Opinión y Expresión, para pedir restricciones en el uso de la tecnología. Un tema común de esta oposición es la falta de estándares y regulaciones para la tecnología de reconocimiento facial.
Hace un año, Amazon, IBM y Microsoft también anunciaron que dejar de vender tecnología de reconocimiento facial a los departamentos de policía en espera de la regulación federal de la tecnología. El Congreso es sopesando una moratoria sobre el uso gubernamental de la tecnología. Algunas ciudades y estados, en particular Maine, han introducido restricciones.
Por qué los expertos en informática dicen que no
El Comité de Política Tecnológica de la Asociación de Maquinaria de Computación de EE. UU., Que emitió la convocatoria de una moratoria, incluye profesionales de la computación de la academia, la industria y el gobierno, algunos de los cuales participaron activamente en el desarrollo o análisis de la tecnología. Como presidente del comité en el momento en que se emitió la declaración y como investigador en ciencias de la computaciónPuedo explicar qué llevó a nuestro comité a recomendar esta prohibición y, quizás más significativamente, qué se necesitaría para que el comité rescindiera su llamado.
Si tu teléfono celular no reconoce tu rostro y te obliga a ingresar tu contraseña, o si el software de clasificación de fotos que estás usando identifica erróneamente a un miembro de la familia, no se hace ningún daño real. Por otro lado, si es responsable de ser arrestado o se le niega la entrada a una instalación porque los algoritmos de reconocimiento son imperfectos, el impacto puede ser drástico.
La declaración que escribimos describe los principios para el uso de tecnologías de reconocimiento facial en estas aplicaciones consecuentes. El primero y más crítico de ellos es la necesidad de comprender la precisión de estos sistemas. Uno de los problemas clave con estos algoritmos es que funcionan de manera diferente para diferentes grupos étnicos.
Un evaluación de proveedores de reconocimiento facial por el Instituto Nacional de Estándares y Tecnología de EE. UU. encontró que la mayoría de los sistemas probados tenían claras diferencias en su capacidad para hacer coincidir dos imágenes de la misma persona cuando se compara un grupo étnico con otro. Otro estudio encontró que los algoritmos son más preciso para los machos de piel más clara que para las hembras de piel más oscura. Los investigadores también están explorando cómo otras características, como la edad, la enfermedad y Estado de Discapacidad, afectan estos sistemas. Estos estudios también son apareciendo disparidades.
Varias otras características afectan el rendimiento de estos algoritmos. Considere la diferencia entre cómo se vería en una bonita foto familiar que ha compartido en las redes sociales y una foto suya tomada por una cámara de seguridad granulada o un coche de policía en movimiento, tarde en una noche brumosa. ¿Un sistema capacitado en el primero funcionaría bien en el segundo contexto? Cómo la iluminación, el clima, el ángulo de la cámara y otros factores afectan estos algoritmos sigue siendo una cuestión abierta.
En el pasado, los sistemas que coincidían huellas dactilares o Rastros de ADN tenían que ser evaluados formalmente, y establecer estándares, antes de que la policía y otras personas confiaran en ellos para su uso. Hasta que los algoritmos de reconocimiento facial puedan cumplir con estándares similares, y los investigadores y reguladores realmente comprendan cómo el contexto en el que se usa la tecnología afecta su precisión, los sistemas no deben usarse en aplicaciones que pueden tener consecuencias graves para la vida de las personas.
Transparencia y rendición de cuentas
También es importante que las organizaciones que utilizan el reconocimiento facial proporcionen algún tipo de aviso público significativo, avanzado y continuo. Si un sistema puede hacer que pierda su libertad o su vida, debe saber que se está utilizando. En los EE. UU., Este ha sido un principio para el uso de muchas tecnologías potencialmente dañinas, desde cámaras de velocidad hasta video vigilancia, y la posición de la USTPC es que los sistemas de reconocimiento facial deben ajustarse al mismo estándar.
Para lograr transparencia, también debe haber reglas que rijan la recopilación y el uso de la información personal que subyace en el entrenamiento de los sistemas de reconocimiento facial. La empresa Clearview AI, que ahora tiene software en uso por agencias policiales de todo el mundo, es un caso en punto. La empresa recopiló sus datos (fotos de rostros de personas) sin notificación.
Clearview AI recopiló datos de muchas aplicaciones, proveedores y sistemas diferentes, aprovechando las leyes laxas que controlan dicha colección. Los niños que publican videos de sí mismos en TikTok, los usuarios que etiquetan a amigos en fotos en Facebook, los consumidores que realizan compras con Venmo, las personas que suben videos a YouTube y muchos otros crean imágenes que pueden vincularse a sus nombres y extraerse de estas aplicaciones por empresas como Clearview AI.
¿Está en el conjunto de datos que usa Clearview? No tienes forma de saberlo. La posición de ACM es que usted debe tener derecho a saber y que los gobiernos deben poner límites a la forma en que se recopilan, almacenan y utilizan estos datos.
En 2017, el Comité de Política Tecnológica de la Asociación de Maquinaria de Computación de EE. UU. Y su homólogo europeo publicaron un declaración conjunta sobre algoritmos para la toma de decisiones automatizada sobre individuos que pueden resultar en discriminación dañina. En resumen, pedimos a los responsables de la formulación de políticas que mantengan a las instituciones que utilizan análisis en los mismos estándares que las instituciones en las que los humanos tradicionalmente han tomado decisiones, ya sea en la aplicación de la ley de tráfico o en el enjuiciamiento penal.
Esto incluye comprender las compensaciones entre los riesgos y los beneficios de las potentes tecnologías computacionales cuando se ponen en práctica y tener principios claros sobre quién es responsable cuando se producen daños. Las tecnologías de reconocimiento facial se encuentran en esta categoría y es importante comprender cómo medir sus riesgos y beneficios y quién es responsable cuando fallan.
Protegiendo al publico
Una de las funciones principales de los gobiernos es gestionar los riesgos tecnológicos y proteger a sus poblaciones. Los principios que la USTPC de la Association for Computing Machinery ha descrito se han utilizado para regular los sistemas de transporte, los productos médicos y farmacéuticos, las prácticas de seguridad alimentaria y muchos otros aspectos de la sociedad. La USTPC de la Association for Computing Machinery, en resumen, está pidiendo que los gobiernos reconozcan el potencial de los sistemas de reconocimiento facial para causar un daño significativo a muchas personas, a través de errores y sesgos.
Estos sistemas aún se encuentran en una etapa temprana de madurez, y hay mucho que los investigadores, el gobierno y la industria no entienden sobre ellos. Hasta que se comprendan mejor las tecnologías de reconocimiento facial, su uso en aplicaciones consiguientes debe detenerse hasta que puedan regularse adecuadamente.
Amazon extenderá la prohibición del uso policial de tecnología de reconocimiento facial
Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.
Citación: Los federales están aumentando el uso de sistemas de reconocimiento facial a pesar de los pedidos de moratoria (2 de septiembre de 2021) recuperados el 2 de septiembre de 2021 de https://techxplore.com/news/2021-09-feds-facial-recognition-moratorium.html
Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.
