El nuevo ACM TechBrief destaca los problemas de privacidad y ética con la tecnología de reconocimiento facial

El Consejo de Política de Tecnología global (ACM TPC) de la Asociación de Maquinaria de Computación publicó hoy «ACM TechBrief: Reconocimiento facial», una descripción general concisa de una aplicación cada vez más utilizada que depende en gran medida de la inteligencia artificial. El resumen incluye una introducción al reconocimiento facial, estadísticas clave sobre su crecimiento y uso, así como importantes implicaciones políticas.

Esta última edición destaca que el uso del reconocimiento facial impulsado por IA está «aumentando a pesar de sus limitaciones fundamentales, lo que crea profundas preocupaciones éticas y de privacidad». El gráfico «By the Numbers» de TechBrief pone en relieve las estadísticas clave sobre su crecimiento y uso. Por ejemplo, más de 80 millones de estadounidenses (casi el 25 % de la población del país) ahora viven en jurisdicciones que han prohibido o restringido en gran medida el uso de sistemas de reconocimiento facial en gran parte debido a preocupaciones de privacidad y libertades civiles.

Una preocupación clave descrita por ACM TPC es que el sesgo (incluido el sesgo racial y de género) es generalizado y profundo en los sistemas de reconocimiento facial. El TechBrief cita varios estudios de investigación que demuestran que los errores a menudo recaen de manera desproporcionada en las poblaciones minoritarias, en particular las personas de color.

«Este es un momento urgente», explica el Dr. Joshua A. Kroll, profesor asistente en la Escuela Naval de Posgrado y autor principal del ACM TechBrief. «Últimamente, los artículos sobre el reconocimiento facial han estado en todas las noticias y algunas de las empresas líderes en el mundo se están replanteando fundamentalmente si usar o no la tecnología. Pero la comprensión del público de la tecnología, así como por qué es controvertida, es vaga. El El Consejo de Políticas de Tecnología de ACM desarrolló esta descripción general para familiarizar a las personas con los conceptos básicos del reconocimiento facial, así como también por qué muchos profesionales de la informática están preocupados por sus posibles impactos negativos. Esperamos que este TechBrief ayude a enmarcar una discusión pública sobre el reconocimiento facial y evite que las personas sufran daños. por estas tecnologías».

Otra preocupación clave planteada en el TechBrief es el tema de la privacidad. El ACM TPC señala que en cualquier lugar donde haya una cámara, las personas pueden ser potencialmente identificadas y rastreadas. Por lo tanto, puede ser casi imposible evitar esto sin evitar los espacios públicos. Además, muchos sistemas comerciales se desarrollan utilizando imágenes de reconocimiento facial recopiladas sin el conocimiento o consentimiento de las personas representadas. En un ejemplo reciente, el Estado de Texas anunció que está demandando a Meta por mal uso de los datos de reconocimiento facial.

«Este nuevo TechBrief complementa una declaración de 2020 emitida por el Comité de Política Tecnológica de EE. UU. de la Asociación de Maquinaria Informática (ACM USTPC), que instó a la suspensión inmediata del uso privado y gubernamental de las tecnologías de reconocimiento facial», agregó James Hendler, profesor del Instituto Politécnico Rensselaer. y Presidente de la ACM TPC. «En teoría, el despliegue de tecnologías de reconocimiento facial podría ofrecer beneficios sociales. Pero, en la práctica, el uso no regulado del reconocimiento facial tiene el potencial de causar daño a los derechos humanos y legales fundamentales de las personas en áreas que incluyen la privacidad, el empleo, la justicia y la libertad personal. Esperamos que al proporcionar a las personas una descripción general accesible de la tecnología de reconocimiento facial, comprendan por qué debe regularse cuidadosamente antes de que se adopte aún más ampliamente».

Este TechBrief es el segundo de una serie de breves boletines técnicos de ACM TPC que presentan perspectivas científicamente fundamentadas sobre el impacto de desarrollos o aplicaciones de tecnología específicos. Diseñados para complementar las actividades de ACM en el campo de las políticas, los TechBriefs tienen como objetivo informar a los encargados de formular políticas y otros sobre la naturaleza y las implicaciones de las tecnologías de la información. El primer ACM TechBrief de la serie se centró en el cambio climático. Los temas que se están considerando para ediciones futuras incluyen la seguridad electoral, las ciudades inteligentes y el cifrado.