Editor Top
El rostro humano es especial. Es a la vez público y personal. Nuestros rostros revelan información confidencial sobre nosotros: quiénes somos, por supuesto, pero también nuestro género, emociones, estado de salud y más.
Los legisladores de Australia, al igual que los de todo el mundo, nunca anticiparon que nuestros datos faciales se recolectarían a escala industrial y luego se usarían en todo, desde nuestros teléfonos inteligentes hasta las cámaras CCTV de la policía. Por lo tanto, no debería sorprendernos que nuestras leyes no hayan seguido el ritmo del extraordinario auge de la tecnología de reconocimiento facial.
Pero, ¿qué tipo de leyes necesitamos? La tecnología se puede utilizar tanto para el bien como para el mal, por lo que ni prohibirla ni la lucha libre actual parecen ideales.
Sin embargo, la falla regulatoria ha dejado a nuestra comunidad vulnerable a los usos dañinos del reconocimiento facial. Para llenar el vacío legal, proponemos un «ley modelo«: un resumen de la legislación que los gobiernos de Australia podrían adoptar o adaptar para regular los usos riesgosos del reconocimiento facial y permitir los seguros.
El reto de las tecnologías de reconocimiento facial
Los casos de uso de las tecnologías de reconocimiento facial parecen estar limitados únicamente por nuestra imaginación. Muchos de nosotros no pensamos en usar el reconocimiento facial para desbloquear nuestros dispositivos electrónicos. Sin embargo, la tecnología también se ha probado o implementado en toda Australia en una amplia gama de situaciones, que incluyen escuelas, aeropuertos, tiendas minoristasclubes y lugares de juegoy cumplimiento de la ley.
A medida que el uso del reconocimiento facial crece a un ritmo estimado 20% anualmente, también lo hace el riesgo para los humanos, especialmente en contextos de alto riesgo como la vigilancia.
En los EE. UU., la dependencia de la tecnología de reconocimiento facial propensa a errores ha dado lugar a numerosos casos de injusticia, especialmente los que involucran a los negros. Estos incluyen los ilícitos arresto y detención de Robert Williamsy el injusto exclusión de una joven negra de una pista de patinaje en Detroit.
Muchas de las compañías tecnológicas más grandes del mundo, incluidas Meta, Amazonas y microsoft— han reducido o descontinuado sus servicios relacionados con el reconocimiento facial. Han citado preocupaciones sobre la seguridad del consumidor y la falta de una regulación efectiva.
Esto es loable, pero también ha provocado una especie de «fallo del mercado regulatorio». Si bien esas empresas se han retirado, otras empresas con menos escrúpulos han tomado una mayor participación en el mercado de reconocimiento facial.
Tome la empresa estadounidense Clearview AI. Extrajo miles de millones de imágenes de rostros de las redes sociales y otros sitios web sin el consentimiento de las personas afectadas, luego creó un servicio de comparación de rostros que vendió a la Policía Federal Australiana y otros organismos encargados de hacer cumplir la ley en todo el mundo.
En 2021, el Comisionado de Información y Privacidad de Australia descubrió que tanto Visión clara IA y la AFP había violado la ley de privacidad de Australia, pero las acciones de aplicación como esta son raras.
Sin embargo, los australianos quieren una mejor regulación del reconocimiento facial. Esto se ha mostrado en el Informe de 2021 de la Comisión Australiana de Derechos Humanosla Investigación 2022 CHOICE en el uso de la tecnología de reconocimiento facial por parte de los principales minoristas, y en la investigación que en el Instituto de Tecnología Humana hemos encargado como parte de nuestra ley modelo.
Opciones para la reforma del reconocimiento facial
¿Qué opciones tiene Australia? La primera es no hacer nada. Pero esto significaría aceptar que estaremos desprotegidos del uso dañino de las tecnologías de reconocimiento facial y mantenernos en nuestra trayectoria actual hacia la vigilancia masiva.
Otra opción sería prohibir por completo la tecnología de reconocimiento facial. De hecho, algunas jurisdicciones han instituido moratorias sobre la tecnología, pero contienen muchas excepciones (para usos positivos) y, en el mejor de los casos, son una solución temporal.
En nuestra opinión, la mejor opción de reforma es una ley que regule las tecnologías de reconocimiento facial según su riesgo. Tal ley alentaría el reconocimiento facial con un claro beneficio público, al tiempo que protegería contra los usos nocivos de la tecnología.
Una ley basada en el riesgo para la regulación de la tecnología de reconocimiento facial
Nuestra ley modelo requeriría que cualquiera que desarrolle o implemente sistemas de reconocimiento facial en Australia realice una evaluación de impacto rigurosa para evaluar el riesgo para los derechos humanos.
A medida que aumenta el nivel de riesgo, también lo harían los requisitos o restricciones legales. Los desarrolladores también deberán cumplir con un estándar técnico para el reconocimiento facial, alineado con los estándares internacionales para el rendimiento de la IA y la buena gestión de datos.
La ley modelo contiene una prohibición general de los usos de alto riesgo de las aplicaciones de reconocimiento facial. Por ejemplo, se prohibiría una aplicación de «análisis facial» que pretendiera evaluar la orientación sexual de las personas y luego tomar decisiones sobre ellas. (Lamentablemente, esto no es un hipotético descabellado.)
La ley modelo también establece tres excepciones a la prohibición de la tecnología de reconocimiento facial de alto riesgo:
- el regulador podría permitir una solicitud de alto riesgo si considera que la solicitud está justificada según el derecho internacional de los derechos humanos
- Habría un régimen legal específico para los organismos encargados de hacer cumplir la ley, incluido un esquema de «orden judicial presencial» que proporcionaría una supervisión independiente al igual que con otras órdenes judiciales similares.
- las aplicaciones de alto riesgo se pueden utilizar en la investigación académica, con la supervisión adecuada.
Revisión por el regulador y las personas afectadas
Cualquier ley tendría que ser aplicada por un regulador con los poderes y recursos apropiados. ¿Quién debería ser este?
La mayoría de las partes interesadas que consultamos, incluidos usuarios comerciales, empresas de tecnología y representantes de la sociedad civil, propusieron que la Oficina del Comisionado de Información de Australia (OAIC, por sus siglas en inglés) estaría bien preparada para ser el regulador de la regulación facial. Para ciertos usuarios sensibles, como el ejército y ciertas agencias de seguridad, también puede ser necesario un régimen de supervisión especializado.
El momento de la reforma es ahora
Nunca habíamos visto tantos grupos e individuos de la sociedad civil, la industria y el gobierno tan comprometidos y alineados con la necesidad de una reforma de la tecnología de reconocimiento facial. Esto se refleja en el apoyo a la ley modelo tanto del Consejo de Tecnología de Australia como de CHOICE.
Dado el aumento extraordinario de los usos del reconocimiento facial y un consenso emergente entre las partes interesadas, el fiscal general federal debería aprovechar este momento y liderar la reforma nacional. La primera prioridad es presentar un proyecto de ley federal, que fácilmente podría basarse en nuestra ley modelo. El fiscal general también debería colaborar con los estados y territorios para armonizar la ley australiana sobre reconocimiento facial.
Esta reforma propuesta es importante en sus propios términos: no podemos permitir que las tecnologías de reconocimiento facial permanezcan efectivamente sin regulación. También demostraría cómo Australia puede usar la ley para protegerse contra los usos nocivos de las nuevas tecnologías, al mismo tiempo que incentiva la innovación para el beneficio público.
Puede encontrar más información sobre la ley modelo en nuestro informe «Tecnología de reconocimiento facial: Hacia una ley modelo.»
Nuevo informe ofrece un plan para la regulación de la tecnología de reconocimiento facial
Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.
Citación: Evitar una sociedad de vigilancia: cómo mejorar las reglas pueden controlar la tecnología de reconocimiento facial (27 de septiembre de 2022) consultado el 27 de septiembre de 2022 en https://techxplore.com/news/2022-09-surveillance-society-rein-facial-recognition. html
Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.
