Nuevo informe ofrece un plan para la regulación de la tecnología de reconocimiento facial

Un nuevo informe del Instituto de Tecnología Humana de la Universidad de Tecnología de Sydney (UTS) describe una ley modelo para la tecnología de reconocimiento facial para proteger contra el uso dañino de esta tecnología, pero también fomentar la innovación para el beneficio público.

La ley australiana no se redactó teniendo en cuenta el uso generalizado del reconocimiento facial. Dirigido por los profesores de industria de UTS Edward Santow y Nicholas Davis, el informe recomienda reformas para modernizar la ley australiana, especialmente para abordar las amenazas a la privacidad y otros derechos humanos.

El reconocimiento facial y otras tecnologías biométricas remotas han crecido exponencialmente en los últimos años, lo que genera preocupaciones sobre la privacidad, la vigilancia masiva y la injusticia que experimentan, especialmente las personas de color y las mujeres, cuando la tecnología comete errores.

En junio de 2022, una investigación realizada por el grupo de defensa del consumidor CHOICE reveló que varios grandes minoristas australianos estaban utilizando el reconocimiento facial para identificar a los clientes que ingresaban a sus tiendas, lo que generó una alarma considerable en la comunidad y llamados a mejorar la regulación. También ha habido llamados generalizados para reformar la ley de reconocimiento facial, en Australia e internacionalmente.

Este nuevo informe responde a esas llamadas. Reconoce que nuestros rostros son especiales, en el sentido de que los humanos dependen en gran medida de los rostros de los demás para identificarse e interactuar. Esta dependencia nos deja particularmente vulnerables a las restricciones de derechos humanos cuando esta tecnología se usa indebidamente o en exceso.

«Cuando las aplicaciones de reconocimiento facial están bien diseñadas y reguladas, puede haber beneficios reales, ayudando a identificar a las personas de manera eficiente y a escala. La tecnología es ampliamente utilizada por personas ciegas o con problemas de visión, lo que hace que el mundo sea más accesible para esos grupos». «, dijo el profesor Santow, ex comisionado de derechos humanos de Australia y ahora codirector del Instituto de Tecnología Humana.

«Este informe propone una ley modelo basada en el riesgo para el reconocimiento facial. El punto de partida debe ser garantizar que el reconocimiento facial se desarrolle y utilice de manera que respete los derechos humanos básicos de las personas», dijo.

«Las brechas en nuestra ley actual han creado una especie de falla del mercado regulatorio. Muchas empresas respetadas se han retirado de ofrecer reconocimiento facial porque los consumidores no están debidamente protegidos. Las empresas que aún ofrecen en esta área no están obligadas a centrarse en los derechos básicos de personas afectadas por esta tecnología», dijo el profesor Davis, ex miembro del comité ejecutivo del Foro Económico Mundial en Ginebra y codirector del Instituto de Tecnología Humana.

«Muchas organizaciones de la sociedad civil, organismos gubernamentales e intergubernamentales y expertos independientes han hecho sonar la alarma sobre los peligros asociados con los usos actuales y previstos del reconocimiento facial», dijo.

Este informe pide al fiscal general de Australia, Mark Dreyfus, que dirija un proceso nacional de reforma del reconocimiento facial. Esto debería comenzar con la presentación de un proyecto de ley en el Parlamento australiano basado en la ley modelo establecida en el informe.

El informe también recomienda asignar la responsabilidad regulatoria a la Oficina del Comisionado de Información de Australia para regular el desarrollo y uso de esta tecnología en la jurisdicción federal, con un enfoque armonizado en las jurisdicciones estatales y territoriales.

La ley modelo establece tres niveles de riesgo para los derechos humanos de las personas afectadas por el uso de una determinada aplicación de tecnología de reconocimiento facial, así como riesgos para la comunidad en general.

Según la ley modelo, cualquier persona que desarrolle o implemente tecnología de reconocimiento facial primero debe evaluar el nivel de riesgo para los derechos humanos que se aplicaría a su aplicación. Esa evaluación puede ser impugnada por miembros del público y el regulador.

Sobre la base de la evaluación de riesgos, la ley modelo establece un conjunto acumulativo de requisitos legales, restricciones y prohibiciones.

El informe, Tecnología de reconocimiento facial: hacia una ley modelo, ha sido coautor del profesor Nicholas Davis, el profesor Edward Santow y Lauren Perry del Human Technology Institute, UTS.