Reconocimiento facial en las escuelas: estos son los riesgos para los niños

En una conversación con mi hija adolescente la semana pasada, señalé un informe de noticias que señaló preocupaciones sobre el uso de tecnologías de reconocimiento facial en varios comedores escolares en North Ayrshire, Escocia. Nueve escuelas de la zona lanzaron recientemente esta práctica como un medio para recibir el pago de los almuerzos más rápidamente y minimizar el riesgo de COVID, aunque han desde pausado desplegando la tecnología.

Cuando le pregunté a mi hija si le preocupaba el uso de la tecnología de reconocimiento facial en el comedor de su escuela, ella respondió casualmente: «En realidad no. Sin embargo, haría las cosas mucho más rápidas al momento de pagar».

Temores a la privacidad, ya que las escuelas utilizan el reconocimiento facial para acelerar la cola del almuerzo https://t.co/E2AbdQZZ2f

– Educación del tutor (@GuardianEdu) 18 de octubre de 2021

Sus palabras validan la preocupación de que los niños mucho menos consciente de sus derechos sobre los datos en comparación con los adultos. Y aunque existen disposiciones y salvaguardias especiales para los niños menores de legislaciones de protección de datos, el uso de tecnología de reconocimiento facial en niños podría plantear riesgos de privacidad únicos.

Tecnologías de reconocimiento facial Identificar y autenticar las identidades de las personas detectando, capturando y haciendo coincidir rostros con imágenes de una base de datos. Las tecnologías funcionan con inteligencia artificial (IA), específicamente la tecnología conocida como aprendizaje automático.

El aprendizaje automático predice resultados basados ​​en datos históricos o algoritmos que se han introducido en el sistema. Entonces, para el reconocimiento facial, el aprendizaje automático predice la identidad asociada con una representación digital de la cara de una persona, o «impresión facial», basada en una base de datos de imágenes faciales. El software se adapta a través de esta experiencia, con el tiempo aprendiendo a generar predicciones con mayor facilidad.

La tecnología de reconocimiento facial ahora se utiliza de diversas formas, como para verificar la identidad de los empleados, desbloquear teléfonos inteligentes personales, etiquetar personas en plataformas de redes sociales como Facebook, e incluso para fines de vigilancia en algunos países.

La tecnología de reconocimiento facial por sí sola no es el problema. Más bien, el problema es cómo se usa y, en este caso, el hecho de que la tecnología ahora se ha infiltrado en los corredores escolares y se dirige a un grupo demográfico vulnerable: los niños.

Entonces, ¿cuáles son los problemas de privacidad de los niños?

La impresión de su rostro son sus datos, por lo que para cualquier sistema de reconocimiento facial es importante comprender cómo se recopilan y almacenan las bases de datos de imágenes. Aunque puedo aceptar a regañadientes el uso de la tecnología de reconocimiento facial para ingresar a una sala de conciertos, no me emocionaría si la huella de mi rostro se conservara para «otros fines comerciales de la empresa» (una frase que aparece con bastante frecuencia en la letra pequeña de la venta de entradas en relación con el uso de datos personales).

Si la tecnología de reconocimiento facial se usa en entornos escolares, necesitaremos información clara sobre si las imágenes de los estudiantes se usarán y cómo se usarán más allá del propósito de la cola del almuerzo. Por ejemplo, ¿se van a compartir con terceros y con qué finalidad? Podrían surgir problemas, por ejemplo, si las impresiones faciales están vinculadas a otros datos sobre el niño, como sus preferencias para el almuerzo. En teoría, terceros podrían utilizar estos datos con fines de marketing.

También necesitaríamos información sobre cómo se protegerían las imágenes. Si las impresiones faciales de los estudiantes no están debidamente aseguradas o el sistema no es lo suficientemente robusto para defenderse de los piratas informáticos, esto crea riesgos de seguridad cibernética. Es posible que los piratas informáticos vinculen las impresiones faciales de los niños con otros datos sobre ellos y los rastreen.

El mayor riesgo de privacidad que rodea al uso de tecnologías de reconocimiento facial en las escuelas también se relaciona con el consentimiento informado. Aunque Reino Unido ley de protección de datos especifica que los niños de 13 años o más pueden dar su consentimiento para el procesamiento de sus datos personales, esto no significa que comprendan completamente las implicaciones. Por ejemplo, una encuesta descubrió que los niños de entre ocho y 15 años tenían dificultades para comprender los términos y condiciones de Instagram.

Los niños, padres y tutores deben recibir nada menos que información completa, expresada en un lenguaje que los niños puedan entender fácilmente. Cualquier sujeto de datos, incluido un niño, tiene derecho a saber exactamente cómo se procesarán, compartirán y almacenarán sus datos personales, y puede especificar las condiciones bajo las cuales se aplicará su consentimiento. Cualquier cosa que no sea prudencia y transparencia correrá el riesgo de poner en peligro la privacidad de los niños.

¿Normalizar la vigilancia de los niños?

Estas son solo algunas de las preguntas que plantea el uso de tecnologías de reconocimiento facial en las escuelas. La tecnología de reconocimiento facial también conlleva otros riesgos, como errores, que podrían, por ejemplo, dar lugar a que se cobre de forma incorrecta a los estudiantes. Y al igual que con cualquier sistema de IA, deberíamos preocuparnos por si los algoritmos y conjuntos de datos están libres de sesgos y tienen datos de entrenamiento limpios, completos y representativos.

Es importante destacar que el empleo de tecnologías de reconocimiento facial en las escuelas también contribuye a normalizar la vigilancia de los niños. Es posible que el conocimiento de que están siendo rastreados de esta manera pueda afectar el bienestar de algunos niños.

No es sorprendente que el organismo de control de datos del Reino Unido, la Oficina del Comisionado de Información, haya intervino investigar el uso de tecnologías de reconocimiento facial en las colas del almuerzo escolar. Y a la luz de la investigación, es grato ver que el Consejo de North Ayrshire pausado despliegue la práctica.

Pero a medida que nos adentramos en la era digital, es posible que se reanude el uso de tecnologías de reconocimiento facial entre los escolares, e incluso que se adopte más ampliamente. Si esto ocurre, el uso del reconocimiento facial debe producir sustancialmente más beneficios que riesgos, teniendo en cuenta las circunstancias especiales del uso de la tecnología en niños.

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.