Facebook abandonará su sistema de reconocimiento facial, pero por qué debemos ser escépticos

Facebook tiene Anunciado que dejará de usar su sistema de reconocimiento facial, el software de inteligencia artificial que reconoce a las personas en fotos y videos y genera sugerencias sobre a quién «etiquetar» en ellos.

Los sistemas de reconocimiento facial, como el de Facebook, identifican a las personas haciendo coincidir rostros con representaciones digitales de rostros almacenados en una base de datos. Facebook tiene más de mil millones de estas representaciones archivadas, pero ahora dice que las eliminará.

Este anuncio se produjo apenas una semana después de que la empresa matriz de Facebook cambiara su nombre de Facebook a Meta. El cambio de nombre refleja el enfoque de la empresa en el «metaverso», una visión de Internet que utiliza tecnología como la realidad virtual para integrar los mundos real y digital.

El cambio de nombre probablemente también tuvo algo que ver con el deseo de desintoxicar la imagen de Facebook. En los últimos años, el gigante de las redes sociales se ha visto envuelto en una serie de controversias, quizás la más notable Escándalo de Cambridge Analytica.

Esto vio el uso de una aplicación Plataforma de Facebook para recopilar datos personales pertenecientes a millones de usuarios de Facebook, que luego se pasaron a Cambridge Analytica, una firma consultora británica ahora desaparecida. En 2018, el organismo de control de protección de datos del Reino Unido, la Oficina del Comisionado de Información, Facebook multado con £ 500,000 por su papel en el escándalo.

Más recientemente, hemos escuchado a la ex gerente de productos de Facebook, Frances Haugen, afirmar que la plataforma daña a los niños, aviva la división y socava la democracia en la búsqueda de un crecimiento rápido y «ganancias astronómicas«.

Podríamos preguntarnos si el movimiento de reconocimiento facial también es un intento de presentar una imagen nueva y responsable centrada en respetar y proteger la privacidad de los usuarios.

Nuestros datos son como el oro

Facebook es libre de unirse y usar, por lo que depende de otro producto valioso para cubrir sus gastos: los datos de las personas.

Como parte de mi equipo investigar, obtuvimos el permiso de un grupo de usuarios de Facebook e hicimos que los rastreadores (bots que navegan sistemáticamente por Internet) recopilaran sus publicaciones e imágenes, o publicaciones e imágenes que los presentaban. Usando algoritmos de aprendizaje automático en estos datos, pudimos perfilar sus hábitos y predecir con gran precisión cosas como dónde estarían al día siguiente.

en un estudio relacionado, analizamos las publicaciones en el muro de Facebook y, nuevamente utilizando el aprendizaje automático, pudimos construir un perfil psicológico de los usuarios basado en sus publicaciones. Es decir, podríamos saber cuándo estaban tristes, felices, etc.

Si puedo recopilar datos de Facebook usando un programa relativamente simple y llegar a conclusiones precisas, imagínense lo que Facebook puede hacer con su gran cantidad de datos, incluso de nuestras plantillas faciales, e inteligencia artificial.

En medio de las preocupaciones de privacidad sobre la tecnología, en 2019, Facebook creó la función de reconocimiento facial optar en. El año pasado, Facebook acordó pagar un acuerdo de US $ 650 millones (aproximadamente £ 480 millones) después de que una demanda alegara que su sistema de reconocimiento facial violaba la Ley de Privacidad de la Información Biométrica de Illinois.

Si bien muchos podrían interpretar el anuncio de Meta como un desarrollo positivo, yo lo veo como una distracción conveniente, o tal vez una contramedida, denunciante testimonios presentando una empresa que antepone los beneficios a la seguridad del usuario.

También vale la pena señalar que Facebook está luchando por retener usuarios jovenes, por lo que probablemente estén buscando formas de atraer a este grupo importante a la plataforma.

No se ha ido por completo

Meta’s anuncio la tecnología de reconocimiento facial especificada se limitaría a «un conjunto reducido de casos de uso» en el futuro. Esto podría incluir verificar la identidad de un usuario para que pueda obtener acceso a una cuenta bloqueada, por ejemplo.

Como tal, Meta es según se informa manteniendo DeepFace, el algoritmo detrás de su tecnología de reconocimiento facial. Jason Grosse, portavoz de Meta, dijo que la empresa no ha descartado utilizando tecnología de reconocimiento facial en productos futuros. En particular, Grosse también ha dicho que el compromiso de detener el reconocimiento facial no aplica a sus productos metaverso.

Grosse dijo a la publicación Recode: «Creemos que esta tecnología tiene el potencial de permitir casos de uso positivos en el futuro que mantengan la privacidad, el control y la transparencia, y es un enfoque que continuaremos explorando mientras consideramos cómo nuestras futuras plataformas informáticas y los dispositivos pueden satisfacer mejor las necesidades de las personas […] Para cualquier aplicación futura potencial de tecnologías como esta, continuaremos siendo públicos sobre el uso previsto, cómo las personas pueden tener control sobre estos sistemas y sus datos personales, y cómo estamos cumpliendo con nuestro marco de innovación responsable «.

Es importante comprender que cuando una persona se involucra en un entorno de realidad virtual en el metaverso, generará una variedad de datos biométricos, mucho más allá de los escaneos faciales. Por ejemplo, dependiendo del sistema, puede ser posible detectar y recopilar movimientos oculares, movimientos corporales, presión arterial, frecuencia cardíaca y detalles sobre el entorno de los usuarios.

En última instancia, la inteligencia artificial que acompaña al metaverso será mucho más sofisticada y probablemente traerá consigo un nuevo conjunto de problemas de privacidad de datos.

---

---

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Leer el artículo original.