¿Existe un algoritmo seguro? Hablar de regulación cobra impulso

Desde que Frances Haugen, una ex empleada de Facebook, presentó información preocupante sobre los daños de largo alcance causados ​​por los algoritmos de la compañía, las conversaciones sobre posibles reformas regulatorias solo se han intensificado.

Ahora existe un amplio acuerdo entre expertos y políticos en que se necesitan cambios regulatorios para proteger a los usuarios, en particular a los niños pequeños y las niñas, que son vulnerables a problemas de salud mental y problemas de imagen corporal que están vinculados a los algoritmos de la plataforma de redes sociales. Se han producido varios cambios, desde enmiendas a Sección 230 de la Ley de Decencia de las Comunicaciones federal, la ley que rige la responsabilidad entre los proveedores de servicios, incluido Internet, a los mandatos de transparencia que darían acceso a expertos externos al funcionamiento interno de empresas de tecnología como Facebook.

Pero, dada la expectativa de libertad de expresión en línea, los legisladores tendrán que ser creativos. Una posible solución es crear una nueva agencia federal encargada de regular las empresas de redes sociales, como se hizo con la Oficina de Protección Financiera del Consumidor. a raíz de la crisis financiera de 2008, pero plantea interrogantes sobre cómo el proceso político y las diferentes ideas de las partes sobre la privacidad y la libertad de expresión influirían en tal esfuerzo, dicen varios expertos del noreste.

«Me pregunto si las partes estarían de acuerdo alguna vez en crear una agencia especial o en aumentar la [Federal Communications Commission] en formas que proporcionen más poder regulatorio al gobierno federal «, dice David Lazer, distinguido profesor universitario de ciencias políticas y ciencias de la computación en Northeastern.

Una nueva agencia podría ayudar a descargar algunos de los cargas regulatorias frente a la Comisión Federal de Comercio, pero también podría resultar ser un arma política peligrosa que ninguna de las partes querría que la otra tuviera, dice Lazer.

De cualquier manera, debe haber «más mecanismos para hacer que Facebook sea más transparente», dice.

«El problema es que, una vez que tienes transparencia, todos ven algo diferente», dice Lazer.

Al testificar ante el Congreso la semana pasada, Haugen ayudó a arrojar luz sobre cómo Facebook, que también es propietaria de Instagram y WhatsApp, ideó algoritmos que promovían contenido odioso, dañino y problemático a expensas de sus usuarios. Documentos que Haugen compartió con el Wall Street Journal El mes pasado mostró que el gigante tecnológico sabía que sus algoritmos eran dañinos debido a la investigación interna, pero decidió mantener la información en secreto.

Durante el fin de semana, un top Ejecutivo de Facebook dijo que la compañía apoya permitir que los reguladores accedan a sus algoritmos y una mayor transparencia en general.

Es importante «desmitificar» cómo funcionan realmente estas tecnologías, que han estado ocultas tras un velo de secreto durante años, dice Woodrow Hartzog, profesor de derecho e informática que se especializa en protección de datos y privacidad.

Se conoce desde hace años, por ejemplo, que los algoritmos de Facebook amplifican u optimizan contenido que genera indignación. Las revelaciones en el Wall Street Journal mostraron que la propia investigación de Facebook ha demostrado que sus algoritmos de Instagram alimentan la inseguridad y contribuyen a los problemas de salud mental, promoviendo contenido que glorifica los trastornos alimentarios, por ejemplo, entre las usuarias jóvenes.

En lugar de prohibir la amplificación algorítmica, Hartzog dice que debería haber salvaguardas obligatorias que monitoreen los efectos nocivos de los algoritmos jugados, y agregó que «existen cosas como los algoritmos seguros». La verdadera pregunta, dice, es ¿podemos tener una amplificación algorítmica segura?

«Deben estar obligados a actuar de manera que no entren en conflicto con nuestra seguridad y bienestar», dice Hartzog. «Esa es una forma en la que podríamos abordar este problema que no prohibirá por completo la amplificación algorítmica».

Hartzog también sugirió que los reguladores podrían basarse en el concepto de responsabilidad fiduciaria e imponer «deberes de cuidado, confidencialidad y lealtad» a las empresas de tecnología, similares a los deberes a los que están obligados los médicos, abogados y contadores con respecto a sus clientes y pacientes; solo aquí estaría en relación con los usuarios finales.

El problema radica en los incentivos financieros, argumenta Hartzog, por lo que la idea de convertir a las empresas de tecnología en «fiduciarios de información» ha ganado tracción. Los legisladores estatales y federales están examinando el modelo fiduciario de información en la legislación bajo revisión.

«Lo que me gustaría ver salir de esto … es una conversación más profunda y amplia sobre cómo cambiar fundamentalmente los incentivos que están impulsando todo tipo de comportamiento dañino relacionado con la recopilación y el uso de información privada», dice Hartzog.