El mundo sopesa las leyes para frenar los poderosos algoritmos

Desde los videos de YouTube que nos recomiendan hasta decidir quién consigue un trabajo, los algoritmos ejercen una influencia cada vez mayor en nuestras vidas, y los responsables políticos de todo el mundo quieren controlarlos.

Si bien China está preocupada por los algoritmos de las aplicaciones de entrega que alientan a sus conductores a acelerar, los legisladores estadounidenses están lidiando con los sistemas de recomendación de las redes sociales que han enviado a algunos usuarios a peligrosas trampas.

consciente de cuánto está siendo manipulada su experiencia en estas plataformas «, escribió John Thune, uno de los numerosos senadores estadounidenses que proponen una nueva legislación sobre redes sociales, en un artículo de opinión de CNN.

Facebook se ha enfrentado a feroces críticas después de que un denunciante revelara que los ejecutivos sabían que el algoritmo del sitio promovía sistemáticamente publicaciones incendiarias en las fuentes de noticias de las personas, lo que alimentaba la división y los disturbios desde India hasta Etiopía.

Frances Haugen, la exingeniera de Facebook detrás de las revelaciones, cree que las personas merecen saber más sobre cómo el contenido que ven está modelado por la confusión de datos que ingresan a la máquina de las redes sociales.

«Creo que si simplemente decimos ‘vamos a regular los algoritmos’, es tan amorfo», dijo Haugen a la AFP en una entrevista la semana pasada.

«Creo que es más poderoso decir: ‘Oye, Facebook, tienes mucha más transparencia que nosotros'», y obligar a la empresa a revelar más sobre cómo funcionan sus sistemas, dijo.

¿Redes sociales más aburridas?

Los activistas y los legisladores pueden estar de acuerdo en que los algoritmos de los gigantes tecnológicos necesitan más supervisión pública, pero cómo lograrlo es un asunto diferente.

«Hay algunas preguntas realmente difíciles sin respuesta», dijo Daphne Keller, directora de regulación de plataformas en el Stanford Cyber ​​Policy Center.

En la Unión Europea, donde los legisladores están debatiendo dos vastas leyes tecnológicas, «algunas propuestas dicen que los algoritmos deben priorizar las fuentes autorizadas de información, y otras dicen que deben priorizar las fuentes diversas», señaló Keller.

«¿Cómo concilias esos dos objetivos?»

El camino a seguir es igualmente poco claro en los EE. UU., Donde los legisladores han propuesto docenas de enmiendas legales que están divididas sobre qué es exactamente lo que hay que arreglar en las redes sociales.

«A la izquierda, a la gente no le gustan todas las cosas dañinas como el discurso de odio y la desinformación; a la derecha, la gente piensa que se les está quitando la libertad de expresión», resumió Noah Giansiracusa, autor de «Cómo los algoritmos crean y previenen las noticias falsas». «.

Los políticos y académicos han sugerido varios medios para limitar los efectos secundarios dañinos de los algoritmos de las redes sociales, ninguno sin sus complicaciones.

Algunos sugieren que las plataformas como Facebook y Twitter podrían ser legalmente responsables de lo que publican, lo que los disuadiría de amplificar publicaciones que difunden odio o información errónea.

Pero en los EE. UU., Donde se encuentran la mayoría de los gigantes de las redes sociales, Giansiracusa dijo que esto enfrentaría rápidamente desafíos legales por parte de los críticos que acusan de violar el derecho a la libertad de expresión.

Alternativamente, los gobiernos podrían restringir la capacidad de las redes sociales para personalizar lo que la gente ve en sus feeds.

YouTube y Facebook han sido acusados ​​de radicalizar involuntariamente a algunas personas de esta manera, alimentándolas publicación tras publicación de contenido cargado de teoría de la conspiración.

Las empresas de redes sociales podrían verse obligadas a simplemente mostrar las publicaciones de las personas en orden cronológico, pero eso corre el riesgo de hacer que desplazarse hacia abajo en un feed sea más aburrido.

Los algoritmos ya no podrían calcular lo que un usuario probablemente encontrará interesante (una foto de un amigo cercano que se casa, por ejemplo) mientras degradan publicaciones tediosas sobre lo que un conocido almorzó.

«No hay una solución sencilla», concluyó Giansiracusa.

Basura dentro basura fuera

Más allá de las redes sociales, la dependencia mundial de la tecnología digital significa que los algoritmos afectan cada vez más los resultados del mundo real, a veces de manera drástica.

El organismo de control del ciberespacio de China está reflexionando sobre una mayor regulación de los algoritmos de las empresas de tecnología, sobre todo después de las críticas sobre cómo las aplicaciones de entrega de alimentos como Meituan y Ele.me de Alibaba tratan a los trabajadores de conciertos vulnerables desde el punto de vista financiero.

Estas aplicaciones se han enfrentado a críticas por reducir el salario de los conductores si no llegan lo suficientemente rápido, lo que fomenta la conducción imprudente.

Y los estudios han demostrado cómo la inteligencia artificial puede resultar racista o sexista, desde herramientas de escaneo de currículums que favorecen a los candidatos masculinos, hasta software de evaluación de riesgos de EE. UU. Que recomienda a los prisioneros blancos para la libertad condicional con más frecuencia que a los negros.

Ambos son ejemplos de un principio informático conocido como «basura que entra, basura sale»: la idea de que los algoritmos pueden replicar los sesgos humanos si se alimentan de datos incrustados con esos sesgos.

Los reguladores buscan cada vez más formas de prevenir estos resultados discriminatorios, y la Comisión Federal de Comercio de EE. UU. Señala que penalizará a las empresas que vendan algoritmos sesgados.

«La forma en que los algoritmos dan forma a nuestro suministro de noticias es importante», dijo Keller. «Pero cuando los algoritmos envían a las personas a la cárcel o les niegan un empleo, eso no recibe suficiente atención».

---

---

© 2021 AFP