Cómo las organizaciones de medios de servicio público pueden crear un enfoque responsable para las recomendaciones algorítmicas

A nuevo reportepublicado por el Instituto Ada Lovelace y en coautoría con la Dra. Silvia Milano de la Universidad de Exeter, explora el desarrollo y uso de sistemas de recomendación en organizaciones de medios de servicio público en el Reino Unido y Europa.

Los algoritmos de recomendación se han convertido en una característica ineludible de cómo consumimos contenido en la era digital. Los experimentamos casi a diario, ya sea que estemos transmitiendo podcasts, explorando boxsets o leyendo artículos de noticias. Esto tiene beneficios, pero también conlleva riesgos éticos y sociales, por ejemplo, en torno a las cámaras de eco, la polarización, la transparencia y la rendición de cuentas.

En este contexto de rápido cambio e innovación, la investigación del Instituto sobre recomendaciones algorítmicas dentro de las organizaciones de medios de servicio público ha identificado formas de desafiar el estado actual de la comercialización existente establecido por las grandes plataformas tecnológicas.

La investigación también encontró que la idea de «valor de servicio público» debe redefinirse para la era digital y que se necesita más investigación sobre los sistemas de recomendación algorítmica para abordar algunos de los desafíos éticos que pueden plantear.

Las organizaciones de medios de servicio público reconocen los desafíos involucrados en la creación y el uso de sistemas de recomendación y muchos están trabajando activamente para abordarlos.

El Instituto Ada Lovelace alienta a las organizaciones a aprovechar este trabajo aumentando la transparencia algorítmica, brindando a los usuarios y a la sociedad en general un mayor control y desarrollando formas para que participen en la investigación y el desarrollo de estos sistemas.

El informe hace nueve recomendaciones específicas para futuras investigaciones, experimentación y colaboración entre organizaciones de medios de comunicación de servicio público, académicos, financiadores y reguladores:

1. Definir el valor del servicio público para la era digital
2. Financiar un centro público de I+D para sistemas de recomendación y desafíos de recomendación responsable
3. Publicar investigaciones sobre las expectativas de personalización de la audiencia
4. Comunicar y ser transparente con las audiencias
5. Equilibre el control del usuario con la comodidad
6. Ampliar la participación pública en el diseño y la evaluación
7. Estandarizar metadatos
8. Crear recursos del sistema de recomendaciones compartidos
9. Crear y potenciar equipos integrados

Estas recomendaciones se desarrollaron a través de una revisión de la literatura y entrevistas con el personal de ingeniería, producto y editorial de la BBC, que se asoció con el Instituto en la investigación, así como entrevistas con la Unión Europea de Radiodifusión, NPO (Países Bajos), ARD (Alemania), VRT (Bélgica), BR (Baviera), SR (Suecia), académicos, sociedad civil y reguladores.

Abordan algunos de los problemas éticos planteados por el uso de sistemas de recomendación en los medios de servicio público e indican otras áreas de investigación que podrían respaldar el desarrollo de sistemas de recomendación de una manera que funcione para las personas y la sociedad.

La Dra. Silvia Milano, profesora de filosofía de los datos en la Universidad de Exeter y miembro de Egenis, el Centro para el Estudio de las Ciencias de la Vida, dijo: «Los sistemas de recomendación son el elemento vital de Internet y cumplen una gran cantidad de objetivos, desde navegar a través de vastos conjuntos de opciones, hasta permitir que se descubra el contenido y que las empresas finalmente tengan éxito. Sin embargo, su operación a menudo puede ser opaca, lo que plantea varios desafíos éticos.

«Al automatizar algunos juicios editoriales y aumentar la personalización, los sistemas de recomendación pueden ayudar a los medios de servicio público a lograr objetivos importantes, como llegar a nuevas audiencias y adaptar su comunicación a la era digital.

«Tenemos una oportunidad clave para dar forma a la conversación pública en torno a los valores consagrados en la tecnología a través de nuestra recomendación de hacer de esto parte de la estrategia nacional de IA».

Carly Kind, directora del Instituto Ada Lovelace, dijo: «Existe una oportunidad real para que los medios de servicio público desarrollen un enfoque nuevo y responsable de la recomendación algorítmica, que funcione para las personas y la sociedad y ofrezca una alternativa a los paradigmas comerciales de las grandes plataformas tecnológicas.

«Alentamos a los financiadores y reguladores a apoyar a las organizaciones de medios de servicio público para que participen en la innovación responsable a medida que desarrollan y utilizan algoritmos de recomendación».