Preguntas y respuestas: Cómo el algoritmo y el diseño de la ‘caja negra’ de TikTok dan forma al comportamiento del usuario

El rápido ascenso de TikTok a los niveles superiores de las redes sociales a menudo se atribuye a su algoritmo de recomendación, que predice las preferencias de los espectadores con tanta precisión que generó una máxima: «El algoritmo de TikTok me conoce mejor que yo mismo». El éxito de la plataforma fue tan pronunciado que pareció estimular a otras plataformas de redes sociales a cambiar sus diseños. Cuando los usuarios se desplazan por X o Instagram, ahora ven más publicaciones recomendadas de cuentas que no siguen.

Sin embargo, a pesar de toda esa influencia, el público sabe poco sobre cómo funciona el algoritmo de TikTok. Entonces, Franziska Roesner, profesora asociada de la Escuela de Ciencias de la Computación e Ingeniería Paul G. Allen de la Universidad de Washington, se dedicó a investigar cómo se personaliza ese algoritmo y cómo los usuarios de TikTok interactúan con la plataforma en función de esas recomendaciones.

Roesner y sus colaboradores presentarán dos artículos en mayo que extraen datos del mundo real para ayudar a comprender la «caja negra» del algoritmo de recomendación de TikTok y su impacto.

Los investigadores primero reclutaron a 347 usuarios de TikTok, quienes descargaron sus datos de la aplicación y donaron 9,2 millones de recomendaciones de videos. Utilizando esos datos, el equipo inicialmente analizó cómo TikTok personalizaba sus recomendaciones. En los primeros 1.000 vídeos que TikTok mostró a los usuarios, el equipo descubrió que entre un tercio y la mitad de los vídeos se mostraban en función de las predicciones de TikTok sobre lo que les gustaba a esos usuarios. Los investigadores publicarán el primer documento el 13 de mayo en el Actas de la Conferencia Web ACM 2024.

El segundo estudioque el equipo presentará el 14 de mayo en el Conferencia ACM CHI sobre factores humanos en sistemas informáticos en Honolulu, exploró las tendencias de participación. Los investigadores descubrieron que durante los primeros 120 días de los usuarios, el tiempo promedio diario en la plataforma aumentó de aproximadamente 29 minutos el primer día a 50 minutos el último.

UW News habló con Roesner sobre cómo TikTok recomienda videos; el impacto que tiene sobre los usuarios; y las formas en que las empresas de tecnología, los reguladores y el público podrían mitigar los efectos no deseados.

¿Qué es importante que entendamos sobre cómo funciona el algoritmo de TikTok?

Los usuarios de TikTok suelen tener preguntas como: «¿Por qué me mostraron este contenido? ¿Qué sabe TikTok sobre mí? ¿Cómo utiliza lo que sabe sobre mí? ¿Y es así?». Entonces analizamos qué muestra TikTok a las personas y con qué criterios. Si comprendemos mejor cómo funciona el algoritmo, entonces podremos preguntarnos si nos gusta cómo funciona.

Por ejemplo, si el algoritmo explota las debilidades de las personas en torno a ciertos tipos de contenido, si predice que soy más propenso a ser susceptible a cierto tipo de información errónea, podría estar empujándome hacia ciertas madrigueras que podrían ser peligrosas para mí. . Tal vez me engañen o exacerben los problemas de salud mental o los trastornos alimentarios. El algoritmo es una caja negra, tanto para el público como para los reguladores. Y hasta cierto punto, probablemente lo sea para el propio TikTok. No es como si alguien estuviera escribiendo un código dirigido a una persona vulnerable a un trastorno alimentario. El algoritmo simplemente hace predicciones a partir de un montón de datos. Entonces, nosotros, como investigadores, estamos interesados ​​en las características que utiliza para predecir, porque realmente no podemos entender si una predicción es problemática y por qué sin comprenderlas.

También analizamos cómo las personas interactúan con el algoritmo de TikTok tal como lo entendemos. Estas consideraciones van de la mano. Como persona de seguridad y privacidad, siempre estoy realmente interesado en cómo las personas interactúan con las tecnologías y cómo sus diseños dan forma a lo que leemos, creemos y compartimos. Por tanto, investigar la experiencia humana ayuda a comprender el impacto del algoritmo y el diseño de la plataforma.

¿Qué aprendiste de estos estudios?

Una cosa que me sorprendió un poco fue que aquellos de nosotros que usamos TikTok, y yo uso TikTok, probablemente le dedicamos más tiempo del que queremos admitir. También me sorprendió un poco que la gente vea sólo alrededor del 55% de los vídeos hasta el final. Debatimos si esto era alto o bajo. ¿Es esto parte del diseño de la plataforma, que una vez que tienes lo que querías obtener de este video, sigues adelante? ¿O es una señal de que incluso este algoritmo de recomendación altamente optimizado no está funcionando tan bien? No sé cuál es. Pero es útil tener al menos una línea de base para comparar hallazgos futuros.

Otra conclusión importante fue observar qué características influyen en los videos que le muestra el algoritmo. ¿Cuánta agencia nos está quitando potencialmente TikTok? ¿Qué tan bueno es para predecir lo que probablemente querremos ver? ¿Qué tan madrigueras de conejo se vuelven esas cosas?

En el estudio, etiquetamos cada video dentro de la línea de tiempo de un usuario como «video de exploración» o «video de explotación». Un vídeo de exploración no está vinculado a vídeos que el usuario haya visto antes; por ejemplo, no hay hashtags ni creadores similares. La idea es que hay algún valor en el algoritmo que te muestra cosas nuevas. Tal vez haya valor social en no meterte en una madriguera de conejo. Probablemente también haya valor para TikTok, porque cuanto más ves las mismas cosas, más te aburres. Quieren tirar unos espaguetis a la pared y ver qué se pega.

Los videos de explotación son los que más dicen: «Sabemos lo que te gusta, te mostraremos más videos relacionados con esto». En el estudio, analizamos qué fracción de los videos son de exploración versus explotación. Descubrimos que en los primeros 1000 vídeos que vieron los usuarios, TikTok explotó los intereses de los usuarios entre el 30% y el 50% del tiempo. Luego analizamos en qué se diferenciaban los videos y cómo los trataba TikTok. Por ejemplo, si sigues a alguien, es mucho más probable que veas sus vídeos. Probablemente eso no sea sorprendente. Sin embargo, según nuestros datos, desplazarse más rápido por un vídeo no parece afectar tanto lo que hace el algoritmo.

También descubrimos que las personas terminaban de ver los videos de las cuentas que seguían menos, pero interactuaban más con ellas. Nuestra hipótesis es que si alguien ve un vídeo de su amigo, tal vez no esté tan interesado y no quiera verlo, pero aun así quiere mostrar su apoyo, por lo que interactúa.

En estos artículos usted hace varias sugerencias para mitigar los posibles efectos negativos del diseño de TikTok. ¿Podrías explicar algunos de ellos?

Descubrimos que las donaciones de datos no eran lo suficientemente completas como para poder responder todas las preguntas que teníamos. Por lo tanto, hay cierta falta de transparencia en los datos que los usuarios pueden descargar y en el algoritmo en general. Hemos visto esto en otros estudios. La gente ha analizado las divulgaciones de orientación de anuncios de Facebook. Si pregunta por qué ve este anuncio, normalmente ofrece los criterios más amplios que se incluyeron: que sea mayor de 18 años y se encuentre en los Estados Unidos, por ejemplo. Sí, pero también porque visitaste el sitio web de este producto ayer. Pero la empresa no comparte eso. Me gustaría ver más transparencia sobre cómo se utilizan los datos de las personas. Si eso cambiaría lo que haría un individuo es una cuestión diferente. Pero considero que es deber de la plataforma ayudarnos a entender eso.

Esto también se relaciona con la regulación. Incluso si esa información no cambia el comportamiento de un individuo, es vital poder realizar estudios que muestren, por ejemplo, cómo una población vulnerable está siendo dirigida de manera desproporcionada con cierto tipo de contenido. Ese tipo de orientación no es necesariamente intencional, pero si no sabes que está sucediendo, no puedes detenerlo. No sabemos cómo estas plataformas realizan auditorías internas, pero siempre es valioso tener auditores externos con diferentes incentivos.

Antes de que tuviéramos estas plataformas, entendíamos mejor cómo cierto contenido llegaba a determinadas personas porque aparecía en periódicos o vallas publicitarias. Ahora tenemos una situación en la que cada uno tiene su propia pequeña realidad. Por lo tanto, es difícil razonar sobre lo que la gente ve y por qué y cómo todo eso encaja (y mucho menos qué hacer al respecto) si ni siquiera podemos verlo.

¿Qué es importante que la gente sepa sobre TikTok?

La conciencia es útil. Recuerde que la plataforma y el algoritmo determinan cómo ve el mundo y cómo interactúa con el contenido. Eso no siempre es malo, puede ser bueno. Pero los diseños de la plataforma no son neutrales e influyen en cuánto tiempo miras y qué miras, y en qué te enojas o te preocupas. Sólo recuerda que el algoritmo te muestra cosas en gran parte porque predice lo que quizás quieras ver. Y hay otras cosas que no estás viendo.

Otros coautores de los artículos incluyeron a Karan Vombatkere de la Universidad de Boston; Sepehr Mousavi, Olivia Nemes-Nemeth, Angelica Goetzen y Krishna P. Gummadi del Instituto Max Planck de Sistemas de Software; Oshrat Ayalon de la Universidad de Haifa y el Instituto Max Planck de Sistemas de Software; Savvas Zannettou de la Universidad Técnica de Delft; y Elissa M. Redmiles de la Universidad de Georgetown.