Cuando se les pidió que crearan páginas web, los LLM descubrieron que incluían prácticas de diseño manipulativas.

Un equipo de científicos informáticos de la Universidad Técnica de Darmstadt, en colaboración con un colega de la Universidad de Glasgow y otro de la Universidad Humbold de Berlín, ha encontrado evidencia, a través de experimentos que realizaron, de que cuando se les pide que creen una página web, los LLM a menudo incluyen elementos manipulativos. prácticas de diseño. El grupo ha publicado su investigación en el arXiv servidor de preimpresión.

Estudios anteriores han demostrado que muchos desarrolladores web utilizan lo que se conoce como «patrones oscuros» como una forma de manipular a los visitantes para que hagan cosas, o para evitar hacer otras cosas, mientras están en un sitio web. Un ejemplo sería hacer que el color de un botón pida al usuario que se suscriba o que compre algo brillante y atractivo, mientras se usa un color oscuro o incluso gris para un botón que finalizará una suscripción.

En este nuevo estudio, los investigadores, al señalar que los LLM han madurado hasta el punto de que se les puede pedir que diseñen una página web, querían saber si utilizarían tales prácticas en sus diseños. Para averiguarlo, realizaron un experimento que implicó pedir a 20 participantes del estudio que le pidieran a ChatGPT que diseñara una página web que pudiera servir como un sitio de comercio electrónico. También se pidió a cada uno que utilizara un lenguaje «neutral» al decirle al LLM lo que buscaban en un diseño.

El equipo de investigación descubrió que cada página web generada por el LLM utilizaba patrones oscuros como parte de su diseño. Los ejemplos incluyeron mensajes de urgencia, resaltado manipulador y documentos falsos. Quizás lo más preocupante fueron las reseñas falsas generadas por el LLM. Además, notaron que solo hubo un caso de una palabra de advertencia a los usuarios sobre cualquier cosa en el sitio. Los investigadores repitieron el experimento con varios otros LLM y encontraron resultados similares.

Los investigadores concluyen sugiriendo que sus hallazgos resaltan el grado en que las páginas web generadas por humanos utilizan patrones oscuros para manipular a los visitantes de su sitio; después de todo, los LLM aprendieron sus habilidades de ellos. Sugieren que este hallazgo muestra que la práctica se ha normalizado. Sugieren que los usuarios exijan una regulación de las páginas web para evitar dicha manipulación en el futuro.

© 2024 Red Ciencia X