Las aplicaciones y los chatbots lúdicos pueden distraer a los usuarios de proteger sus datos personales

Cuanto más interactiva sea una aplicación móvil o chatbot de inteligencia artificial (AI), más juguetón se percibe que es, con los usuarios que bajan la guardia y arriesgan su privacidad, según un equipo dirigido por investigadores de Penn State.

Los investigadores estudiaron el efecto de la interactividad de las aplicaciones móviles en la vigilancia de los usuarios hacia los riesgos de privacidad durante el proceso de registro y cómo esto da forma a sus actitudes hacia la aplicación y su voluntad de seguir usándola. El equipo descubrió que la interactividad motiva a los usuarios a interactuar con la aplicación al fomentar una sensación de alegría y reducir sus preocupaciones de privacidad.

Los hallazgos, publicado en el diario Tecnología de comportamiento y informacióntienen implicaciones para la privacidad del usuario en una era cada vez más dominada por aplicaciones móviles y chatbots de IA que están diseñados para ser divertidos y atractivos, según el autor senior S. Shyam Sundar, el profesor de la Universidad de Evan Pugh y el profesor de efectos de los medios de medios de James P. Jimirro en Penn State.

«Creo que, en general, ha habido un aumento en la medida en que las aplicaciones y las herramientas de inteligencia artificial se convierten en datos de usuarios, lo que esenciblemente para servir mejor a los usuarios y personalizar información para ellos», dijo Sundar. «En este estudio, descubrimos que la interactividad no hace que los usuarios se detengan y piensen, como esperaríamos, sino que los hace sentir más inmersos en el aspecto lúdico de la aplicación y estar menos preocupados por la privacidad. Las empresas podrían explotar esta vulnerabilidad para extraer información privada sin que los usuarios sean totalmente conscientes de ella».

En un experimento en línea, los investigadores pidieron a 216 participantes que pasaran por el proceso de registro para una aplicación de acondicionamiento físico simulado. Los participantes fueron asignados aleatoriamente a diferentes versiones de la aplicación con diferentes niveles de dos tipos diferentes de interactividad: «interactividad de mensajes», que van desde preguntas y respuestas simples hasta chats altamente interconectados, donde la mensajería de la aplicación se basa en las respuestas anteriores del usuario; y «interactividad de modalidad», refiriéndose a opciones como hacer clic y acercarse en las imágenes.

Luego, los participantes respondieron preguntas sobre su experiencia con el proceso de registro de la aplicación mediante la calificación de la alegría percibida y las preocupaciones de privacidad en las escalas de siete puntos para indicar cuán fuertemente están de acuerdo o en desacuerdo con declaraciones específicas, como «Sentí que usar la aplicación es divertido» y «Me preocuparía que la información que presente a la aplicación podría ser mal utilizada». Los investigadores examinaron las respuestas para identificar el efecto del tipo y el alcance de la interactividad en las percepciones de los usuarios de la aplicación.

Descubrieron que la interactividad mejoró el juego percibido y la intención de los usuarios de interactuar con una aplicación, que fue acompañada de una disminución de las preocupaciones de privacidad. Sorprendentemente, dijo Sundar, la interactividad de mensajes, que los investigadores pensaron que aumentaría la vigilancia del usuario, en lugar de los usuarios distraídos de pensar en la información personal que pueden compartir con el sistema. Es decir, la forma en que los chatbots de IA operan hoy, construyendo respuestas basadas en las entradas anteriores de un usuario, tiene menos probabilidades de pensar en la información confidencial que puede estar compartiendo, según los investigadores.

«Hoy en día, cuando los usuarios se involucran con los agentes de IA, hay mucha conversación de ida y vuelta, y debido a que la experiencia es tan atractiva, olvidan que deben estar atentos a la información que comparten con estos sistemas», dijo el autor principal Jiaqi Agnes Bao, profesor asistente de comunicación estratégica en la Universidad de Dakota del Sur, que completó la investigación durante su trabajo doctoral en Penn State. «Queríamos entender cómo diseñar mejor una interfaz para asegurarnos de que los usuarios conozcan su divulgación de información».

Si bien la vigilancia del usuario juega un papel importante en la prevención de la divulgación involuntaria de la información personal, los desarrolladores de aplicaciones y IA pueden equilibrar las preocupaciones de juego y privacidad a través de opciones de diseño que resultan en situaciones ganadoras para que las personas y las empresas, dijo BAO.

«Descubrimos que si tanto la interactividad de mensajes como la interactividad de la modalidad están diseñadas para operar en conjunto, podría hacer que los usuarios se detengan y reflexionen», dijo. «Entonces, cuando un usuario conversa con un chatbot de IA, un botón emergente pidiendo al usuario que califique su experiencia o deje comentarios sobre cómo mejorar sus respuestas personalizadas puede dar a los usuarios una pausa para pensar en el tipo de información que comparte con el sistema y ayudar a la compañía a proporcionar una experiencia mejor personalizada».

La responsabilidad de AI Platforms va más allá de simplemente dar a los usuarios la opción de compartir o no compartir información personal a través de la conversación, dijo el coautor del estudio, Yongnam Jung, candidato a doctorado en Penn State.

«No se trata solo de notificar a los usuarios, sino de ayudarlos a tomar decisiones informadas, que es la forma responsable de generar confianza entre plataformas y usuarios», agregó.

El estudio se basa en el equipo investigación anteriorque revelaron patrones similares, según los investigadores. Juntos, dijeron, los dos estudios subrayan una compensación crítica: si bien la interactividad mejora la experiencia del usuario, destaca los beneficios de la aplicación y aleja la atención de los riesgos de privacidad potenciales.

La IA generativa, en su mayor parte y en la mayoría de los dominios de aplicación, se basa en la interactividad de los mensajes, que es de naturaleza conversacional, dijo Sundar, quien también es el director del Centro de Inteligencia Artificial Socialmente responsable (CSRAI) del Centro de Penn State. Agregó que este estudio encuentra desafíos de los desafíos actuales entre los diseñadores que, a diferencia de las herramientas de clic y deslizamiento, las herramientas basadas en la conversación hacen que las personas sean más cognitivamente alerta a aspectos negativos, como las preocupaciones de privacidad.

«En realidad, las herramientas basadas en la conversación están resultando ser un ejercicio lúdico, y estamos viendo esto reflejado en el discurso más amplio sobre la IA generativa, donde hay todo tipo de historias sobre las personas que se atraen tanto en conversaciones que hacen cosas que parecen ilógicas», dijo. «Están siguiendo el consejo de las herramientas de IA generativas para la toma de decisiones de muy alto riesgo. De alguna manera, nuestro estudio es una historia de advertencia para este nuevo conjunto de herramientas generativas de IA.

«Quizás insertar una ventana emergente u otras herramientas de interactividad de modalidad en el medio de una conversación puede detener el flujo de esta interacción fascinante, juguetona y los usuarios de sacudidas de vez en cuando».