Internet está plagado de reseñas falsas. ¿La IA empeorará las cosas?

La aparición de herramientas de inteligencia artificial generativa que permiten a las personas producir de manera eficiente reseñas en línea novedosas y detalladas casi sin trabajo ha colocado a los comerciantes, proveedores de servicios y consumidores en un territorio inexplorado, dicen grupos de vigilancia e investigadores.

Las reseñas falsas han plagado durante mucho tiempo muchos sitios web populares para consumidores, como Amazon y Yelp. Por lo general, se negocian en grupos privados de redes sociales entre corredores de reseñas falsos y empresas dispuestas a pagar. A veces, estas revisiones las inician empresas que ofrecen a los clientes incentivos, como tarjetas de regalo, por comentarios positivos.

Pero las herramientas de generación de texto con inteligencia artificial, popularizadas por ChatGPT de OpenAI, permiten a los estafadores producir reseñas más rápido y en mayor volumen, según expertos de la industria tecnológica.

La práctica engañosa, que es ilegal en Estados Unidos, se lleva a cabo durante todo el año, pero se convierte en un problema mayor para los consumidores durante la temporada de compras navideñas, cuando muchas personas confían en las reseñas para comprar regalos.

¿Dónde aparecen las reseñas generadas por IA?

Se encuentran reseñas falsas en una amplia gama de industrias, desde el comercio electrónico, el alojamiento y los restaurantes, hasta servicios como reparaciones del hogar, atención médica y lecciones de piano.

The Transparency Company, una empresa de tecnología y grupo de vigilancia que utiliza software para detectar reseñas falsas, dijo que comenzó a ver reseñas generadas por IA en grandes cantidades a mediados de 2023 y se han multiplicado desde entonces.

Para un informe publicado este mes, The Transparency Company analizó 73 millones de reseñas en tres sectores: hogar, servicios legales y médicos. Casi el 14% de las reseñas probablemente eran falsas y la compañía expresó un «alto grado de confianza» en que 2,3 millones de reseñas fueron generadas parcial o totalmente por IA.

«Es simplemente una herramienta realmente buena para estos estafadores de reseñas», dijo Maury Blackman, inversionista y asesor de nuevas empresas tecnológicas, quien revisó el trabajo de The Transparency Company y liderará la organización a partir del 1 de enero.

En agosto, la empresa de software DoubleVerify dijo que estaba observando un «aumento significativo» en aplicaciones de teléfonos móviles y televisores inteligentes con reseñas elaboradas mediante IA generativa. Las revisiones a menudo se usaban para engañar a los clientes para que instalaran aplicaciones que podrían secuestrar dispositivos o publicar anuncios constantemente, dijo la compañía.

El mes siguiente, la Comisión Federal de Comercio demandó a la empresa detrás de una herramienta de redacción de inteligencia artificial y un generador de contenido llamada Rytr, acusándola de ofrecer un servicio que podría contaminar el mercado con reseñas fraudulentas.

La FTC, que este año prohibió la venta o compra de reseñas falsas, dijo que algunos de los suscriptores de Rytr utilizaron la herramienta para producir cientos y tal vez miles de reseñas para empresas de reparación de puertas de garaje, vendedores de «réplicas» de bolsos de diseñador y otras empresas.

Es probable que también esté en sitios en línea destacados

Max Spero, director ejecutivo de la empresa de detección de IA Pangram Labs, dijo que el software que utiliza su empresa ha detectado con casi certeza que algunas valoraciones generadas por IA publicadas en Amazon aparecieron en la parte superior de los resultados de búsqueda de reseñas porque eran muy detalladas y parecían estar bien. pensado.

Pero determinar qué es falso o no puede resultar complicado. Las partes externas pueden quedarse cortas porque no tienen «acceso a señales de datos que indiquen patrones de abuso», ha dicho Amazon.

Pangram Labs ha realizado la detección de algunos sitios en línea destacados, que Spero se negó a nombrar debido a acuerdos de confidencialidad. Dijo que evaluó a Amazon y Yelp de forma independiente.

Muchos de los comentarios generados por IA en Yelp parecían ser publicados por personas que intentaban publicar suficientes reseñas para ganar una insignia «Élite», que pretende que los usuarios sepan que deben confiar en el contenido, dijo Spero.

La insignia brinda acceso a eventos exclusivos con propietarios de empresas locales. Los estafadores también lo quieren para que sus perfiles de Yelp parezcan más realistas, dijo Kay Dean, ex investigadora criminal federal que dirige un grupo de vigilancia llamado Fake Review Watch.

Sin duda, el hecho de que una reseña esté generada por IA no significa necesariamente que sea falsa. Algunos consumidores podrían experimentar con herramientas de inteligencia artificial para generar contenido que refleje sus sentimientos genuinos. Algunos hablantes no nativos de inglés dicen que recurren a la IA para asegurarse de utilizar un lenguaje preciso en las reseñas que escriben.

«Puede ayudar con las reseñas (y) hacerlas más informativas si surgen de buenas intenciones», dijo Sherry He, profesora de marketing de la Universidad Estatal de Michigan, quien ha investigado reseñas falsas. Ella dice que las plataformas tecnológicas deberían centrarse en los patrones de comportamiento de los malos actores, algo que ya hacen las plataformas destacadas, en lugar de disuadir a los usuarios legítimos de recurrir a herramientas de inteligencia artificial.

¿Qué están haciendo las empresas?

Empresas destacadas están desarrollando políticas sobre cómo el contenido generado por IA encaja en sus sistemas para eliminar reseñas falsas o abusivas. Algunos ya emplean algoritmos y equipos de investigación para detectar y eliminar reseñas falsas, pero están dando a los usuarios cierta flexibilidad para utilizar la IA.

Los portavoces de Amazon y Trustpilot, por ejemplo, dijeron que permitirían a los clientes publicar reseñas asistidas por IA siempre que reflejen su experiencia genuina. Yelp ha adoptado un enfoque más cauteloso, diciendo que sus directrices exigen que los revisores escriban su propia copia.

«Con el reciente aumento en la adopción de herramientas de inteligencia artificial por parte de los consumidores, Yelp ha invertido significativamente en métodos para detectar y mitigar mejor dicho contenido en nuestra plataforma», dijo la compañía en un comunicado.

La Coalición para Reseñas Confiables, que Amazon, Trustpilot, el sitio de reseñas de empleo Glassdoor y los sitios de viajes Tripadvisor, Expedia y Booking.com lanzaron el año pasado, dijo que aunque los engañadores pueden hacer uso ilícito de la IA, la tecnología también presenta «una oportunidad para Rechazar a aquellos que buscan utilizar reseñas para engañar a otros».

«Al compartir las mejores prácticas y elevar los estándares, incluido el desarrollo de sistemas avanzados de detección de IA, podemos proteger a los consumidores y mantener la integridad de las reseñas en línea», dijo el grupo.

La regla de la FTC La prohibición de reseñas falsas, que entró en vigor en octubre, permite a la agencia multar a empresas e individuos que participen en la práctica. Las empresas de tecnología que albergan este tipo de reseñas están protegidas de la sanción porque no son legalmente responsables según la ley estadounidense por el contenido que personas externas publican en sus plataformas.

Empresas de tecnología, incluidas Amazon, Yelp y Google, han demandado a corredores de reseñas falsas a los que acusan de vender reseñas falsificadas en sus sitios. Las empresas dicen que su tecnología ha bloqueado o eliminado una gran cantidad de reseñas y cuentas sospechosas. Sin embargo, algunos expertos dicen que podrían estar haciendo más.

«Sus esfuerzos hasta el momento no son suficientes», afirmó el decano de Fake Review Watch. «Si estas empresas de tecnología están tan comprometidas con eliminar el fraude de reseñas en sus plataformas, ¿por qué yo, una persona que trabaja sin automatización, puedo encontrar cientos o incluso miles de reseñas falsas en un día determinado?»

Detectar reseñas falsas generadas por IA

Según los investigadores, los consumidores pueden intentar detectar reseñas falsas prestando atención a algunas posibles señales de advertencia. Las críticas demasiado entusiastas o negativas son señales de alerta. La jerga que repite el nombre completo o el número de modelo de un producto es otro posible indicio.

Cuando se trata de IA, una investigación realizada por Balázs Kovács, profesor de comportamiento organizacional de Yale, ha demostrado que las personas no pueden distinguir entre reseñas generadas por IA y escritas por humanos. Algunos detectores de IA también pueden dejarse engañar por textos más cortos, que son comunes en las reseñas en línea, según el estudio.

Sin embargo, hay algunos «indicadores de IA» que los compradores en línea y los buscadores de servicios deben tener en cuenta. Panagram Labs dice que las reseñas escritas con IA suelen ser más largas, muy estructuradas e incluyen «descriptores vacíos», como frases y atributos genéricos. La escritura también tiende a incluir clichés como «lo primero que me llamó la atención» y «cambio de juego».

© 2024 Prensa Asociada. Reservados todos los derechos. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse sin permiso.