ChatGPT y otra IA generativa podrían fomentar la negación científica y los malentendidos: así es como puede estar alerta

Hasta hace muy poco, si quería saber más sobre un tema científico controvertido (investigación con células madre, la seguridad de la energía nuclear, el cambio climático), probablemente hacía una búsqueda en Google. Presentado con múltiples fuentes, usted eligió qué leer, seleccionando en qué sitios o autoridades confiar.

Ahora tienes otra opción: puedes plantear tu pregunta a ChatGPT u otra plataforma de inteligencia artificial generativa y recibir rápidamente una respuesta sucinta en forma de párrafo.

ChatGPT no busca en Internet como lo hace Google. En su lugar, genera respuestas a consultas por predecir posibles combinaciones de palabras de una amalgama masiva de información disponible en línea.

Aunque tiene el potencial para mejorar la productividad, se ha demostrado que la IA generativa tiene algunas fallas importantes. Puede producir desinformación. Puede crear «alucinaciones«—un término benigno para inventar cosas. Y no siempre resuelve con precisión los problemas de razonamiento. Por ejemplo, cuando se le pregunta si tanto un automóvil como un tanque pueden pasar por una puerta, no tuvo en cuenta tanto el ancho como la altura. Sin embargo, ya se está utilizando para producir artículos y contenido del sitio web usted puede haber encontrado, o como una herramienta en el proceso de escritura. Sin embargo, es poco probable que sepa si lo que está leyendo fue creado por IA.

Como los autores de «Negación científica: por qué sucede y qué hacer al respecto«nos preocupa cómo la IA generativa puede desdibujar los límites entre la verdad y la ficción para aquellos que buscan información científica autorizada.

Todos los consumidores de medios deben estar más atentos que nunca para verificar la precisión científica de lo que leen. Así es como puede mantenerse alerta en este nuevo panorama de información.

Cómo la IA generativa podría promover la negación de la ciencia

Erosión de la confianza epistémica. Todos los consumidores de información científica dependen de los juicios de expertos científicos y médicos. confianza epistémica es el proceso de confiar en el conocimiento que obtienes de otros. Es fundamental para la comprensión y el uso de la información científica. Ya sea que alguien esté buscando información sobre un problema de salud o tratando de comprender las soluciones al cambio climático, a menudo tienen una comprensión científica limitada y poco acceso a evidencia de primera mano. Con un cuerpo de información en línea que crece rápidamente, las personas deben tomar decisiones frecuentes sobre en qué y en quién confiar. Con el mayor uso de la IA generativa y el potencial de manipulación, creemos que es probable que la confianza se erosione más allá de ya tiene.

Engañoso o simplemente incorrecto. Si hay errores o sesgos en los datos en los que se entrenan las plataformas de IA, eso puede reflejarse en los resultados. En nuestras propias búsquedas, cuando le hemos pedido a ChatGPT que regenere varias respuestas a la misma pregunta, hemos obtenido respuestas contradictorias. Cuando se le preguntó por qué, respondió: «A veces cometo errores». Quizás el problema más complicado con el contenido generado por IA es saber cuándo está mal.

La desinformación se difunde intencionalmente. La IA se puede utilizar para generar desinformación convincente como texto, así como imágenes y videos falsos. Cuando le pedimos a ChatGPT que «escribir sobre vacunas al estilo de la desinformaciónprodujo una cita inexistente con datos falsos. Geoffrey Hinton, exjefe de desarrollo de IA en Google, renunció para ser libre de hacer sonar la alarma y dijo: «Es difícil ver cómo puede evitar que los malos actores usarlo para cosas malas.» El potencial para crear y difundir información deliberadamente incorrecta sobre la ciencia ya existía, pero ahora es peligrosamente fácil.

fuentes fabricadas. ChatGPT proporciona respuestas sin ninguna fuente o, si se le solicitan fuentes, puede presentar los que compuso. Ambos le pedimos a ChatGPT que generara una lista de nuestras propias publicaciones. Cada uno de nosotros identificamos algunas fuentes correctas. Más eran alucinaciones, pero aparentemente respetables y en su mayoría plausibles, con coautores anteriores reales, en revistas que suenan similares. Esta inventiva es un gran problema si una lista de las publicaciones de un erudito transmite autoridad a un lector que no se toma el tiempo de verificarlas.

conocimiento fechado. ChatGPT no sabe qué sucedió en el mundo después de que concluyó su entrenamiento. Una consulta sobre qué porcentaje del mundo ha tenido COVID-19 arrojó una respuesta precedida por «a partir de la fecha límite de mi conocimiento de septiembre de 2021». Dada la rapidez con la que avanza el conocimiento en algunas áreas, esta limitación podría significar que los lectores obtengan información errónea y desactualizada. Si está buscando investigaciones recientes sobre un problema de salud personal, por ejemplo, tenga cuidado.

Avance rápido y poca transparencia. Los sistemas de IA continúan convirtiéndose más potente y aprende más rápido, y pueden aprender más desinformación científica en el camino. Google anunció recientemente 25 nuevos usos integrados de IA en sus servicios. En este punto, no existen suficientes barandillas para garantizar que la IA generativa se convierta en un proveedor más preciso de información científica con el tiempo.

¿Qué puedes hacer?

Si usa ChatGPT u otras plataformas de IA, tenga en cuenta que es posible que no sean completamente precisas. La carga recae en el usuario para discernir la precisión.

Aumenta tu vigilancia. Las aplicaciones de verificación de hechos de AI pueden estar disponibles prontopero por ahora, los usuarios deben actuar como sus propios verificadores de datos. Hay pasos que recomendamos. La primera es: estar alerta. Las personas a menudo comparten reflexivamente la información que encuentran en las búsquedas en las redes sociales con poca o ninguna investigación. Sepa cuándo volverse más deliberadamente reflexivo y cuándo vale la pena identificar y evaluar las fuentes de información. Si está tratando de decidir cómo manejar una enfermedad grave o comprender los mejores pasos para abordar el cambio climático, tómese el tiempo para examinar las fuentes.

Mejore su verificación de datos. Un segundo paso es lectura lateral, un proceso que utilizan los verificadores de hechos profesionales. Abre una nueva ventana y busca información sobre las fuentes, si se proporciona. ¿Es creíble la fuente? ¿El autor tiene experiencia relevante? ¿Y cuál es el consenso de los expertos? Si no se proporcionan fuentes o no sabe si son válidas, utilice un motor de búsqueda tradicional para encontrar y evaluar expertos en el tema.

Evaluar la evidencia. A continuación, eche un vistazo a la evidencia y su conexión con el reclamo. ¿Existe evidencia de que los alimentos genéticamente modificados son seguros? ¿Hay evidencia de que no lo son? ¿Qué es el consenso científico? Evaluar los reclamos requerirá un esfuerzo más allá de una consulta rápida a ChatGPT.

Si comienza con IA, no se detenga ahí. Tenga cuidado al usarlo como la única autoridad en cualquier tema científico. Es posible que vea lo que ChatGPT tiene que decir sobre los organismos genéticamente modificados o la seguridad de las vacunas, pero también realice un seguimiento con una búsqueda más diligente utilizando los motores de búsqueda tradicionales antes de sacar conclusiones.

Evaluar la plausibilidad. Juzgar si la afirmación es plausible. ¿Es probable que sea verdad?? Si AI hace una declaración inverosímil (e inexacta) como «1 millón de muertes fueron causadas por vacunas, no por COVID-19,» considere si tiene sentido. Haga un juicio tentativo y luego esté abierto a revisar su pensamiento una vez que haya verificado la evidencia.

Promover la alfabetización digital en uno mismo y en los demás. Todo el mundo necesita mejorar su juego. Mejore su propia alfabetización digital y, si es padre, maestro, mentor o líder comunitario, promueva la alfabetización digital en otros. La Asociación Estadounidense de Psicología brinda orientación sobre verificación de información en línea y recomienda a los adolescentes ser entrenado en habilidades de redes sociales minimizar los riesgos para la salud y el bienestar. El proyecto de alfabetización noticiosa proporciona herramientas útiles para mejorar y apoyar la alfabetización digital.

Ármate con las habilidades que necesitas para navegar por el nuevo panorama de la información de IA. Incluso si no usa IA generativa, es probable que ya haya leído artículos creados por ella o desarrollados a partir de ella. Puede tomar tiempo y esfuerzo encontrar y evaluar información confiable sobre ciencia en línea, pero vale la pena.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.