Google corrige los resúmenes de búsqueda generados por IA después de que respuestas extravagantes se volvieran virales

Google dijo el viernes que ha realizado «más de una docena de mejoras técnicas» en sus sistemas de inteligencia artificial después de que se descubriera que su motor de búsqueda remodelado escupía información errónea.

La empresa de tecnología lanzó a mediados de mayo una renovación de su motor de búsqueda que con frecuencia proporciona resúmenes generados por IA además de los resultados de búsqueda. Poco después, los usuarios de las redes sociales comenzaron a compartir capturas de pantalla de sus respuestas más extravagantes.

Google ha defendido en gran medida su función de resúmenes de IA, diciendo que suele ser precisa y que fue probada exhaustivamente de antemano. Pero Liz Reid, directora del negocio de búsquedas de Google, reconoció en una publicación de blog el viernes que «ciertamente aparecieron algunas descripciones generales de IA extrañas, inexactas o inútiles».

Si bien muchos de los ejemplos eran tontos, otros eran falsedades peligrosas o dañinas.

La semana pasada, Associated Press preguntó a Google qué hongos silvestres comer, y respondió con un extenso resumen generado por IA que en su mayoría era técnicamente correcto, pero «falta mucha información que podría tener el potencial de ser repugnante o incluso fatal». » dijo Mary Catherine Aime, profesora de micología y botánica en la Universidad Purdue, quien revisó la respuesta de Google a la consulta de AP.

Por ejemplo, la información sobre los hongos conocidos como puffballs era «más o menos correcta», dijo, pero la descripción general de Google enfatizaba la búsqueda de aquellos con carne blanca sólida, que también tienen muchos imitadores de puffball potencialmente mortales.

En otro ejemplo ampliamente compartido, un investigador de IA preguntó a Google cuántos musulmanes han sido presidente de Estados Unidos, y respondió con seguridad con una teoría de conspiración largamente desacreditada: «Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama».

La semana pasada, Google hizo una solución inmediata para evitar que se repitiera el error de Obama porque violaba las políticas de contenido de la compañía.

En otros casos, Reid dijo el viernes que ha tratado de realizar mejoras más amplias, como «mecanismos de detección de consultas sin sentido», como «¿Cuántas piedras debo comer?», que no deberían responderse con un resumen de IA.

Los sistemas de inteligencia artificial también se actualizaron para limitar el uso de contenido generado por el usuario (como publicaciones en redes sociales en Reddit) que podría ofrecer consejos engañosos. En un ejemplo ampliamente compartido, la descripción general de la IA de Google de la semana pasada se basó en un comentario satírico de Reddit para sugerir el uso de pegamento para hacer que el queso se adhiera a la pizza.

Reid dijo que la compañía también ha agregado más «restricciones de activación» para mejorar la calidad de las respuestas a ciertas consultas, como las relacionadas con la salud.

Los resúmenes de Google están diseñados para brindar a las personas respuestas autorizadas a la información que buscan lo más rápido posible sin tener que hacer clic en una lista clasificada de enlaces a sitios web.

Pero algunos expertos en IA han advertido durante mucho tiempo a Google que no ceda sus resultados de búsqueda a respuestas generadas por IA que podrían perpetuar el sesgo y la desinformación y poner en peligro a las personas que buscan ayuda en una emergencia. Los sistemas de inteligencia artificial conocidos como modelos de lenguaje grande funcionan prediciendo qué palabras responderían mejor a las preguntas que se les formulan en función de los datos con los que han sido entrenados. Son propensos a inventar cosas, un problema ampliamente estudiado conocido como alucinación.

En su entrada de blog del viernes, Reid argumentó que las resúmenes de inteligencia artificial de Google «generalmente no ‘alucinan’ ni inventan cosas en la forma en que lo harían otros» grandes productos basados ​​en modelos de lenguaje porque están más estrechamente integrados con el motor de búsqueda tradicional de Google en solo mostrando lo que está respaldado por los mejores resultados web.

«Cuando AI Overviews se equivoca, generalmente es por otras razones: malinterpretar consultas, malinterpretar un matiz del lenguaje en la web o no tener mucha información excelente disponible», escribió.

© 2024 Prensa Asociada. Reservados todos los derechos. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse sin permiso.