Editor Top
Openai, el creador de ChatGPT, reconoció en su propia investigación que los modelos de idiomas grandes siempre producirán alucinaciones debido a limitaciones matemáticas fundamentales que no se pueden resolver a través de una mejor ingeniería, marcando una admisión significativa de una de las principales empresas de la industria de la IA.
El estudio, publicado el 4 de septiembre y dirigido por los investigadores de OpenAi, Adam Tauman Kalai, Edwin Zhang y Ofir Nachum, junto con Santosh S. Vempala de Georgia Tech, proporcionó un marco matemático integral que explica por qué los sistemas de IA deben generar información plausible pero falsa incluso cuando se entrenan en datos perfectos.
«Al igual que los estudiantes que enfrentan preguntas difíciles de examen, los modelos de idiomas grandes a veces adivinan cuando son inciertos, produciendo declaraciones plausibles pero incorrectas en lugar de admitir incertidumbre», el Los investigadores escribieron en el artículo. «Tales ‘alucinaciones’ persisten incluso en los sistemas de vanguardia y socavan la confianza».
