Investigadores abordan fallas en la verificación de datos de IA con nueva técnica de capacitación LLM

“Podrían darle al modelo un conjunto de datos genéticos y pedirle que genere un informe sobre las variantes y mutaciones genéticas que contiene”, explicó IBM. “Con una pequeña cantidad de estas semillas plantadas, el modelo comienza a generar nuevas instrucciones y respuestas, recurriendo a la experiencia latente en sus datos de entrenamiento y utilizando RAG para extraer datos de bases de datos externas cuando sea necesario para garantizar la precisión”.

Esto podría sonar como una forma de implementar RAG. La diferencia es que estos modelos especializados solo se utilizan, a través de una API, cuando son necesarios, dijeron los investigadores.

Todavía soy malo con los hechos

Según Mark Stockley, copresentador El podcast AI Fix En el caso de Graham Cluley, el problema subyacente es que los LLM son ampliamente malinterpretados. Son buenos para tareas específicas, pero no son, ni nunca se pretendió que fueran, motores sencillos de verificación de hechos o de la verdad.