Microsoft afirma que la nueva herramienta de ‘corrección’ puede solucionar las alucinaciones de genAI

Microsoft presentó por primera vez su función de detección de “conexión a tierra” en marzo. Para utilizarla, una aplicación genAI debe conectarse a documentos de conexión a tierra, que se utilizan en el resumen de documentos y en escenarios de preguntas y respuestas basados ​​en RAG, dijo Microsoft. Desde entonces, dijo, los clientes han estado preguntando qué pueden hacer una vez que se detecta información errónea, además de bloquearla.

“Esto pone de relieve un desafío importante en el panorama de la IA generativa en rápida evolución, donde los filtros de contenido tradicionales a menudo no logran abordar los riesgos únicos que plantean las alucinaciones de la IA generativa”, escribió Katelyn Rothney, gerente sénior de marketing de productos de Microsoft. una entrada de blog.

Basándose en la detección de elementos no fundamentados existente de la empresa, la herramienta Correction permite a Azure AI Content Safety identificar y corregir alucinaciones en tiempo real, antes de que los usuarios de las aplicaciones genAI las detecten. Funciona marcando primero el contenido no fundamentado. Luego, el sistema Azure Safety inicia un proceso de reescritura en tiempo real para revisar las partes inexactas y garantizar la alineación con las fuentes de datos conectadas.