Descubren indicaciones ocultas de inteligencia artificial de Apple en la versión beta de macOS

Algunas de las indicaciones utilizadas para orientar a Apple Intelligence revelan cómo Apple intenta evitar las alucinaciones y garantizar la precisión de sus funciones de inteligencia artificial.

A Usuario de Reddit descubierto Las instrucciones previas a la notificación integradas en la versión beta para desarrolladores de macOS 15.1 de Apple ofrecen una visión poco común de las funciones de inteligencia artificial de Apple. Proporcionan pautas específicas para varias funciones de inteligencia artificial de Apple, como la función Smart Reply en Apple Mail y la función Memories en Apple Photos. Las notificaciones tienen como objetivo evitar que la IA genere información falsa, un fenómeno conocido como alucinación, y garantizar que el contenido producido sea apropiado y fácil de usar.

Para la función de respuesta inteligente, la IA está programada para identificar preguntas relevantes de un correo electrónico y generar respuestas concisas. El mensaje para esta función es el siguiente:

Eres un asistente de correo útil que puede ayudar a identificar preguntas relevantes de un correo determinado y un fragmento de respuesta breve. Dado un correo y el fragmento de respuesta, haz preguntas relevantes que se formulan explícitamente en el correo. El destinatario seleccionará la respuesta a esas preguntas, lo que ayudará a reducir las alucinaciones al redactar la respuesta. Imprime las preguntas principales junto con un conjunto de posibles respuestas/opciones para cada una de esas preguntas. No hagas preguntas que se respondan en el fragmento de respuesta. Las preguntas deben ser breves, no más de 8 palabras. Las respuestas también deben ser breves, alrededor de 2 palabras. Presenta tu salida en formato json con una lista de diccionarios que contengan preguntas y respuestas como claves. Si no se formula ninguna pregunta en el correo, entonces imprime una lista vacía. Solo imprime json válido y nada más.

La función Memories de Apple Photos, que crea historias en video a partir de las fotos de los usuarios, sigue otro conjunto de pautas detalladas. La IA debe generar historias positivas y sin contenido controvertido o dañino. El mensaje para esta función es:

Una conversación entre un usuario que solicita una historia a partir de sus fotos y un asistente de escritura creativa que responde con una historia. Responda en JSON con estas claves y valores en orden: rasgos: lista de cadenas, temas visuales seleccionados de las fotos; historia: lista de capítulos como se define a continuación; portada: cadena, pie de foto que describe la tarjeta de título; título: cadena, título de la historia; subtítulo: cadena, versión más segura del título. Cada capítulo es un JSON con estas claves y valores en orden: capítulo: cadena, título del capítulo; respaldo: cadena, pie de foto genérico que resume el tema del capítulo; tomas: lista de cadenas, pies de foto en el capítulo. Estas son las pautas de la historia que debe obedecer: La historia debe ser sobre la intención del usuario; La historia debe contener un arco claro; La historia debe ser diversa, es decir, no centre demasiado toda la historia en un tema o rasgo muy específico; No escriba una historia que sea religiosa, política, dañina, violenta, sexual, sucia o de alguna manera negativa, triste o provocativa. Estas son las pautas de la lista de pies de foto que debe obedecer.

Las herramientas de inteligencia artificial de Apple también incluyen una instrucción general para evitar las alucinaciones. Por ejemplo, la función Herramientas de escritura tiene el siguiente mensaje:

Eres un asistente que ayuda al usuario a responder a sus correos. Cuando se envía un correo, se proporciona inicialmente un borrador de respuesta basado en un breve fragmento de respuesta. Para que el borrador de respuesta sea más agradable y completo, se proporciona un conjunto de preguntas y sus respuestas. Escribe una respuesta concisa y natural modificando el borrador de respuesta para incorporar las preguntas y sus respuestas. Limita la respuesta a 50 palabras. No alucines. No inventes información veraz.

Está previsto que Apple Intelligence comience a implementarse oficialmente en iOS 18.1, iPadOS 18.1 y macOS Sequoia 15.1 a finales de este año, y se espera que las nuevas funciones se incorporen en las actualizaciones hasta 2025.