¿Cómo mejorará Apple su IA mientras protege su privacidad?

Con todos los problemas que hemos escuchado sobre Apple Intelligence, últimamente, las mejoras de Siri retrasadas, resúmenes de notificación de malas noticias, generación de imágenes poco impresionantes y más, es posible que se pregunte qué planea hacer Apple para corregir el barco.

Obviamente, los modelos nuevos y mejorados son importantes, por lo que en una mayor capacitación, pero Apple tiene un momento particularmente difícil de esto porque sus políticas de privacidad son mucho más estrictas que otras compañías que crean productos de IA.

En una nueva publicación en el sitio de investigación de aprendizaje automático de Apple, la compañía explica una técnica que empleará para ayudar a que su IA sea más relevante, con mayor frecuencia, sin capacitarla en sus datos personales.

Asegurar la privacidad mientras se encuesta para los datos de uso

La privacidad diferencial es una forma de, como dice Apple, «obtener información sobre lo que muchos usuarios de Apple están haciendo, al tiempo que ayuda a preservar la privacidad de los usuarios individuales».

Básicamente, cada vez que Apple recopila datos en un sistema como este, primero elimina cualquier información de identificación (ID de dispositivo, dirección IP, etc.) y luego altos ligeramente los datos. Cuando millones de usuarios envían resultados, ese «ruido» cancela. Esa es la parte de privacidad diferencial: tome suficientes muestras con ruido aleatorio e identificadores eliminados, y no puede conectar ningún dato particular con un usuario.

Es una buena manera de, por ejemplo, obtener una buena muestra estadística de la cual los emoji se eligen con mayor frecuencia, o qué palabras autocorrectas se usa más después de un mal ortográfico particular, coleccionando los datos sobre las preferencias de los usuarios sin poder rastrear ningún punto de datos en particular a ningún usuario, incluso si quisieran.

Apple puede generar texto sintético que sea representativo de las indicaciones comunes, luego usar esas técnicas de privacidad diferencial para averiguar qué muestras sintéticas son seleccionadas por los usuarios con mayor frecuencia. O para determinar qué palabras y frases son comunes en las indicaciones de genmoji y cuáles son los resultados que los usuarios tienen más probabilidades de elegir.

El sistema AI podría generar oraciones comunes utilizadas en correos electrónicos, por ejemplo, y luego enviar múltiples variantes a diferentes usuarios. Luego, utilizando técnicas de privacidad diferenciales, Apple puede descubrir cuáles se seleccionan con mayor frecuencia (sin tener la capacidad de saber qué eligió un individuo).

Apple ha estado utilizando esta técnica durante años para recopilar datos destinados a mejorar las sugerencias rápidas, sugerencias de emoji, sugerencias de búsqueda y más. Tan anónimo como es, todavía es opcional. Apple no recopila este tipo de datos a menos que habilite afirmativamente el análisis de dispositivos.

Técnicas como esta ya se están utilizando para mejorar Genmoji, y en una próxima actualización, se utilizarán para la generación de imágenes, la varita de imágenes, la creación de recuerdos, las herramientas de escritura e inteligencia visual. Un informe de Bloomberg dice que el nuevo sistema vendrá en una actualización beta de iOS 18.5, iPados 18.5 y MacOS 18.5 (la segunda versión beta se lanzó hoy).

Por supuesto, esto es solo una recopilación de datos, y llevará semanas o meses de recopilación de datos y reentrenamiento para mejorar de manera meditable las características de inteligencia de Apple.