¿Por qué Siri no sabe lo que no sabe?

Los niños hacen preguntas todo el tiempo y creo que es importante, como padre, admitir cuando no sabes la respuesta. Naturalmente, es tentador fanfarronear para preservar su fe infantil en tu omnisciencia, pero sólo estás acumulando problemas para el momento en que obtengan acceso a Google y descubran por sí mismos que el presidente de Cuba, en realidad, no lo es. , Fray Bentos.

Sin embargo, no todo el mundo siente lo mismo al admitir la ignorancia. Tomemos como ejemplo a Siri, a quien le encanta realizar tareas cuando ni siquiera está seguro de lo que acaba de decir. Pídele a tu HomePod que reproduzca una canción con una voz ligeramente apagada y, en lugar de decir: «No entendí eso, ¿te importaría repetirlo?». simplemente avanza y reproduce algo al azar.

Llevo algunos años quejándome de Siri y, hasta donde puedo ver, nada ha mejorado en ese tiempo. Se supone que la llegada de Apple Intelligence traerá una versión nueva y mejorada de Siri, pero por supuesto eso no se aplica al HomePod; e incluso en dispositivos como el iPhone que hacer Con Apple Intelligence no parece haber más precisión, solo un mayor grado de confianza fuera de lugar sobre la inexactitud.

La semana pasada, el blogger One Foot Tsunami decidió preguntarle a Siri, en orden, quién ganó cada Super Bowl (una tarea aparentemente sencilla) y recibió una serie de respuestas que eran hilarantes y terriblemente inexactas. Sólo obtuvo un 34 por ciento de aciertos, y al menos uno de ellos acertó por el motivo equivocado. (Cuando se le preguntó sobre el Super Bowl X, habló extensamente sobre el Super Bowl IX… que resultó tener el mismo ganador). En un momento dado, se equivocó en la respuesta 15 veces seguidas, y le dio a los Philadelphia Eagles 33 victorias en lugar de las uno que realmente recolectaron.

No creo que sea especialmente importante que los asistentes de voz o los modelos de IA que se encuentran debajo de ellos puedan responder preguntas sobre trivia deportiva, pero aquí está en juego un principio que es importante: deben admitir cuando no saben lo correcto. respuesta. En este caso, no hubo ningún daño porque el asunto en cuestión era, bueno, trivial. Pero si alguien pregunta, digamos, sobre el torque de las tuercas de una Nissan Frontier 2015, recibir con seguridad una respuesta totalmente incorrecta podría tener consecuencias perjudiciales.

Lamentablemente, para admitir que no sabes la respuesta, primero debes saber que no sabes la respuesta, y esta es la gran debilidad de la IA. La IA no «sabe» nada en ningún sentido que podamos entender. Coincide con patrones sin comprender lo que significan, lo que significa que no tiene ninguna forma de verificar la cordura de un hecho que un humano vería instantáneamente como una tontería. Pero al mismo tiempo, sería bueno si los desarrolladores de IA pensaran más en analizar y señalar al usuario el grado de confianza de un modelo en un resultado específico: una calificación de la cantidad y calidad de los datos de entrenamiento sobre ese tema, por ejemplo, o la proporción de consultas similares que han recibido comentarios positivos.

Lo que no es suficiente, en mi opinión, es una exención de responsabilidad generalizada. Tras las quejas sobre resúmenes de notificaciones alterados, Apple acordó recientemente modificar la forma en que Apple Intelligence maneja esa función, pero todos los cambios inmediatos afectan no a la información en sí, sino a la forma en que se presenta: hay una etiqueta más clara que indica que la función es una versión beta. y puede contener errores, mientras que el texto resumido aparece en cursiva para distinguirlo de una notificación estándar. Inicialmente, esto puede ayudar, porque el formato modificado resaltará. Pero rápidamente se desvanecerá en el mobiliario visual, al igual que las exenciones de responsabilidad en los resultados de IA de Google destinadas a evitar demandas por información de torque incorrecta. Necesitamos un descargo de responsabilidad específico de que un resultado es inestable (“este producto contiene nueces”) en lugar de un descargo de responsabilidad trabuco de que todos ellos lo son (“cualquier producto fabricado por esta empresa o sus subsidiarias puede contener nueces”).

En este momento, la IA está en su ciclo de exageración y todos los jugadores están compitiendo por una posición ante el ojo público. En este momento, lo principal que buscan son las relaciones públicas, y tiene sentido en ese contexto que quieran hacer afirmaciones exageradas sobre las capacidades de sus productos y no les guste la idea de señalar sus limitaciones. Pero Apple, precisamente, debería entender que la reputación se construye lentamente y se pierde muy rápidamente. Es mejor ser honestamente ignorante que confiadamente incorrecto. Y la frase que más quiero escuchar de Siri es “Lo siento, Dave. Me temo que no puedo hacer eso”.

Bienvenido a nuestra columna semanal Apple Breakfast, que incluye todas las noticias de Apple que se perdió la semana pasada en un práctico resumen breve. Lo llamamos Apple Breakfast porque creemos que combina muy bien con una taza de café o té el lunes por la mañana, pero también está bien si quieres leerlo durante el almuerzo o la cena.

Tendencias: noticias destacadas

Si Inteligencia de Apple es genial, ¿por qué Apple no confía en nosotros para encenderlo?

Mahmoud Itani nos recuerda a todos 6 productos Apple olvidados recibiendo una actualización este año.

formar equipo con Apple bajo su propio riesgo.

¡Es el turno de Samsung de copiar a Apple! Aquí hay más de una docena de maneras en que Samsung Apple arrancada en el lanzamiento del Galaxy S25.

La nueva y alocada tienda de Apple en Miami se vuelve neutra en carbono nuevas alturas.

Los usuarios de iPhone del Reino Unido pronto podrán almacenar licencias e identificaciones digitales.

podcast de la semana

Los rumores se están intensificando sobre el próximo gran lanzamiento de iPhone de Apple. En el último episodio del Macworld Podcast, cubrimos lo que está pasando con el iPhone SE y lo que podríamos ver en las próximas semanas.

Puede ver todos los episodios del Macworld Podcast en Spotify, nube de sonidola aplicación Podcasts o nuestro propio sitio.

Rincón de reseñas

La fábrica de rumores

Se muestra la fuga de aire del iPhone 17 nuevo diseño de ‘barra de cámara’.

Una nueva filtración cambia todo lo que sabemos sobre el iPhone SE 4.

Actualizaciones de software, errores y problemas

Odio la nueva aplicación de correo en tu iPhone? Aquí se explica cómo volver a cambiarlo.

A partir de esta semana, deberás desactivar Apple Intelligence si no lo quiero.

Los usuarios de Mac finalmente obtendrán la aplicación de correo más inteligente macOS 15.4.

Actualización de AirPods Pro 2 ‘en las próximas semanas’ para expandirse función de audífono.

Y con eso, terminamos el desayuno de manzana de esta semana. Si desea recibir resúmenes periódicos, suscríbase a nuestros boletines. También puedes seguirnos en Facebook, Threads o Gorjeo para discutir las últimas noticias de Apple. Nos vemos el próximo lunes y quédate Appley.