Apple utilizó chips Tensor de Google para desarrollar Apple Intelligence

Apple utilizó unidades de procesamiento tensorial (TPU) desarrolladas por Google en lugar de las unidades de procesamiento de gráficos (GPU) ampliamente utilizadas de Nvidia para construir dos componentes críticos de Apple Intelligence.

La decisión se detalla en un Nuevo artículo de investigación publicado por Apple que destaca su dependencia del hardware en la nube de Google (a través de CNBC). El artículo revela que Apple utilizó 2.048 chips TPUv5p de Google para construir modelos de IA y 8.192 procesadores TPUv4 para modelos de IA de servidor. El artículo de investigación no menciona a Nvidia explícitamente, pero la ausencia de cualquier referencia al hardware de Nvidia en la descripción de la infraestructura de IA de Apple es reveladora y esta omisión sugiere una elección deliberada de favorecer la tecnología de Google.

La decisión es digna de mención dado el dominio de Nvidia en el mercado de procesadores de IA y dado que Apple rara vez revela sus opciones de hardware para fines de desarrollo. Las GPU de Nvidia son muy solicitadas para aplicaciones de IA debido a su rendimiento y eficiencia. A diferencia de Nvidia, que vende sus chips y sistemas como productos independientes, Google proporciona acceso a sus TPU a través de servicios en la nube. Los clientes que utilizan las TPU de Google tienen que desarrollar su software dentro del ecosistema de Google, que ofrece herramientas y servicios integrados para agilizar el desarrollo y la implementación de modelos de IA.

En el artículo, los ingenieros de Apple explican que las TPU les permitieron entrenar modelos de IA grandes y sofisticados de manera eficiente. Describen cómo las TPU de Google están organizadas en grandes grupos, lo que permite la potencia de procesamiento necesaria para entrenar los modelos de IA de Apple. Apple ha anunciado planes para invertir más de 5 mil millones de dólares en mejoras de servidores de IA durante los próximos dos años, lo que debería reforzar sus capacidades de IA y reducir su dependencia de proveedores de hardware externos.

Además de detallar el uso de las TPU de Google, el documento aborda consideraciones éticas en el desarrollo de la IA. Apple enfatizó su adhesión a prácticas responsables de datos, afirmando que no se utilizaron datos privados de usuarios en el entrenamiento de sus modelos de IA. La empresa se basó en una combinación de conjuntos de datos disponibles públicamente, con licencia y de código abierto para fines de entrenamiento. Apple agregó que su conjunto de datos de entrenamiento, que incluye datos web disponibles públicamente y contenido con licencia, fue seleccionado para proteger la privacidad del usuario.