Con los modelos genAI, el tamaño importa (y cuanto más pequeño, mejor)

Brown describió a los científicos de datos como unicornios en este momento: raros y, a menudo, también exigiendo el salario de una criatura mítica. “Y con razón”, dijo.

La mayoría de las organizaciones solo pueden emplear a un puñado de científicos de datos en el mejor de los casos, ya sea por la escasez de talento calificado o por el costo de contratarlos, “lo que crea cuellos de botella cuando se trata de capacitar y ajustar eficazmente el modelo”, dijo.

¿Un paso hacia un modelo híbrido?

Los CIO, señaló Brown, llevan mucho tiempo alejándose de las tecnologías monolíticas, empezando por el cambio de UNIX a Linux a principios de la década de 2000. Cree que la IA se encuentra en un punto de inflexión similar y sostiene que una estrategia híbrida, similar a la de la nube híbrida, es la más ventajosa para implementar modelos de IA. Si bien los grandes y algo amorfos LLM están en el centro de atención hoy en día, el futuro entorno de TI está compuesto por un 50 % de aplicaciones y un 50 % de SLM.

“Los datos se encuentran en todas partes, ya sea en las instalaciones, en la nube o en el borde. Por lo tanto, los datos son híbridos por naturaleza y, dado que la IA debe ejecutarse donde se encuentran sus datos, también debe ser híbrida”, afirmó Brown. “De hecho, a menudo les decimos a los clientes y socios: la IA es la carga de trabajo híbrida definitiva.

“Básicamente, un CIO tendrá tantos modelos de IA como aplicaciones. Esto significa que la capacitación debe ser más rápida, la puesta a punto debe acelerarse y los costos deben mantenerse bajos. La clave para este desafío está en el código abierto”, continuó. “Así como democratizó la informática, el código abierto hará lo mismo con la IA; ya lo está haciendo”.