Los rivales de Nvidia se centran en construir un tipo diferente de chip para impulsar productos de IA

La creación de la actual generación de chatbots con inteligencia artificial se ha basado en chips informáticos especializados de los que fue pionera Nvidia, que domina el mercado y se convirtió en el modelo del auge de la IA.

Pero las mismas cualidades que hacen que esos chips de procesadores gráficos, o GPU, sean tan efectivos para crear potentes sistemas de IA desde cero los hacen menos eficientes a la hora de poner en funcionamiento los productos de IA.

Esto ha abierto la industria de los chips de IA a rivales que creen que pueden competir con Nvidia en la venta de los llamados chips de inferencia de IA que están más en sintonía con el funcionamiento diario de las herramientas de IA y están diseñados para reducir algunos de los enormes costos informáticos de IA generativa.

«Estas empresas están viendo oportunidades para ese tipo de hardware especializado», dijo Jacob Feldgoise, analista del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. «Cuanto más amplia sea la adopción de estos modelos, más computadoras se necesitarán para la inferencia y más demanda habrá de chips de inferencia».

¿Qué es la inferencia de IA?

Se necesita mucha potencia informática para crear un chatbot con IA. Comienza con un proceso llamado entrenamiento o preentrenamiento (la «P» en ChatGPT) que implica que los sistemas de IA «aprendan» de los patrones de enormes cantidades de datos. Las GPU son buenas para hacer ese trabajo porque pueden ejecutar muchos cálculos a la vez en una red de dispositivos en comunicación entre sí.

Sin embargo, una vez entrenada, una herramienta de IA generativa todavía necesita chips para hacer el trabajo, como cuando le pides a un chatbot que redacte un documento o genere una imagen. Ahí es donde entra en juego la inferencia. Un modelo de IA entrenado debe absorber nueva información y hacer inferencias a partir de lo que ya sabe para producir una respuesta.

Las GPU también pueden hacer ese trabajo. Pero puede ser un poco como tomar un mazo para romper una nuez.

«Con el entrenamiento, haces mucho más trabajo, mucho más. Con la inferencia, eso es menos peso», dijo el analista de Forrester, Alvin Nguyen.

Esto ha llevado a empresas emergentes como Cerebras, Groq y d-Matrix, así como a los rivales tradicionales de Nvidia en la fabricación de chips, como AMD e Intel, a lanzar chips más amigables con la inferencia mientras Nvidia se concentra en satisfacer la enorme demanda de las empresas tecnológicas más grandes por su hardware de gama alta. .

Dentro de un laboratorio de chips de inferencia de IA

D-Matrix, que lanza su primer producto esta semana, se fundó en 2019, un poco tarde para el juego de los chips de IA, como explicó el director ejecutivo Sid Sheth durante una entrevista reciente en la sede de la compañía en Santa Clara, California, el mismo Silicon Valley. ciudad que también alberga AMD, Intel y Nvidia.

«Ya había más de 100 empresas. Así que cuando salimos, la primera reacción que tuvimos fue ‘llegas demasiado tarde'», dijo. La llegada de la pandemia seis meses después no ayudó, ya que la industria tecnológica se centró en el software para facilitar el trabajo remoto.

Ahora, sin embargo, Sheth ve un gran mercado en la inferencia de IA, comparando esa última etapa del aprendizaje automático con la forma en que los seres humanos aplican el conocimiento que adquirieron en la escuela.

«Pasamos los primeros 20 años de nuestras vidas yendo a la escuela, educándonos. Eso es capacitación, ¿verdad?» dijo. «Y luego, durante los siguientes 40 años de tu vida, sales y aplicas ese conocimiento, y luego eres recompensado por ser eficiente».

El producto, llamado Corsair, consta de dos chips con cuatro chiplets cada uno, fabricados por Taiwan Semiconductor Manufacturing Company (el mismo fabricante de la mayoría de los chips de Nvidia) y empaquetados juntos de una manera que ayuda a mantenerlos frescos.

Los chips se diseñan en Santa Clara, se ensamblan en Taiwán y luego se prueban en California. Las pruebas son un proceso largo y pueden durar seis meses; si algo falla, se puede enviar de regreso a Taiwán.

Los trabajadores de D-Matrix estaban realizando las pruebas finales de los chips durante una visita reciente a un laboratorio con escritorios de metal azul cubiertos de cables, placas base y computadoras, con una fría sala de servidores al lado.

¿Quién quiere chips de inferencia de IA?

Mientras gigantes tecnológicos como Amazon, Google, Meta y Microsoft han estado devorando el suministro de costosas GPU en una carrera por superarse entre sí en el desarrollo de IA, los fabricantes de chips de inferencia de IA apuntan a una clientela más amplia.

Nguyen de Forrester dijo que eso podría incluir a las empresas Fortune 500 que quieran hacer uso de nueva tecnología de IA generativa sin tener que construir su propia infraestructura de IA. Sheth dijo que espera un gran interés en la generación de videos con IA.

«El sueño de la IA para muchas de estas empresas es que puedan utilizar sus propios datos empresariales», dijo Nguyen. «Comprar (chips de inferencia de IA) debería ser más barato que comprar las GPU más avanzadas de Nvidia y otros. Pero creo que habrá una curva de aprendizaje en términos de integración».

Feldgoise dijo que, a diferencia de los chips centrados en el entrenamiento, el trabajo de inferencia de IA prioriza la rapidez con la que una persona obtendrá la respuesta de un chatbot.

Dijo que otro conjunto completo de empresas está desarrollando hardware de inteligencia artificial para inferencias que puede ejecutarse no sólo en grandes centros de datos sino localmente en computadoras de escritorio, portátiles y teléfonos.

• 

• 

• 

• 

• 

¿Por qué esto importa?

Unos chips mejor diseñados podrían reducir los enormes costes que supone el funcionamiento de la IA para las empresas. Esto también podría afectar los costos ambientales y energéticos para todos los demás.

Sheth dice que la gran preocupación en este momento es: «¿Vamos a quemar el planeta en nuestra búsqueda de lo que la gente llama AGI: inteligencia similar a la humana?»

Todavía no está claro cuándo la IA podría llegar al punto de la inteligencia artificial general: las predicciones varían desde unos pocos años hasta décadas. Pero, señala Sheth, sólo un puñado de gigantes tecnológicos están en esa búsqueda.

«Pero ¿qué pasa entonces con el resto?» dijo. «No se les puede poner en el mismo camino».

El otro grupo de empresas no quiere utilizar modelos de IA muy grandes: es demasiado costoso y consume demasiada energía.

«No sé si la gente realmente aprecia que la inferencia realmente será una oportunidad mucho más grande que el entrenamiento. No creo que lo aprecien. Aún así, es el entrenamiento lo que realmente acapara todos los titulares», dijo Sheth. .

© 2024 Prensa Asociada. Reservados todos los derechos. Este material no puede publicarse, transmitirse, reescribirse ni redistribuirse sin permiso.