Editor Top
El sesenta y seis por ciento de las empresas de todo el mundo dijeron que invertirían en genAI durante los próximos 18 meses. según una investigación del IDC. Entre las organizaciones que indican que aumentarán el gasto en TI para genAI en 2024, la infraestructura representará el 46% del gasto total.
El problema: una pieza clave de hardware necesaria para construir esa infraestructura de IA escasea. Si bien las GPU tienen una gran demanda para ejecutar los modelos de lenguajes grandes (LLM) más masivos detrás de genAI, el mercado todavía necesita chips de memoria de alto rendimiento para aplicaciones de IA. El mercado está ajustado para ambos, por ahora.
Las GPU utilizadas para tareas de capacitación e inferencia en LLM pueden consumir grandes cantidades de ciclos de procesador y ser costosas de usar. Los modelos más pequeños y más centrados en la industria o los negocios a menudo pueden proporcionar mejores resultados adaptados a las necesidades del negocio y pueden usar procesadores x86 comunes con NPU.
«Si bien gran parte de la atención se centra en el uso de GPU de alto rendimiento para nuevas cargas de trabajo de IA, los principales hiperescaladores (AWS, Google, Meta y Microsoft) están invirtiendo en el desarrollo de sus propios chips optimizados para IA», dijo Priestley.
Si bien el desarrollo de chips es costoso, el uso de chips diseñados a medida puede mejorar la eficiencia operativa, reducir los costos de brindar servicios basados en IA a los usuarios y reducir los costos para que los usuarios accedan a nuevas aplicaciones basadas en IA, según Priestley.
«A medida que el mercado pasa del desarrollo al despliegue, esperamos que esta tendencia continúe», dijo Priestley.
GIPHY App Key not set. Please check settings