Editor Top
«Si usted, como CIO, no está hablando con sus operaciones e equipos de instalaciones sobre pronosticar los requisitos de potencia versus la disponibilidad de potencia, comience de inmediato», dijo «, dijo Matt KimballVP/Analista Principal para Moor Insights & Strategy. «Habiendo vivido en el mundo de TI, soy muy consciente de cuán separadas pueden estar estas organizaciones, donde la potencia es solo una línea de pedido con un presupuesto y nada más. Hable con el equipo que administra la potencia, el enfriamiento y la infraestructura de centros de datos, desde el estante, para comprender mejor cómo usar estos recursos de manera más eficiente».
No es solo la capacidad informática lo que contribuye al costo de la IA: también necesita reexaminar las operaciones de almacenamiento existentes, dijo Kimball.
«Echaría un vistazo largo a mi infraestructura de almacenamiento y cómo optimizar mejor y apagar a Prem. La infraestructura que poblando la mayoría de los centros de datos empresariales está desactualizado y subutilizado. Mudarse a los servidores que tienen las CPU más recientes y densamente pobladas es un primer comienzo», dijo. «Mover el almacenamiento en los medios giratorios a todos los flash tiene un costo más alto en el frente, pero es mucho más eficiente y perfilante energéticamente. Es fácil comprar en las fábricas NVIDIA B300 o AMD MI355X. O las fábricas de Dell, HPE o Lenovo AI. Pero se requiere esto mucho más ai que se requiere para su AI y aceleradas. Mucho más asequible y aproximadamente el 40% del consumo de energía en comparación con un B300 «.
