ByteDance está a punto de aprender una dolorosa lección de genAI

¿Qué tan de cerca fue monitoreado este pasante (y la mayoría de los pasantes necesitan más supervisión que un empleado tradicional)? Si quisiera mantener contentos a los patrocinadores financieros, especialmente cuando ByeDance está bajo la presión de Estados Unidos para vender el altamente lucrativo TikTok, no querría anunciar el hecho de que mi equipo permitió que esto sucediera.

Aún más preocupante es que este interno fue técnicamente capaz hacer esto, independientemente de la supervisión. La lección aquí es una que TI ya conoce, pero está tratando de ignorar: las herramientas de IA generativa (genAI) son imposibles de controlar de manera significativa y las barreras de seguridad son tan fáciles de superar que son una broma.

El enigma con genAI es que la misma libertad y flexibilidad que pueden hacer que la tecnología sea tan útil también hace que sea tan fácil de manipular para hacer cosas malas. Allá son formas de limitar lo que harán las herramientas basadas en LLM. Pero primero, a menudo fracasan. Y dos, la administración de TI a menudo duda en intentar limitar lo que los usuarios finales pueden hacer, por temor a que puedan acabar con cualquiera de las ganancias de productividad prometidas por genAI.