Editor Top
«En entornos empresariales dinámicos con cambios frecuentes en la interfaz de usuario, estos agentes corren el riesgo de volverse frágiles a menos que se combinen con una gestión de datos aumentada, reentrenamiento adaptativo y mecanismos de respaldo; por lo tanto, en esta etapa, son más adecuados para flujos de trabajo controlados que para la automatización de misión crítica», dijo Dai.
El rendimiento es sólo una parte de la ecuación. Las empresas también necesitarán controles más estrictos antes de permitir que dichos agentes funcionen sin supervisión en los sistemas internos.
«Estos agentes son convenientes, pero una acción deshonesta podría causar daños», añadió Jain. «Se necesitan marcos de gobernanza sólidos antes de implementarlos a escala».
Sheel dijo que las empresas deberían definir puntos claros de supervisión humana, como cuando surgen «puntos críticos», mantener registros de auditoría para cada acción que realiza el agente, hacer cumplir controles de acceso basados en roles y monitorear el desempeño y los errores continuamente. «También deben incluir una estrategia de corrección para cuando el agente cometa errores o se comporte de manera indeseable, y garantizar que las políticas de cumplimiento, privacidad y gobernanza de datos estén integradas en los flujos de trabajo del agente», agregó Sheel.
