Google prueba un agente de productividad con IA que vive en su bandeja de entrada

Riesgos de confianza y control

El principal riesgo de gobernanza no es el acceso a los datos, sino la combinación de autoridad implícita y registros duraderos. El correo electrónico es donde ocurren las aprobaciones informales, se infiere la intención y el contexto a menudo importa más que la redacción exacta.

Cuando un agente de IA opera en este entorno, sus resultados pueden convertir señales fugaces en artefactos duraderos, influyendo en las decisiones y creando registros que se extienden más allá del intercambio original.

«Los CIO deben tener cuidado con la forma en que estos agentes de IA acceden, procesan, personalizan y comparten información», dijo Shah. «Si un empleado cambia de roles o se va, ¿cómo se protege el conocimiento con todos los protocolos de privacidad establecidos?»

Lo que a menudo toma por sorpresa a las empresas, dijo Gogia, es que la IA no se limita a procesar información sino que crea nuevos artefactos. En muchos casos, esos resúmenes, acciones extraídas, prioridades inferidas y contenido generado pueden persistir más allá del momento en que se crean.