Google y Microsoft están llevando la IA a las aplicaciones de oficina. Cómo podría aumentar la productividad para nosotros y los ciberdelincuentes

Google y Microsoft tienen la misión de eliminar la monotonía de la informática al traer herramientas de IA de próxima generación como complementos a los servicios existentes.

El 16 de marzo, Microsoft anunció pronto se presentará un sistema impulsado por IA llamado Copilot en sus aplicaciones de la suite 365, que incluyen Word, Excel, PowerPoint, Outlook y Teams.

La noticia llegó unos dos días después. Google publicó un blog que explica sus planes para incorporar IA en sus aplicaciones Workspace, como Documentos, Hojas de cálculo, Presentaciones, Meet y Chat.

En conjunto, millones de personas usan estas aplicaciones todos los días. Reforzarlos con IA podría proporcionar un gran aumento de la productividad, siempre que la seguridad no sea una idea de último momento.

El advenimiento de la IA generativa

Hasta hace poco, la IA se utilizaba principalmente para tareas de categorización e identificación, como reconocer una matrícula con una cámara de tráfico.

La IA generativa permite a los usuarios crear nuevo contenido, mediante la aplicación de algoritmos de aprendizaje profundo a big data. ChatGPT y DALL-Eentre otros, ya han conquistado el mundo.

Ahora, Microsoft y Google han encontrado una forma más concreta de llevar la IA generativa a nuestras oficinas y aulas.

Al igual que otras herramientas de IA generativa, Copilot y Workspace AI se basan en modelos de lenguaje grandes (LLM) entrenados en cantidades masivas de datos. A través de este entrenamiento, los sistemas han «aprendido» muchas reglas y patrones que se pueden aplicar a nuevos contenidos y contextos.

Copilot de Microsoft se está probando con solo 20 clientes, con detalles sobre disponibilidad y precios para ser liberado «en los próximos meses».

Copilot se integrará en todas las aplicaciones para ayudar a acelerar las tareas tediosas o repetitivas. Por ejemplo:

• ayudar a los usuarios a escribir, editar y resumir documentos de Word
• convertir ideas o resúmenes en presentaciones completas de PowerPoint
• identificar tendencias de datos en Excel y crear rápidamente visualizaciones
• «sintetice y administre» su bandeja de entrada de Outlook
• proporcionar resúmenes en tiempo real de las reuniones de Teams
• reúna datos de todos los documentos, presentaciones, correo electrónico, calendario, notas y contactos para ayudar a escribir correos electrónicos y resumir chats.

Suponiendo que ejecute estas tareas de manera efectiva, Copilot será una actualización masiva del Asistente de Office original de Microsoft, Clippy.

Workspace AI de Google ofrecerá capacidades similares para suscriptores de pago.

¿Qué hay debajo del capó?

Microsoft describió a Copilot como un «motor de orquestación y procesamiento sofisticado que trabaja detrás de escena para combinar el poder de los LLM, incluido GPT-4 […].»

No sabemos específicamente con qué datos se entrenó GPT-4, solo que se trataba de una gran cantidad de datos tomados de Internet y licenciados, según IA abierta.

Workspace AI de Google se basa en Palmera (Pathways Language Model), que fue entrenado en una combinación de libros, artículos de Wikipedia, artículos de noticias, códigos fuente, páginas web filtradas y conversaciones en redes sociales.

Ambos sistemas están integrados en la infraestructura de nube existente. Esto significa que todos los datos a los que se aplican ya estarán en línea y almacenados en los servidores de la empresa.

Las herramientas se necesita acceso completo al contenido relevante para dar respuestas contextualizadas. Por ejemplo, Copilot no puede destilar un documento de Word de 16 páginas en una página de viñetas sin analizar primero el texto.

Esto plantea la pregunta: ¿se utilizará la información de los usuarios para entrenar los modelos subyacentes?

En relación con este punto, microsoft ha dicho: «Los modelos de lenguaje grande de Copilot no están capacitados en el contenido del cliente o en indicaciones individuales».

Google ha dicho«[…] los datos privados se mantienen privados y no se utilizan en el corpus de entrenamiento del modelo básico más amplio».

Estas declaraciones sugieren que el documento de 16 páginas en sí no se usará para entrenar los algoritmos. Más bien, Copilot y Workspace AI procesarán los datos en tiempo real.

Dada la prisa por desarrollar tales herramientas de IA, puede existir la tentación de entrenar dichas herramientas en datos «reales» específicos del cliente en el futuro. Por ahora, sin embargo, parece que esto se excluye explícitamente.

Problemas de usabilidad

Como muchas personas notaron después del lanzamiento de ChatGPT, las herramientas generativas de inteligencia artificial basadas en texto son propensos a sesgo algorítmico. Estas preocupaciones se extenderán a las nuevas herramientas de Google y Microsoft.

Los resultados de las herramientas de IA generativa pueden estar plagados de inexactitudes y prejuicios. El propio chatbot Bing de Microsoft, que también se ejecuta en GPT-4, llegó bajo fuego a principios de este año por hacer afirmaciones escandalosas.

El sesgo se produce cuando se procesan grandes volúmenes de datos sin una selección o comprensión adecuadas de los datos de entrenamiento y sin una supervisión adecuada de los procesos de entrenamiento.

Por ejemplo, gran parte del contenido en línea está escrito en inglés, lo que probablemente el idioma principal hablada por (principalmente blanco y macho) personas que desarrollan herramientas de IA. Este sesgo subyacente puede influir en el estilo de escritura y las construcciones lingüísticas que entienden y, posteriormente, replican los sistemas impulsados ​​por IA.

Por ahora, es difícil decir exactamente cómo se pueden presentar los problemas de sesgo en Copilot o Workspace AI. A modo de ejemplo, es posible que los sistemas simplemente no funcionen con la misma eficacia para las personas de países que no hablan inglés o con diversos estilos de inglés.

Preocupaciones de seguridad

Una de las principales vulnerabilidades de las herramientas de inteligencia artificial de Microsoft y Google es que podrían facilitar que los ciberdelincuentes desangren a sus víctimas.

Mientras que antes un delincuente necesitaba rastrear cientos de archivos o correos electrónicos para encontrar datos específicos, ahora puede usar funciones asistidas por IA para cotejar y extraer rápidamente lo que necesita.

Además, dado que hasta el momento no hay indicios de que las versiones sin conexión estén disponibles, cualquier persona que desee utilizar estos sistemas deberá cargar el contenido relevante en línea. Los datos cargados en línea corren un mayor riesgo de ser violados que los datos almacenados solo en su computadora o teléfono.

Finalmente, desde una perspectiva de privacidad, no es particularmente inspirador ver aún más vías a través de las cuales las corporaciones más grandes del mundo pueden recopilar y sintetizar nuestros datos.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.