El nuevo kit de herramientas tiene como objetivo ayudar a los equipos a crear experiencias responsables de inteligencia artificial humana – AI for Business

Microsoft ha lanzado el Kit de herramientas Human-AI eXperience (HAX), un conjunto de herramientas prácticas para ayudar a los equipos a crear estratégicamente e implementar de manera responsable las mejores prácticas al crear tecnologías de inteligencia artificial que interactúan con las personas.

El kit de herramientas viene a medida que los productos y servicios infundidos con inteligencia artificial, como asistentes virtuales, planificadores de rutas, autocompletar, recomendaciones y recordatorios, se están volviendo cada vez más populares y útiles para muchas personas. Pero estas aplicaciones tienen el potencial de hacer cosas que no son útiles, como malinterpretar un comando de voz o malinterpretar una imagen. En algunos casos, los sistemas de inteligencia artificial pueden demostrar comportamientos disruptivos o incluso causar daños.

Estos resultados negativos son una de las razones por las que los desarrolladores de IA han impulsado una guía responsable de la IA. El apoyo a las prácticas responsables se ha centrado tradicionalmente en mejorar los algoritmos y modelos, pero existe una necesidad crítica de hacer que los recursos de IA responsable también sean accesibles para los profesionales que diseñan las aplicaciones que utilizan las personas. El kit de herramientas HAX proporciona herramientas prácticas que traducen el conocimiento de la interacción humano-IA en una guía práctica.

«El ser humano centrado en realidad se trata de garantizar que lo que construimos y cómo lo construimos comienza y termina teniendo en cuenta a las personas», dijo Saleema Amershi, gerente principal de investigación senior de Microsoft Research. «Comenzamos el kit de herramientas HAX para ayudar a los creadores de IA a adoptar este enfoque al crear tecnologías de IA».

Actualmente, el conjunto de herramientas consta de cuatro componentes diseñados para ayudar a los equipos a lo largo del proceso de diseño del usuario, desde la planificación hasta las pruebas:

• La Directrices para la interacción humano-IA Proporcionar las mejores prácticas sobre cómo las aplicaciones de IA deben interactuar con las personas.
• La Libro de trabajo HAX ayuda a los equipos a priorizar las pautas y planificar el tiempo y los recursos necesarios para abordar los elementos de alta prioridad.
• La Patrones de diseño HAX ofrecen soluciones flexibles para abordar problemas comunes que surgen al diseñar sistemas de inteligencia artificial humana. La Biblioteca de diseño HAX es una base de datos de búsqueda de patrones de diseño y ejemplos de implementación.
• Los equipos pueden utilizar Libro de jugadas HAX para identificar y planificar errores imprevistos, como un error de transcripción o un falso positivo.

Humanos colaborando para construir una mejor IA

La idea de HAX Toolkit evolucionó a partir del conjunto de 18 pautas, que se basan en más de 20 años de investigación y se publicaron inicialmente en un 2019 papel CHI. A medida que el equipo comenzó a compartir esas pautas, se dieron cuenta de que las herramientas adicionales podrían ayudar a los equipos multidisciplinarios a planificar e implementar sistemas de IA que se alinearan con los principios reflejados en las pautas.

El libro de trabajo surgió porque muchos equipos no estaban exactamente seguros de cómo incorporar las pautas en su flujo de trabajo lo suficientemente temprano como para tener un impacto real. Su objetivo es aportar claridad cuando los equipos «tienen una idea sobre una característica o producto, pero no la han definido completamente», dijo Mihaela Vorvoreanu, directora de UX Research y Responsible AI (RAI) Education para Microsoft’s AI Ethics and Effects in Engineering and Research (Aether), que colaboró ​​con Microsoft Research para crear el kit de herramientas.

Lo más importante, dijo Vovoreanu, el libro de trabajo debe ser utilizado por un equipo multidisciplinario, incluidos científicos de datos, ingenieros, equipos de productos, diseñadores y otros que trabajarán en un proyecto.

“Necesitan estar juntos para tener esta conversación”, dijo Vorvoreanu, quien junto con Amershi lidera el proyecto HAX Toolkit. «El libro de trabajo le brinda un vocabulario común para que las diferentes disciplinas se comuniquen entre sí, de modo que puedan comunicarse, colaborar y crear cosas juntos».

Eso fue ciertamente cierto para Priscila Angulo López, científica de datos senior del equipo de Inteligencia y Datos de Seguridad y Empresariales de Microsoft, quien dijo: “El libro de trabajo fue la única sesión en la que todas las disciplinas se reunieron para discutir el modelo de aprendizaje automático. Nos dio un marco único de vocabulario para discutir estos problemas. Fue uno de los mejores usos de nuestro tiempo «.

En esa sesión, el equipo descubrió colectivamente un punto ciego (se dieron cuenta de que una solución que tenían implementada no resolvería en la práctica el problema que se suponía que debía resolver para el usuario) y, por lo tanto, pudieron ahorrar mucho tiempo y recursos.

Justin Wagle, director de ciencia de datos principal de Modern Life Experiences, puso a prueba el libro de trabajo para una función llamada Búsqueda marcada en la aplicación Protección infantil. Dijo que ayudó al equipo a pensar en el impacto ético y sociotécnico.

“Nos ayudó a todos (ciencia de datos, producto y diseño) a colaborar de una manera que nos abstrajo de todos los aspectos técnicos de la implementación del aprendizaje automático”, dijo. «Podemos hablar de estas cosas muy técnicas, pero todo se reduce a lo que eso significa para el usuario».

Dijo que el libro de trabajo también ayudó al equipo a articular mejor al consumidor exactamente cómo funciona el sistema, así como a descubrir dónde puede fallar el sistema y cómo mitigarlo. Ahora es parte del proceso de cada proyecto de su equipo.

La orientación específica y las herramientas prácticas ayudan a los equipos ahora

El equipo de HAX se propuso diferenciarse de los recursos de interacción humano-IA existentes que se inclinan hacia los tutoriales. El kit de herramientas brinda a los equipos pautas específicas, así como herramientas prácticas que pueden comenzar a usar ahora y durante todo el ciclo de vida del desarrollo.

Por ejemplo, las pautas se dividen en cuatro grupos, en función de cuándo son más relevantes para una interacción con un sistema de IA: inicialmente; durante la interacción; cuando el sistema de inteligencia artificial hace algo mal y necesita ser redirigido; y con el tiempo.

En el grupo de pautas “Inicialmente”, hay dos: 1) Deje en claro lo que el sistema puede hacer y 2) Deje en claro qué tan bien puede hacerlo el sistema.

Julie Stanford, profesora del programa de informática en la Universidad de Stanford y directora de una empresa de diseño, utilizó estas dos pautas para comunicarse claramente con un cliente, basándose en los datos que su empresa había recopilado. Resulta que los usuarios del producto del cliente esperaban que el producto aprendiera de sus errores, algo para lo que el producto no estaba programado.

En el caso del cliente de Stanford, una propaganda introductoria podría ser una forma de ayudar a los usuarios a comprender mejor las capacidades del producto. Una propaganda introductoria es uno de varios patrones de diseño que se pueden utilizar para implementar la Directriz 1. El conjunto de herramientas tiene 33 patrones de diseño para ocho de las 18 directrices.

Los patrones de diseño brindan soluciones comprobadas a problemas específicos, de modo que las personas no tienen que «reinventar la rueda y tratar de crear sus propios procesos», dijo Amershi.

“Así es como trabajamos generalmente. Adoptamos un enfoque centrado en el ser humano para las herramientas que estamos creando nosotros mismos. Preguntamos ¿con qué está luchando más la gente? ¿Qué desbloqueará a las personas más rápido? ¿Qué tendrá el mayor impacto? «

La biblioteca de diseño HAX contiene los patrones, así como ejemplos específicos de cómo otros han implementado esos patrones. Se puede filtrar por pauta, categoría de producto y tipo de aplicación.

“Pedimos a las personas que envíen ejemplos y patrones”, dijo Vorvoreanu. «Esperamos que esta biblioteca de diseño se convierta en una biblioteca comunitaria donde la gente siga contribuyendo y agregando ejemplos».

La herramienta final en el juego de herramientas, el libro de jugadas, ayuda a los equipos a anticipar lo que podría salir mal con un sistema de IA al generar escenarios que son más comunes, basados ​​en un tipo de diseño. Por ejemplo, algunos de los errores más comunes encontrados por una función de búsqueda impulsada por IA que usa el habla como entrada serían problemas de transcripción o ruido de fondo.

“Puede ser difícil saber cuándo puede fallar hasta que se encuentra con una situación de falla”, dijo Vorvoreanu. «El libro de jugadas ayuda a un equipo a explorar de manera proactiva y sistemática qué tipos de fallas pueden ocurrir».

Las aplicaciones flexibles fomentan las mejoras continuas

Stanford se enteró de las pautas durante una charla que dio Amershi en la Universidad de Stanford. Desde entonces, los ha incorporado a su curso de Diseño para IA.

“Sentí que las pautas eran tan sólidas y reflexivas que las convertiría en una piedra angular de la parte de diseño de la interfaz de usuario de esa clase”, dijo.

En la primera parte del curso, los estudiantes observan experiencias comparativas de IA en línea y luego las evalúan según las pautas. Más tarde, utilizan las pautas para diseñar una adición de IA para un proyecto existente. Los estudiantes priorizan qué pautas son más relevantes para su proyecto.

Stanford dijo que las pautas les dieron a los estudiantes un lenguaje común y les ayudaron a ver problemas que tal vez no hayan notado en las experiencias de IA que tienen todos los días. Y cuando llegó el momento de calificar el trabajo de diseño de los estudiantes, Stanford tenía una forma integral y justa de medir si habían alcanzado sus objetivos.

“Es una herramienta realmente flexible tanto para enseñar como para practicar el diseño”, dijo.

El equipo de HAX anima a los usuarios a compartir sus comentarios sobre el Contáctanos página y envíe ejemplos a la biblioteca de diseño HAX, para que la comunidad HAX pueda aprender junta.

“Esperamos que este sea un recurso confiable al que las personas puedan acudir para encontrar herramientas durante todo el proceso”, dijo Amershi. «Continuaremos actualizando y creando nuevas herramientas a medida que seguimos aprendiendo y trabajando en este espacio».

Explore las herramientas visitando el Sitio web de HAX Toolkit.

Para obtener más información sobre el kit de herramientas HAX, únase a Amershi y Vorvoreanu en un seminario web el 21 de julio a las 10 am PT. Regístrese para el webinar.

Relacionados: