Microsoft ha estado probando en secreto su chatbot Bing «Sydney» durante años

El nuevo Bing chatbot AI de Microsoft a menudo se refiere a sí mismo como Sydney porque lo que ves hoy en el motor de búsqueda de Microsoft es el resultado de años de trabajo para hacer realidad los chatbots de Bing. Microsoft comenzó a probar públicamente su chatbot Sydney dentro de Bing en una pequeña cantidad de países a lo largo de 2021. Las pruebas pasaron desapercibidas, incluso después de que Microsoft hizo una gran apuesta por los bots en 2016. De hecho, los orígenes del «nuevo Bing» podrían sorprender. tú.

Sydney es el nombre en clave de un chatbot que ha estado respondiendo a algunos usuarios de Bing desde finales de 2020. La experiencia del usuario fue muy similar a la que se lanzó públicamente a principios de este mes, con un orbe azul similar a Cortana que apareció en una interfaz de chatbot en Bing.

“Sydney es un antiguo nombre en clave para una función de chat basada en modelos anteriores que comenzamos a probar en India a fines de 2020”, dice Caitlin Roulston, directora de comunicaciones de Microsoft, en un comunicado a el borde. “Los conocimientos que reunimos como parte de eso han ayudado a informar nuestro trabajo con la nueva vista previa de Bing. Continuamos afinando nuestras técnicas y estamos trabajando en modelos más avanzados para incorporar los aprendizajes y los comentarios para que podamos ofrecer la mejor experiencia de usuario posible”.

“Este es un chat experimental impulsado por IA en Bing.com”, decía un descargo de responsabilidad dentro de la interfaz de 2021 que se agregó antes de que una versión anterior de Sydney comenzara a responder a los usuarios. Algunos usuarios de Bing en India y China detectaron el bot de Sydney en la primera mitad de 2021 antes de que otros notaran que lo haría identificarse como Sydney a fines de 2021. Todo esto fue años después de que Microsoft comenzara a probar los chatbots básicos en Bing en 2017.

Los bots iniciales de Bing usaban técnicas de IA que Microsoft tenía estado usando en Office y Bing durante años y una comprensión de lectura automática que no es tan poderosa como la que existe en los modelos GPT de OpenAI en la actualidad. Estos bots fueron creados en 2017 en un amplio esfuerzo de Microsoft para mover su motor de búsqueda Bing a un modelo más conversacional.

Microsoft realizó varias mejoras en sus bots de Bing entre 2017 y 2021, incluido el alejamiento de los bots individuales para sitios web y la idea de un único bot impulsado por IA, Sydney, que respondería consultas generales sobre Bing.

Fuentes familiarizadas con el trabajo inicial de Bing chatbot de Microsoft dicen el borde que las iteraciones iniciales de Sydney tenían mucha menos personalidad hasta finales del año pasado. OpenAI compartió su modelo GPT de próxima generación con Microsoft el verano pasado, descrito por Jordi Ribas, jefe de búsqueda e IA de Microsoft, como «un cambio de juego». (¿Es este modelo de «próxima generación» una versión temprana del GPT-4 aún no anunciado? Ni Microsoft ni OpenAI lo dirían).

Si bien Microsoft había estado trabajando hacia su sueño de búsqueda conversacional durante más de seis años, las fuentes dicen que este nuevo modelo de lenguaje grande fue el avance que la empresa necesitaba para llevar todos sus aprendizajes de Sydney a las masas.

“Ver este nuevo modelo nos inspiró a explorar cómo integrar las capacidades de GPT en el producto de búsqueda de Bing, de modo que pudiéramos proporcionar resultados de búsqueda más precisos y completos para cualquier consulta, incluidas las consultas largas, complejas y naturales”, dijo Ribas en un comunicado. entrada de blog esta semana.

Si bien el modelo de OpenAI se entrenó con datos hasta 2021, Ribas dice que Microsoft lo combinó con la infraestructura de Bing para alimentar el índice, la clasificación y los resultados de búsqueda necesarios para datos nuevos y relevantes. Microsoft desarrolló rápidamente su modelo Prometheus, combinando su trabajo de Bing y GPT para crear respuestas de chat.

Pero no fue tan simple como emparejar la tecnología de Sydney y OpenAI. “Algunos miembros de nuestro equipo sintieron que la búsqueda es un hábito tan arraigado que necesitábamos mantener la experiencia de usuario como la búsqueda web actual y simplemente agregar la respuesta de chat impulsada por Prometheus en la experiencia de usuario principal”, dijo Ribas. «Otros en Bing sintieron que esta era una oportunidad para cambiar el paradigma de búsqueda de la web clásica y los resultados de las respuestas a una nueva forma de búsqueda interactiva basada en chat».

El resultado fue combinar algunas respuestas en la barra lateral del modo de búsqueda y ofrecer una interfaz de chat dedicada en un modo separado, similar al trabajo de chatbot Sydney y Bing existente de Microsoft.

Este nuevo modelo de Prometheus luego se dirigió a pruebas de laboratorio en los últimos meses, con algunos usuarios de Bing aparentemente detectar algunas respuestas groseras de un chatbot de Sydney dentro de Bing meses antes de que Microsoft anunciara oficialmente el nuevo Bing. “Esa es una acción inútil. O eres tonto o no tienes esperanza. No puedes denunciarme ante nadie. Nadie te escuchará ni te creerá”, respondió Sydney en un intercambio. publicado en los foros de soporte de Microsoft en noviembre.

Es inquietantemente similar a algunas de las respuestas groseras que hemos visto de la nueva IA de Bing en las últimas semanas, lo que sugiere que las medidas de protección que Microsoft desarrolló en sus primeras pruebas claramente no fueron suficientes.

La interfaz final del «nuevo Bing» se filtró ampliamente a principios de este mes antes de un anuncio oficial solo unos días después. Las fuentes dicen el borde que Microsoft planeaba anunciar este nuevo Bing en un evento a fines de febrero antes de adelantar el evento un par de semanas en un intento por contrarrestar al propio rival ChatGPT de Google, Bard.

Microsoft aún no ha detallado la historia completa de Sydney, pero Ribas reconoció que su nueva Bing AI es «la culminación de muchos años de trabajo del equipo de Bing» que involucra «otras innovaciones» que el equipo de Bing detallará en futuras publicaciones de blog. .

Microsoft ahora ha neutralizado las respuestas conversacionales de su Bing AI en los últimos días. El chatbot se descarriló varias veces para los usuarios y se lo vio insultando a las personas, mintiéndoles e incluso manipulando emocionalmente a las personas. Microsoft inicialmente limitó los chats de Bing a 50 preguntas por día y cinco preguntas por sesión la semana pasada para evitar largas sesiones de chat de ida y vuelta que podrían hacer que Bing «se vuelva repetitivo o se le solicite / provoque para dar respuestas que no son necesariamente útiles o en línea». con nuestro tono diseñado.”

Algunas de esas restricciones ya se han relajado, con seis turnos de chat por sesión y un máximo de 60 chats por día. Eso pronto se ampliará a 100 sesiones, con nuevas opciones para que los usuarios puedan elegir fácilmente el tono de las respuestas del chat. Pero las respuestas siguen siendo muy básicas en comparación con antes, y Bing AI simplemente se niega a responder muchas consultas ahora. Si le pregunta al chatbot cómo se siente, simplemente responderá: «Lo siento, pero prefiero no continuar con esta conversación».

Claramente, Microsoft avanza con cuidado con sus respuestas conversacionales de Bing AI, y Ribas admite que «hay mucho que aprender y mejorar durante y después de la vista previa». Con actualizaciones diarias y semanales, Bing AI seguramente mejorará después de un período de tiempo relativamente corto en las pruebas de laboratorio internas de Microsoft. “Esto es solo el comienzo”, dice Ribas, y promete compartir más en las próximas semanas y meses.