Los desarrolladores de juegos están recurriendo a la IA para luchar contra los idiotas en el chat de voz

Unity Technologies ha anunciado una nueva herramienta para su suite de desarrolladores que utiliza IA para ayudar a los desarrolladores a identificar la toxicidad en los juegos en línea. La nueva herramienta Safe Voice se lanza en versión beta cerrada y tiene como objetivo permitir que los estudios aíslen y revisen los informes de toxicidad rápidamente. Unity dice que la herramienta fue utilizada anteriormente por Rogue Company de Hi-Rez en las primeras pruebas.

Se dice que Safe Voice analiza aspectos como el tono, el volumen, la entonación, la emoción, el tono y el contexto para identificar interacciones tóxicas. Se activa cuando un jugador marca un problema con un comportamiento y luego comienza a monitorear y entrega un informe a los moderadores humanos. Ese panel de información general permitirá a los moderadores revisar incidentes individuales y ver tendencias a lo largo del tiempo para ayudar a sus planes de moderación. Unity también dice que esta es la primera de un conjunto más grande de soluciones de toxicidad que está por venir.

«Es una de las razones principales por las que las personas abandonan un juego y dejan de jugar porque existe una mala situación en torno a la toxicidad y otros elementos de abuso», dijo a GameSpot Mark Whitten, presidente de Create Solutions de Unity.

Estudios Hi-Rez anunció una asociación de Unity para un nuevo sistema de grabación de chat de voz en febrero, cuando emitió la actualización que comenzó a probar la nueva herramienta. En el anuncio de Safe Voice, el productor líder de Rogue Company dijo que la herramienta ha sido útil para identificar y mitigar problemas antes de que se intensifiquen.

En la fase inicial de prueba, Unity estaba probando para asegurarse de que marcaba con precisión los problemas y acortaba el tiempo que los humanos necesitaban para participar. Con ese fin, dijo Whitten, tuvo mucho éxito. Los desarrolladores de juegos que normalmente obtendrían decenas de miles de informes en un período determinado pudieron reducir esos informes rápidamente y priorizar los que tenían más probabilidades de ser problemáticos. Y aunque la automatización ha sido un tema candente en la tecnología últimamente, Whitten dice que esta herramienta está destinada a ayudar a los equipos humanos de moderación.

«Creo que esto es una ganancia de eficiencia y no un escenario de reemplazo», dijo Whitten. «Dicho esto, y dirigí Xbox Live durante muchos años, cualquier día que pudiera reemplazar a un humano que tiene que lidiar con mirar cosas inapropiadas, lo haría felizmente. No es un trabajo divertido, ese no es un trabajo que realmente te gusta». quiere que la gente haga, poniéndolos en medio de mirar un montón de mal comportamiento todo el día. Sería mucho mejor tener pantallas que captaran algo de eso y luego permitirles tomar acciones basadas en las pantallas en lugar de tener que ser el protector mismo».

Después de que ese proceso de selección proporcione datos a los moderadores, los desarrolladores deciden qué acción se debe tomar. Al igual que con la moderación de todos los juegos, depende de los estudios individuales delinear sus políticas y asegurarse de que los castigos sean consistentes. Finalmente, para proteger la privacidad del usuario, los jugadores deberán optar por la grabación de voz por separado de cualquier otro acuerdo de juego en línea.

«Los datos se anonimizan en las bases de datos de Unity», dijo Whitten. «Está conectado a la identidad del jugador en el juego para que pueda tomar medidas de moderación si es necesario, y luego se elimina de los servicios».

Los editores de juegos han estado buscando combatir la toxicidad en línea de varias maneras. Ubisoft les dio a los jugadores una forma de contactar a la policía local, y el año pasado anunció que se asociaría con Riot para investigar un proyecto contra la toxicidad de la IA. Más recientemente, Microsoft anunció que permitiría a los usuarios de Xbox Live compartir clips de voz con los moderadores.