Proteger a los niños en el metaverso: es fácil culpar a las grandes tecnologías, pero todos tenemos un papel que desempeñar

En una reciente Investigación de noticias de la BBC, una reportera que se hacía pasar por una niña de 13 años en una aplicación de realidad virtual (VR) estuvo expuesta a contenido sexual, insultos racistas y una amenaza de violación. La aplicación en cuestión, VRChat, es una plataforma interactiva donde los usuarios pueden crear «salas» dentro de las cuales las personas interactúan (en forma de avatares). El reportero vio avatares que simulaban sexo y numerosos hombres le hicieron proposiciones.

Los resultados de esta investigación han dado lugar a advertencias de organizaciones benéficas de seguridad infantil, incluida la Sociedad Nacional para la Prevención de la Crueldad contra los Niños (NSPCC) sobre los peligros que enfrentan los niños en el metaverso. los metaverso se refiere a una red de mundos de realidad virtual que Meta (anteriormente Facebook) ha posicionado como una versión futura de Internet, lo que eventualmente nos permitirá participar en contextos educativos, laborales y sociales.

La NSPCC parece culpar y responsabilizar a las empresas de tecnología, argumentando que deben hacer más para salvaguardar la seguridad de los niños en estos espacios en línea. Si bien estoy de acuerdo en que las plataformas podrían estar haciendo más, no pueden abordar este problema por sí solas.

Leyendo sobre la investigación de la BBC, sentí una sensación de deja Vu. Me sorprendió que alguien que trabaja en la protección en línea fuera, para usar las palabras de la NSPCC, «conmocionado» por las experiencias del reportero. Hace diez años, mucho antes de que escucháramos la palabra «metaverso», surgieron historias similares en plataformas que incluyen Club Penguin y Habbo Hotel.

Estas plataformas basadas en avatares, donde los usuarios interactúan en espacios virtuales a través de una función de chat basada en texto, en realidad fueron diseñadas para niños. En ambos casos, los adultos que se hicieron pasar por niños como un medio para investigar fueron expuestos a interacciones sexualmente explícitas.

Las demandas de que las empresas hagan más para prevenir estos incidentes han existido durante mucho tiempo. Estamos atrapados en un ciclo de nueva tecnología, riesgos emergentes y pánico moral. Sin embargo, nada cambia.

es una zona complicada

Hemos visto demandas para que las empresas implementen medidas de verificación de edad para evitar que los jóvenes accedan a servicios inapropiados. Esto ha incluido propuestas para plataformas sociales para exigir la verificación de que el usuario tiene 13 años o más, o para sitios web de pornografía exigir prueba de que el usuario es mayor de 18 años.

Si la verificación de la edad fuera fácil, ya se habría adoptado ampliamente. Si alguien puede pensar en una manera en que todos los niños de 13 años puedan demostrar su edad en línea de manera confiable, sin problemas de privacidad de datos y de una manera que sea fácil de implementar para las plataformas, hay muchas empresas de tecnología que les gustaría hablar con ellos.

En términos de vigilancia de la comunicación que ocurre en estas plataformas, de manera similar, esto no se logrará a través de un algoritmo. La inteligencia artificial no es lo suficientemente inteligente como para interceptar transmisiones de audio en tiempo real y determinar, con precisión, si alguien está siendo ofensivo. Y si bien podría haber cierto margen para la moderación humana, el monitoreo de todos los espacios en línea en tiempo real requeriría una cantidad de recursos imposible.

La realidad es que las plataformas ya brindan muchas herramientas para abordar el acoso y el abuso. El problema es pocas personas son conscientes de ellos, creen que funcionarán o quieren usarlos. VRChat, por ejemplo, proporciona herramientas para bloquear usuarios abusivos y los medios para Reportaloslo que en última instancia podría resultar en la eliminación de la cuenta del usuario.

No todos podemos sentarnos y gritar: «mi hijo se ha molestado por algo en línea, ¿quién va a evitar que esto suceda?» Necesitamos cambiar nuestro enfoque de la noción de «gran tecnología malvada», que realmente no es útil, a ver el papel que también podrían desempeñar otras partes interesadas.

Si los padres van a comprar auriculares VR para sus hijos, deben echar un vistazo a las características de seguridad. A menudo es posible monitorear la actividad haciendo que el joven transmita lo que está en sus auriculares en el televisor familiar u otra pantalla. Los padres también pueden consultar las aplicaciones y los juegos con los que interactúan los jóvenes antes de permitir que sus hijos los usen.

Lo que piensan los jóvenes

He pasado las últimas dos décadas investigando la protección en línea, discutiendo las preocupaciones sobre los daños en línea con los jóvenes y trabajando con una variedad de partes interesadas sobre cómo podemos ayudar mejor a los jóvenes. Rara vez escucho demandas de los propios jóvenes de que el gobierno necesita hacer que las grandes empresas de tecnología se pongan al día.

Sin embargo, solicitan regularmente una mejor educación y apoyo de los adultos para abordar los posibles daños en línea que podrían enfrentar. Por ejemplo, los jóvenes Dinos quieren discusión en el aula con profesores informados que puedan manejar los debates que surjan, ya quienes puedan hacer preguntas sin que les digan «no hagas preguntas así».

Sin embargo, sin una coordinación nacional, puedo simpatizar con cualquier maestro que no desee arriesgarse a quejarse de, por ejemplo, padres indignados, como resultado de la celebración de una discusión sobre temas tan delicados.

Tomo nota del gobierno del Reino Unido Factura de seguridad en líneala legislación que los legisladores afirman que evitará daños en línea, contiene solo dos menciones de la palabra «educación» en 145 páginas.

Todos tenemos un papel que desempeñar en el apoyo a los jóvenes mientras navegan por los espacios en línea. La prevención ha sido el mensaje clave por 15 años, pero este enfoque no está funcionando. Los jóvenes están pidiendo educación, impartida por personas que entienden los problemas. Esto no es algo que las plataformas puedan lograr por sí solas.

---

---

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.