Proteger a los niños de la tecnología inmersiva podría conducir a una censura excesiva

Los intentos de proteger la seguridad de los niños en el mundo bidimensional de las redes sociales en línea podrían tener un impacto negativo en el mundo 3D de la realidad aumentada y virtual, según un informe publicado el martes por un grupo de expertos en tecnología de Washington, DC.

Los esfuerzos legislativos, como la Ley de Privacidad y Seguridad Infantil en Internet (KOPSA), que fue aprobada por el Senado de Estados Unidos y ahora se encuentra ante la Cámara de Representantes, podrían conducir a una censura perjudicial del contenido de AR/VR, sostuvo el informe del Fundación para la Tecnología de la Información y la Innovación.

Si KOPSA se convierte en ley, las plataformas AR/VR pueden verse obligadas a intensificar su aplicación de la misma manera que las plataformas de redes sociales tradicionales, explicó el informe.

Al otorgarle a la FTC la autoridad para considerar que el contenido de estas plataformas es dañino, continuó, la FTC puede censurar excesivamente el contenido de las plataformas AR/VR, o las propias plataformas pueden censurar el contenido para evitar responsabilidad, que podría incluir contenido pertinente a la educación, el entretenimiento y la identidad de los niños.

“Uno de nuestros temores que tenemos con KOPSA es que abre la puerta a una posible censura excesiva al darle a la FTC [Federal Trade Commission] “Tenemos el poder de decidir qué se considera perjudicial”, dijo el autor del informe, el analista de políticas Alex Ambrose.

“Es otra forma en que un partido político decide qué es perjudicial”, dijo a TechNewsWorld. “La FTC podría decir que contenidos como la protección del medio ambiente, el calentamiento global y el cambio climático provocan ansiedad. Por eso, debemos deshacernos por completo de todo lo relacionado con el cambio climático porque podría provocar ansiedad en los niños”.

La censura excesiva se puede evitar

Andy Lulham, director de operaciones de Verificar miun proveedor de verificación de edad y contenido con sede en Londres, reconoció que el espectro de la censura excesiva se cierne sobre las discusiones acerca de la regulación en línea. “Pero creo firmemente que este temor, aunque comprensible, está en gran medida fuera de lugar”, dijo a TechNewsWorld. “Las regulaciones gubernamentales bien diseñadas no son el enemigo de la libertad de expresión, sino más bien su guardián en la era digital”.

Lulham sostuvo que la clave de la regulación reside en el enfoque. “Las regulaciones generales y severas corren el riesgo de inclinar la balanza hacia una censura excesiva”, dijo. “Sin embargo, imagino un marco regulatorio más matizado y basado en principios que pueda mejorar la libertad en línea y al mismo tiempo proteger a los usuarios vulnerables. Hemos visto ejemplos de enfoques tan equilibrados en regulaciones de privacidad como el RGPD”.

El RGPD (Reglamento General de Protección de Datos), vigente desde 2018, es una ley integral de protección de datos en la Unión Europea que regula cómo las empresas recopilan, almacenan y utilizan los datos personales de los residentes de la UE.

“Creo firmemente que las regulaciones deberían centrarse en exigir sistemas y procesos de seguridad sólidos en lugar de dictar decisiones específicas sobre el contenido”, continuó Lulham. “Este enfoque traslada a las plataformas la responsabilidad de desarrollar estrategias integrales de confianza y seguridad, fomentando la innovación en lugar de crear una cultura de miedo y eliminación excesiva”.

Afirmó que la transparencia será el eje de una regulación eficaz. “La exigencia de informes de transparencia detallados puede hacer que las plataformas rindan cuentas sin tener que recurrir a una vigilancia estricta de los contenidos”, explicó. “Esto no solo ayuda a evitar los excesos, sino que también genera confianza pública tanto en las plataformas como en el marco regulatorio”.

“Además”, añadió, “abogo por una normativa que exija procesos de apelación claros y accesibles para las decisiones de eliminación de contenidos. Esta válvula de escape puede ayudar a corregir errores inevitables y evitar una censura injustificada”.

“Los críticos podrían argumentar que cualquier regulación conducirá inevitablemente a cierta censura”, reconoció Lulham. “Sin embargo, sostengo que la mayor amenaza a la libertad de expresión proviene de espacios no regulados donde los usuarios vulnerables son silenciados por el abuso y el acoso. Unas regulaciones bien diseñadas pueden crear un campo de juego más equitativo, amplificando voces diversas que de otro modo podrían quedar ahogadas”.

Lo bueno, lo malo y lo feo de la realidad aumentada y la realidad virtual

El informe de ITIF señaló que las conversaciones sobre seguridad en línea a menudo pasan por alto las tecnologías AR/VR. Las tecnologías inmersivas fomentan la conexión social y estimulan la creatividad y la imaginación, explicó. El juego, la imaginación y la creatividad son fundamentales para el desarrollo de los niños.

Sin embargo, el informe reconoce que abordar adecuadamente los riesgos que enfrentan los niños con las tecnologías inmersivas es un desafío. La mayoría de las tecnologías inmersivas existentes no están diseñadas para niños menores de 13 años, continúa. Los niños exploran espacios diseñados por adultos, lo que conduce a la exposición a contenido inapropiado para su edad y puede generar hábitos y comportamientos dañinos para el desarrollo mental y social de los niños.

Para abordar estos riesgos será necesaria una combinación de innovación de mercado y formulación de políticas bien pensadas, añadió. Las decisiones de diseño de las empresas, las prácticas de moderación de contenidos, las herramientas de control parental y las estrategias de confianza y seguridad darán forma en gran medida al entorno de seguridad en el metaverso.

Sin embargo, reconoció que las intervenciones de política pública son necesarias para abordar ciertas amenazas a la seguridad. Los responsables de las políticas ya están abordando la seguridad de los niños en plataformas «2D» como las redes sociales, lo que conduce a regulaciones que pueden afectar la tecnología AR/VR, señaló ITIF.

Antes de promulgar esas normas, el informe recomendó que los responsables de las políticas consideren los esfuerzos de seguridad que están realizando los desarrolladores de AR/VR y se aseguren de que estas herramientas mantengan su eficacia. Cuando las herramientas de seguridad sean insuficientes, continuó, los responsables de las políticas deberían centrarse en intervenciones específicas para abordar los daños comprobados, no los riesgos hipotéticos.

“La mayoría de los servicios en línea están trabajando para eliminar contenido dañino, pero la gran cantidad de ese contenido en línea significa que una parte inevitablemente se escapará”, dijo Ambrose. “Los problemas que vemos en las plataformas hoy en día, como la incitación a la violencia, el vandalismo y la difusión de contenido dañino y desinformación, solo continuarán en las plataformas inmersivas”.

“El metaverso va a prosperar con cantidades masivas de datos, por lo que podemos asumir que estos problemas serán generalizados, tal vez incluso más generalizados que lo que vemos hoy”, agregó.

Seguridad por diseño

Lulham estuvo de acuerdo con la afirmación del informe de que las decisiones de diseño de las empresas darán forma al entorno de seguridad del metaverso.

“En mi opinión, las decisiones que tomen las empresas en materia de seguridad en línea serán fundamentales para crear un entorno digital seguro para los niños”, afirmó. “El panorama actual está plagado de riesgos y creo que las empresas tienen tanto la responsabilidad como el poder de transformarlo”.

Sostuvo que el diseño de la interfaz de usuario es la primera línea de defensa para proteger a los niños. “Las empresas que priorizan los diseños intuitivos y apropiados para la edad pueden alterar fundamentalmente la forma en que los niños interactúan con las plataformas en línea”, explicó. “Al crear interfaces que guíen naturalmente a los usuarios y los eduquen sobre comportamientos más seguros, podemos reducir significativamente los encuentros dañinos”.

La moderación de contenidos se encuentra en un momento crítico, añadió. “El volumen de contenidos exige un cambio de paradigma en nuestro enfoque”, observó. “Si bien las herramientas impulsadas por IA son esenciales, no son una panacea. Sostengo que el futuro está en un enfoque híbrido, que combine la IA avanzada con la supervisión humana para sortear la delgada línea entre la protección y la censura”.

Las herramientas de control parental suelen pasarse por alto, pero son cruciales, sostuvo. No deberían ser simples complementos, sino funciones básicas diseñadas con la misma atención que la plataforma principal. “Imagino un futuro en el que estas herramientas sean tan intuitivas y efectivas que se conviertan en parte integral de la vida digital familiar”, afirmó.

Sostuvo que las estrategias de confianza y seguridad diferenciarán a las plataformas prósperas de las que están fracasando. “Las empresas que adopten un enfoque holístico, que integre una verificación de edad sólida, un seguimiento en tiempo real y una presentación de informes transparente, establecerán el estándar de oro”, declaró. “La interacción regular con expertos en seguridad infantil y responsables de políticas será innegociable para las empresas que se toman en serio la protección de los usuarios jóvenes”.

“En esencia”, continuó, “veo el futuro de la seguridad en línea para los niños como uno donde la ‘seguridad por diseño’ no es solo una palabra de moda sino el principio fundamental que impulsa todos los aspectos del desarrollo de la plataforma”.

El informe señaló que los niños, como impulsores del metaverso, desempeñan un papel crucial en la adopción por parte del mercado de tecnologías inmersivas.

«Garantizar que la innovación pueda florecer en este campo naciente y al mismo tiempo crear un entorno seguro para todos los usuarios de la tecnología AR/VR será un desafío complejo», reconoció, y agregó que los padres, las corporaciones y los reguladores tienen roles que desempeñar para equilibrar las preocupaciones de privacidad y seguridad mientras crean experiencias inmersivas atractivas e innovadoras.