Australia está presionando a las grandes empresas tecnológicas para que «protejan a los niños de la pornografía». ¿Qué pueden hacer realmente?

Comisionado de seguridad electrónica de Australia ha anunciado Ella ha dado a las principales plataformas tecnológicas seis meses para desarrollar códigos ejecutables para proteger a los niños de la pornografía en línea y otros contenidos de «alto impacto» como la autolesión.

Esto sigue a anuncios recientes de que el gobierno federal está probando una tecnología de «garantía de edad» para evitar que los niños accedan a pornografía en línea.

Los padres de niños en edad escolar son muy conscientes de por qué son necesarios tales esfuerzos. Investigación del propio comisario indica que la edad promedio en que los niños se encuentran con pornografía en línea es de 13 años. Algunos la encuentran por accidente mucho más jóvenes.

La verificación de la edad es un problema técnico increíblemente complejo, especialmente para el acceso de los adultos a contenido pornográfico. En la actualidad, los métodos de verificación de la edad más confiables son las identidades emitidas por el gobierno (ya sean físicas o digitales). Sin embargo, pocas personas estarían dispuestas a revelar sus hábitos pornográficos al gobierno.

¿Qué podrían implementar plataformas tecnológicas como Google, Apple y Meta? Veamos las opciones.

¿Que hay en la mesa?

Aunque las predicciones siempre son arriesgadas, podemos extraer algunas pistas sobre lo que el comisionado tiene en mente. Los códigos están destinados a aplicarse de manera amplia y no se limitan solo a los sitios de pornografía o plataformas de redes sociales como Instagram y Snapchat.

En cambio, el comisionado prevé códigos que cubran todo el ecosistema en línea. Las aplicaciones y las tiendas de aplicaciones, los sitios web (ya sean pornográficos o de otro tipo) y los motores de búsqueda como Google están cubiertos. También los proveedores de servicios y equipos que impulsan las plataformas en línea y construyen teléfonos inteligentes y otros dispositivos.

Por último, los códigos también están configurados para cubrir la mensajería instantánea y el chat, e incluso los juegos multijugador y los servicios de citas en línea.

Un acompañamiento Informe de discusión Se detallan los tipos de medidas que se están considerando. Entre ellas se incluyen cuestiones que serían relativamente sencillas de implementar, como garantizar que los motores de búsqueda como Google tengan activadas de forma predeterminada las funciones de Búsqueda segura. Estas filtran el contenido que puede ser inapropiado para que lo vean los niños y no aparece en los resultados de búsqueda.

Los controles parentales, que ya existen en diversas formas, también están en el ámbito de aplicación. Sin embargo, el objetivo parece ser evitar un modelo de «inclusión voluntaria» en el que los padres tengan que hacer todo el trabajo pesado. (Cualquiera que haya configurado Screen Time en un iPhone para limitar el uso del teléfono inteligente por parte de su hijo sabe lo engorroso que puede ser esto).

Por supuesto, la tecnología de verificación de la edad también está en el ámbito de aplicación. Los códigos se desarrollarán en paralelo con el ensayo de tecnología de verificación de la edad que está llevando a cabo el gobierno. La verificación de la edad abarca métodos como el reconocimiento facial para estimar la edad de una persona, así como métodos para verificar la edad de una persona, como las identificaciones digitales emitidas por el gobierno.

Sin embargo, ya sabemos que muchas de las tecnologías de control de edad existentes no pueden regular de forma viable el acceso a la pornografía. La tecnología basada en el reconocimiento facial es inherentemente poco fiable e insegura.

Y tener que mostrar su identidad digital emitida por el gobierno (como su MyGovID) para registrarse para acceder a contenido para adultos plantea un riesgo significativo. preocupaciones sobre la privacidad.

¿Cómo podría funcionar esto en el futuro?

El documento de debate reconoce la necesidad de equilibrar cuidadosamente las preocupaciones sobre seguridad y privacidad en línea. Señala que la tecnología de verificación de la edad debería proteger la privacidad de las personas y, al mismo tiempo, minimizar la cantidad de datos que se deben recopilar sobre ellas.

Leyendo entre líneas, lo que el regulador en línea parece estar buscando es un enfoque holístico en el que los fabricantes de teléfonos inteligentes y empresas como Google y Apple (que administran las principales tiendas de aplicaciones) trabajen juntos con plataformas en línea como Meta (propietaria de Facebook e Instagram).

Se trata de otra gran exigencia para un organismo regulador australiano relativamente pequeño, pero puede que valga la pena intentarlo.

Tendremos que esperar a que los códigos reales salgan a la luz en diciembre. Sin embargo, basándonos en la tecnología disponible actualmente, una forma especulativa en que todo esto podría suceder es la siguiente.

Imagina que acabas de comprar un nuevo teléfono inteligente para tu hijo. Al configurar el teléfono, te preguntan si deseas activar las funciones de seguridad para niños.

Estas funciones podrían incluir cosas como tener la Búsqueda Segura activada de forma predeterminada en el teléfono, además de bloquear el acceso a sitios pornográficos. Las tiendas de aplicaciones ya incluyen clasificaciones por edad para sus aplicaciones, por lo que en este escenario el teléfono podría negarse a instalar aplicaciones inapropiadas para esa edad.

Otras funciones de seguridad para niños podrían incluir que el teléfono escanee automáticamente las imágenes que se muestran en las aplicaciones (ya sea Instagram, WhatsApp o Snapchat) para detectar aquellas que parezcan contener desnudos o contenido de alto impacto. El teléfono podría entonces configurarse para que muestre una advertencia al hacer clic, o para que desenfoque o se niegue a mostrar esas imágenes. Esas mismas protecciones también podrían aplicarse a las fotos tomadas con la cámara del teléfono.

Sin embargo, ningún sistema de detección es perfecto y los clasificadores automáticos de contenido se utilizan rutinariamente. No se puede detectar contenido inseguro o falsamente Marcar contenido inocuo como inseguro.

Si las plataformas implementan este tipo de filtrado, tendrán que afrontar decisiones difíciles, entre ellas equilibrar el derecho de los padres a controlar la exposición de sus hijos a contenidos dañinos y el derecho del niño a acceder a materiales de educación sexual de alta calidad.

¿Pueden los gigantes tecnológicos trabajar juntos?

Para que todo esto funcione, la cuenta de Apple o Google que se utilice para descargar aplicaciones debería estar integrada con esas funciones de seguridad para niños. De esa manera, si un niño descarga el navegador Google Chrome en su iPhone, Chrome podría recibir instrucciones de activar la Búsqueda segura o bloquear el acceso a sitios pornográficos.

Este esquema tiene la ventaja de que no requiere tecnología falible de estimación de edad, ni identificación digital estricta, ni vigilancia que invada la privacidad.

Sin embargo, sería necesario que las empresas tecnológicas trabajaran juntas para implementar un conjunto integrado y exhaustivo de medidas de seguridad para mejorar la seguridad infantil en línea.

Este objetivo es loable y bien podría alcanzarse, pero aún queda por ver si se podrá lograr en tan solo seis meses.

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Lea el artículo original.