in

Los nuevos códigos de seguridad propuestos por las compañías tecnológicas no protegerán a todos los niños en línea

niño en línea

Crédito: dominio público Unsplash/CC0

En julio del año pasado, la comisionada de Australia, Julie Inman Grant, ordenó a las compañías tecnológicas que desarrollaran códigos de práctica para mantener a los niños a salvo de la pornografía en línea y el contenido dañino. Ahora, después de siete meses, la industria ha presentado borrador de códigos a Esafety para su aprobación.

Esfety está evaluando actualmente el borrador de códigos.

Suponiendo que Grant aprueba los nuevos códigos, ¿cómo podemos esperar que el futuro se vea para niños y adolescentes en línea? ¿Y cuán efectivos serán los códigos propuestos para proteger a los niños?

Un enfoque coordinado

Los códigos presentados para su aprobación fueron desarrollados por un Grupo de asociaciones de la industria.

Cubren plataformas de redes sociales como Facebook y Snapchat. Pero también cubren proveedores de servicios de Internet, motores de búsqueda como Google, servicios de mensajería en línea como WhatsApp, plataformas de juegos en línea, así como los fabricantes de computadoras, teléfonos móviles y software que utilizamos para acceder a los servicios en línea.

Los códigos también cubrirán tiendas de aplicaciones en línea como las operadas por Apple y Google. Sin embargo, no se espera que los códigos de la tienda de aplicaciones sean lanzados hasta finales de marzo.

Además de cubrir una variedad de empresas, los códigos también cubren una variedad de daños. Su objetivo es proteger a los niños no solo de la pornografía en línea sino también el contenido que promueve la autolesión, los trastornos alimentarios, el suicidio y la violencia.

Dada la dificultad de proteger a los niños de este tipo de contenido, este enfoque coordinado es absolutamente esencial.

Si se aprueban los códigos borradores, las empresas habrán seis meses para implementar las medidas de seguridad propuestas. Se enfrentarán a multas de hasta $ 50 millones por incumplimiento.

¿Qué hay en la tienda?

Los borradores de códigos se dividen en diferentes partes del ecosistema tecnológico. Los requisitos que colocan en las plataformas tecnológicas individuales dependen del contenido dañino del peligro de cada plataforma para los niños.

Es probable que grandes plataformas de redes sociales como Facebook, Instagram y X (anteriormente Twitter) se clasifiquen entre las más peligrosas. Esto se debe a que es posible que los usuarios accedan a contenido extremadamente dañino, como el abuso sexual infantil o el material terrorista en estas plataformas. Además, estas plataformas sirven a millones de personas y también permiten a los usuarios crear perfiles públicos, mantener las listas de «amigos» y compartir ampliamente contenido.

Según los códigos borradores, estas plataformas deberán implementar las medidas de seguridad más estrictas. Estos incluyen el uso de medidas de garantía de edad para evitar que los niños por debajo de la edad mínima se permitan acceder al servicio a hacerlo, tener un recursos adecuados Confianza y seguridad Equipo, y utilizando sistemas automatizados para detectar y eliminar el abuso infantil y el material pro-terror.

Por otro lado, las plataformas menos riesgosas no estarán sujetas a ningún requisito bajo los códigos borradores. Estos incluyen plataformas en línea que permiten solo una comunicación limitada dentro de un grupo específico de personas y sin características de redes sociales, como listas de amigos y perfiles públicos. Plataformas para la comunicación dentro de una escuela primaria como Brújula estaría entre los menos riesgosos.

Los motores de búsqueda en línea como Google y Bing, que brindan acceso al contenido de adultos y autolesión, pero que son utilizados legítimamente por los niños, deberán implementar las medidas apropiadas para evitar que los niños accedan a ese contenido.

Esto puede incluir habilitar características de búsqueda segura y establecer cuentas de usuario infantil. Estas cuentas incluirían características que difuminan automáticamente el contenido dañino y filtran dicho contenido de los resultados de búsqueda y los algoritmos de recomendación

Los códigos también cubren la tecnología dañina emergente, como las aplicaciones porno de Deepfake impulsadas por la inteligencia artificial generativa. Al igual que los sitios de pornografía tradicionales, se requerirá que implementen tecnología de garantía de edad para evitar que los niños usen estos servicios.

¿Qué pasa con la seguridad de la edad?

Los códigos específicamente definir Qué medidas de garantía de edad se consideran «apropiadas».

Es importante destacar que, solo porque se puede pasar un sistema de verificación de edad, no lo descalifica. En cambio, las medidas de garantía de la edad deben incluir «pasos razonables» para garantizar que alguien sea mayor de edad, mientras se equilibra preocupaciones de privacidad.

Exigir a los usuarios que se autodesactaran su edad no es apropiado. Así que espere ver que los sitios porno se eliminen con los diálogos de clics pidiendo a los visitantes que declaren que son realmente adultos.

En cambio, los sitios tendrán una variedad de opciones para asegurar las edades de sus usuarios, incluida la identificación con foto, estimar la edad basada en imágenes faciales o videos, tener un padre que atestigua la edad de un niño, aprovechar las verificaciones de tarjetas de crédito o métodos basados ​​en IA para la inferencia de edad.

Es probable que diferentes medidas sean utilizadas por diferentes compañías y sistemas.

Por ejemplo, Apple ya ha anunciado una gama de Nuevas medidas de seguridad para niños que parecen alinearse con muchas partes de los códigos de borrador. Estos incluyen facilitar que los padres establezcan características de seguridad infantil en los iPads y iPhones de los niños, utilizando la información de pago de un padre para garantizar que puedan dar fe de la edad de sus hijos, así como la integración de las características de seguridad infantil de la tienda de aplicaciones para permitir a los desarrolladores de aplicaciones que sus aplicaciones sean más seguros para los niños.

Por otro lado, es probable que los sitios y aplicaciones para adultos adopten mecanismos de garantía de edad que los usuarios perciban que son más privados. Para pagar a los suscriptores, es probable que aprovechen la información crediticia ya almacenada para asegurar la edad de los usuarios.

En su lugar, los no suscriptores se pueden requerir que se sometan a una exploración facial u otros métodos basados ​​en IA para estimar su edad.

Datos disponibles públicamente En los sistemas de vanguardia para la estimación de edad de las imágenes faciales sugiere que los mejores sistemas tienen un error promedio de 3.7 años.

Queda por ver si ESAFETY estará de acuerdo en que tal tecnología es «apropiada». Sin embargo, si se adopta, existe un riesgo real, muchos adolescentes seguirán capaces de acceder a la pornografía en línea y a las aplicaciones dañinas de Deepfake a pesar de estos nuevos códigos.

Proporcionado por la conversación


Este artículo se republicó de La conversación bajo una licencia Creative Commons. Leer el artículo original.La conversación

Citación: Los nuevos códigos de seguridad propuestos por las compañías de tecnología no protegerán a todos los niños en línea (2025, 4 de marzo) Consultado el 4 de marzo de 2025 de https://techxplore.com/news/2025-03-tech-companies-safety-codes-wont.html

Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.



Fuente

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

GIPHY App Key not set. Please check settings

65525

Una pantalla de Windows que muestra un Windows con un gráfico de una computadora y un titular

Cómo reflejar su teléfono Samsung en Windows

Monster Hunter Wilds es tan popular que causó una carrera en un plato inesperado en Japón

Monster Hunter Wilds es tan popular que causó una carrera en un plato inesperado en Japón