Los senadores estadounidenses piden a Apple y Google que eliminen las aplicaciones X y Grok por la generación de imágenes sexualizadas

en un carta al director ejecutivo de Apple, Tim Cook, y al director ejecutivo de Google, Sundar Pichailos senadores estadounidenses Ron Wyden, Ben Ray Lujan y Edward Markey solicitaron que Apple y Google eliminen las aplicaciones X y Grok de X Corp de sus tiendas de aplicaciones por incidentes recientes de «generación masiva de imágenes sexualizadas no consensuadas de mujeres y niños».

X ha sido criticado durante la semana pasada en medio de informes sobre el uso de las capacidades de generación de imágenes de IA de Grok para crear imágenes que representan a mujeres y niños en bikini o ropa interior. En respuesta, X parece haber reducido la capacidad de Grok para generar imágenes en respuesta a publicaciones X de usuarios que no pagan, pero El borde notas que las herramientas permanezcan disponibles para los suscriptores de pago y a través de la pestaña Grok dedicada en la X y en la aplicación Grok independiente.

Los senadores argumentan que las «representaciones dañinas y probablemente ilegales» violan los términos de las tiendas de aplicaciones de Apple y Google y que las dos compañías deben eliminar las aplicaciones hasta que se aborden las violaciones de las políticas.

. . . Los términos de servicio de Apple prohíben que las aplicaciones incluyan contenido «ofensivo» o «simplemente espeluznante», que bajo cualquier definición debe incluir imágenes sexualizadas de niños y mujeres generadas sin consentimiento. Además, los términos de Apple prohíben explícitamente que las aplicaciones incluyan contenido que sea «[o]»material abiertamente sexual o pornográfico», incluido el material «destinado a estimular sentimientos eróticos en lugar de estéticos o emocionales».

Hacer la vista gorda ante el comportamiento atroz de X sería una burla de sus prácticas de moderación. De hecho, no tomar medidas socavaría sus afirmaciones en público y ante los tribunales de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitirles descargar aplicaciones directamente a sus teléfonos. Este principio ha sido fundamental en su defensa contra las reformas legislativas para aumentar la competencia en las tiendas de aplicaciones y en sus defensas ante las afirmaciones de que sus tiendas de aplicaciones abusan de su poder de mercado a través de sus sistemas de pago.

Los senadores solicitan una respuesta por escrito a su carta antes del 23 de enero.

Nota: Debido a la naturaleza política o social de la discusión sobre este tema, el hilo de discusión se encuentra en nuestra Noticias políticas foro. Todos los miembros del foro y visitantes del sitio pueden leer y seguir el hilo, pero las publicaciones están limitadas a miembros del foro con al menos 100 publicaciones.