Usuario de ChatGPT en China detenido por crear y difundir noticias falsas, dice la policía

La policía china dijo que recientemente detuvo a un usuario de ChatGPT por supuestamente usar el chatbot impulsado por IA para crear una noticia falsa sobre un accidente de tren inexistente. Es una de las primeras acciones de cumplimiento bajo una ley china promulgada recientemente que regula las «falsificaciones profundas» generadas por IA: imágenes digitales, videos u otros medios aparentemente realistas pero fabricados.

De acuerdo a un reporte policial de la provincia de Gansu, en el noroeste de China, un hombre identificado solo por su apellido, Hong, usó ChatGPT para crear un artículo de noticias falsas sobre un accidente que supuestamente provocó la muerte de nueve trabajadores de la construcción en Gansu. Veintiún cuentas en una popular plataforma social, todas propiedad de una empresa de medios con sede en el sur de China, difundieron la historia falsa en un corto período de tiempo.

Como la mayoría de los sitios web y aplicaciones extranjeros, ChatGPT técnicamente no está disponible en China gracias al «Gran Cortafuegos» del país, que censura Internet para los residentes. Pero las personas determinadas pueden obtener acceso a través del software de «red privada virtual» comúnmente disponible que pasa por alto el firewall. El informe policial no describió cómo Hong logró usar ChatGPT.

Cuando los funcionarios de seguridad de Gansu se dieron cuenta de que el artículo era falso, había recibido 15.000 visitas, según el informe. Posteriormente, la policía allanó la residencia de Hong para recopilar pruebas y luego tomó «medidas coercitivas criminales» contra el propio Hong. La policía usa esa frase para describir medidas temporales para limitar la libertad de un sospechoso.

La nueva ley china de deepfake entró en vigor el 10 de enero. Prohíbe varias categorías de medios falsos producidos por «tecnologías de síntesis profunda», como el aprendizaje automático y la realidad virtual, pero solo ofrece definiciones vagas para muchas de estas clases prohibidas.

De acuerdo con una traducción de la ley proporcionada por el sitio colaborativo Traducir Ley de China, prohíbe las falsificaciones profundas utilizadas en actividades que pongan en peligro la seguridad nacional, dañen la imagen de la nación o el interés público de la sociedad, o alteren el «orden económico o social». Prohíbe específicamente el uso de tales tecnologías para producir, publicar o transmitir noticias falsas.

© 2023 Prensa Asociada. Reservados todos los derechos. Este material no puede ser publicado, transmitido, reescrito o redistribuido sin permiso.