TecTop
El cofundador de la empresa de tecnología de seguimiento manual Leap Motion, David Holz, estableció el laboratorio de investigación Midjourney y causó revuelo con el software de generación de imágenes utilizado para hacer falsificaciones profundas que se han vuelto virales.
El laboratorio de investigación Midjourney ha detenido las pruebas gratuitas de su software de generación de imágenes después de que los usuarios generaran deepfakes realistas, incluido el arresto del expresidente estadounidense Donald Trump y el papa Francisco con una chaqueta acolchada.
Midjourney respondió el jueves a una solicitud de prueba con un mensaje que decía que no se podía proporcionar y que se intentara de nuevo otro día.
Las imágenes creadas con la plataforma de inteligencia artificial, en particular las de Trump y el pontífice que se volvieron virales, han puesto de relieve el laboratorio con sede en San Francisco.
«Debido a una combinación de demanda extraordinaria y abuso de prueba, estamos deshabilitando temporalmente las pruebas gratuitas hasta que implementemos nuestras próximas mejoras en el sistema», dijo el fundador de Midjourney, David Holz, en una publicación esta semana en el canal Discord de la compañía.
El servicio genera imágenes de aspecto realista basadas en indicaciones escritas realizadas por los usuarios.
Se lanzó en modo de prueba a mediados de 2022, con el laboratorio independiente actualizando constantemente el software.
Los usuarios han elogiado una versión recién lanzada de Midjourney por su realismo mejorado en las imágenes producidas.
Además de frenar las nuevas pruebas gratuitas, Midjourney prohibió el uso de ciertas palabras, como «arrestado», para impulsar la creación de imágenes.
El jueves, Midjourney negó una solicitud de AFP para generar una imagen del expresidente siendo arrestado frente a la Trump Tower en Nueva York.
«La palabra ‘arrestado’ está prohibida», decía un mensaje de Midjourney.
«Eludir este filtro para violar nuestras reglas puede resultar en la revocación de su acceso».
El magnate multimillonario y propietario de Twitter, Elon Musk, y una variedad de expertos pidieron el miércoles una pausa en el desarrollo de poderosos sistemas de inteligencia artificial para dar tiempo a asegurarse de que sean seguros.
Una carta abierta, firmada hasta ahora por más de 1000 personas, incluidos Musk y el cofundador de Apple, Steve Wozniak, fue impulsada por el lanzamiento de la plataforma de inteligencia artificial GPT-4 de la firma OpenAI respaldada por Microsoft.
El pionero canadiense de la IA, Yoshua Bengio, quien firmó la carta, advirtió durante una conferencia de prensa virtual en Montreal que «la sociedad no está preparada» para esta poderosa herramienta y sus posibles usos indebidos.
«Reduzcamos la velocidad. Asegurémonos de desarrollar mejores barandas», dijo.
© 2023 AFP
Citación: El generador de IA Midjourney pausa el servicio por un ‘abuso’ de deepfake (30 de marzo de 2023) consultado el 30 de marzo de 2023 en https://techxplore.com/news/2023-03-ai-generator-midjourney-deepfake-abuse.html
Este documento está sujeto a derechos de autor. Aparte de cualquier trato justo con fines de estudio o investigación privados, ninguna parte puede reproducirse sin el permiso por escrito. El contenido se proporciona únicamente con fines informativos.
