Aún así, los probadores pudieron evitar esas salvaguardas, lo que llevó a la revista a solicitar estándares más estrictos. «Argumentamos que la naciente industria de clonación de voz debería adoptar normas y estándares para mitigar el riesgo de fraude», Informes de consumo dicho.
Las herramientas de Genai han hecho que clonizar la voz sea una posibilidad, y se utiliza cada vez más para fraude.
Los estafadores usan las herramientas como una forma de ingeniería social para engañar a las víctimas de dinero o para difundir información errónea. En muchos casos, crean audio realista de un pariente o amigo cercano en problemas y engañan a las personas que llaman a enviar fraudulentamente dinero o divulgar información confidencial.