¿Cómo se mejora las estafas de IA?

Por ahora, ya que el correo electrónico de un rico príncipe africano es un fraude. ¿Pero esa es realmente la voz de un amigo en el teléfono que dice que están en problemas?

Lana Swartz, profesora de estudios de medios en la Facultad de Artes y Ciencias de la Universidad de Virginia, estudia la intersección de IA y fraude, y cómo puede protegerse. Recientemente conversó con UVA hoy.

¿Son las estafas de IA algo nuevo? ¿O es AI una herramienta que ha ayudado a los estafadores a tomar estafas comunes a un nuevo nivel?

Ambos. AI automatiza las viejas estafas masivas, correos electrónicos de phishing tradicionales enviados a millones, pero también está democratizando lo que solía ser técnicas de élite.

«Harpoon Phishing» solía significar ataques altamente específicos y personalizados a personas de alto valor como CEO, que requieren equipos de investigadores e ingenieros sociales. Ahora es mucho menos intensivo en recursos ejecutar el mismo tipo de operaciones en personas comunes. La IA se puede utilizar para hacer que la comunicación de estafa sea más efectiva: la traducción del lenguaje más víctima, dirigirse a personas con demencia o niveles de lectura más bajos.

AI también está creando categorías completamente nuevas de estafas como el fraude de identidad sintética, que utiliza caras generadas por IA, historias de fondo e historias de redes sociales para crear personas que nunca existieron, pero tienen huellas digitales completas que pueden pasar la mayoría de los sistemas de verificación.

¿Cuáles son las estafas y el fraude más comunes de AI-AI?

La clonación de voz para «estafas de abuelos» obtiene los titulares, y es importante, pero también estamos viendo «carnicería de cerdo» totalmente acuática, donde los estafadores usan IA para mantener relaciones falsas durante meses. Inicialmente, la víctima de butchering de cerdos ve algo de retorno de la inversión, lo que provoca la víctima para hacer inversiones de criptomonedas cada vez más grandes. Una vez que el «cerdo» está engordado, el estafador toma el dinero.

Incluso sin un enfoque directo para invertir, la IA puede usarse para generar tokens criptográficos falsos con respaldos de celebridades falsos y plataformas comerciales falsas. Sextortion es otra grande, que usa imágenes comprometedoras generadas por IA para chantajear a las víctimas. Cada estafa en la que se te ocurra tiene una aplicación para AI. Hay revisiones de productos falsos generados por IA, publicaciones de trabajo y representantes de servicio al cliente.

¿Qué debe saber la gente sobre las estafas de IA? ¿Cómo pueden protegerse a sí mismos?

Sea escéptico de las solicitudes urgentes de dinero o información personal, especialmente aquellas que involucran llamadas de voz que afirman ser de miembros de la familia en apuros. Verifique las identidades a través de canales independientes antes de tomar medidas. Reduzca la velocidad cuando se enfrente a situaciones de alta presión.

Sea particularmente cauteloso con las oportunidades de inversión que prometen rendimientos rápidos, especialmente cuando provienen de socios románticos, amigos y mentores en línea. No mantenga conversaciones de las plataformas establecidas. Recuerde que las organizaciones legítimas no solicitarán información confidencial a través de llamadas o mensajes no solicitados. En caso de duda, cuelgue y comuníquese directamente con la organización utilizando la información oficial de contacto que encuentre de forma independiente.

Si alguien cae presa de una estafa de IA, ¿qué deben hacer a continuación?

Actuar de inmediato. Póngase en contacto con su banco o procesador de pago. Congele su crédito. Informe al Centro de Quejas de Delitos de Internet del FBI, la Comisión Federal de Comercio y la plataforma donde ocurrió la estafa. Documente y tome capturas de pantalla de todo. Las tarjetas de crédito ofrecen protección mucho mejor que las transferencias de alambre o las criptografía e incluso las tarjetas de débito.

Tenga en cuenta que si la persona que está siendo estafa ha desarrollado una relación con un estafador, es probable que enfrente la manipulación emocional. Desafortunadamente, las estafas de criptomonedas transfronterizas rara vez dan como resultado la recuperación. Cuanto más rápido actúes, mejores serán tus posibilidades. También es importante reducir la vergüenza y el estigma en torno a ser estafado.

Coescribiste un informe sobre cómo la IA ha elevado el fraude. Con avances rápidos de IA y sin escasez de estafadores, ¿qué te mantiene despierto por la noche?

La pura complejidad de lo que estamos tratando. Esto no es solo un problema tecnológico o un problema regulatorio o un problema educativo; Son todos esos simultáneamente. Es un problema con el alcance global. Muchas estafas son perpetradas por víctimas de trata de personas en lugares con gobernanza estatal fallida.

Por el lado de los Estados Unidos, todo está sucediendo en un contexto de confianza reducida en instituciones e incertidumbre económica. Cada vez más personas enfrentan precaridad y se encuentran utilizando canales informales y tomando decisiones arriesgadas.

¿Qué se puede hacer?

La solución debe ser múltiple. Necesitamos colaboración gubernamental, industrial y de la sociedad civil a través de las fronteras. Necesitamos educación cultural que conozca personas donde están. Las estafas ya son una gran parte de la cultura popular, así que trabajemos con eso en lugar de contra ella.

Necesitamos invertir en educación financiera que realmente represente lo que las personas enfrentan hoy, no un consejo anticuado que no tenga en cuenta cuán complejo se ha vuelto el panorama financiero en línea.

Las compañías de IA y las plataformas tecnológicas deben aceptar una mayor responsabilidad para prevenir las estafas habilitadas para la AI implementando sistemas de detección sólidos, mecanismos de informes y políticas para eliminar el contenido fraudulento. Más allá de la autorregulación, los gobiernos deben establecer marcos regulatorios integrales que responsabilicen legalmente a estas plataformas.