El cofundador de Apple, Steve Wozniak, ha estado recorriendo los medios para discutir los peligros de la inteligencia artificial generativa (IA), advirtiendo a las personas que tengan cuidado con sus impactos negativos. Hablando a los dos BBC y Fox Newsenfatizó que la IA puede hacer mal uso de los datos personales y expresó su preocupación de que podría ayudar a los estafadores a generar estafas aún más efectivas, desde el fraude de identidad hasta el phishing, el descifrado de contraseñas y más.
AI pone un spammer en proceso
“Estamos recibiendo mucho spam, cosas que intentan apoderarse de nuestras cuentas y nuestras contraseñas, tratando de engañarnos para que las obtengamos”, dijo.
(Esta es una preocupación también planteada por Presidenta de la Comisión Federal de Comercio (FTC), Kina Khan.)
Wozniak expresó su preocupación de que tecnologías como ChatGPT podrían usarse para crear correos electrónicos fraudulentos realmente convincentes, por ejemplo. Si bien es ambivalente en el sentido de que puede ver las ventajas que la tecnología puede brindar, también teme que el mal uso de estas poderosas herramientas pueda convertirse en una amenaza real en manos de personas malas.
“La IA es tan inteligente que está abierta a los malos jugadores, los que quieren engañarte sobre quiénes son”, advirtió.
Un peligro para los negocios
Los investigadores de seguridad están igualmente preocupados. En los negocios, el 53 % de los responsables de la toma de decisiones creen que la IA ayudará a los atacantes a crear estafas por correo electrónico más convincentes. Más reciente, BlackBerry advirtió que un ataque exitoso acreditado a ChatGPT surgirá dentro de los próximos 12 meses.
Wozniak fue signatario de un carta abierta firmada por más de 1000 luminarias tecnológicas advirtiendo de la necesidad de ir despacio en el desarrollo de la IA. Esa carta pedía a los laboratorios de IA que detuvieran el entrenamiento en sistemas más potentes que GPT-4 durante al menos 6 meses.
Aun así, Wozniak también advirtió contra hacer una reacción instintiva ante el miedo implícito: “Realmente deberíamos ser objetivos”, dijo en el programa Fox News, Tu mundo con Neil Cavuto. «¿Dónde están los puntos de peligro?»
La petición advirtió contra algunos de estos puntos, entre ellos que, «los sistemas de IA contemporáneos ahora se están volviendo competitivos con los humanos en tareas generales, y debemos preguntarnos: ‘¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?'».
También hemos visto casos en los que el uso de modelos de IA generativa ha llevado a la divulgación de secretos comerciales, lo que provocó advertencias de seguridad de agencias de inteligencia.
¿Una amenaza existencial?
La opinión de Woz no es una advertencia solitaria. Geoffrey Hinton, el llamado padrino de la IA, tiene una opinión similar y recientemente dejó de trabajar en Google para poder advertir sobre los peligros de la IA. Hinton ve que la IA reemplaza a los trabajadores humanos a gran escala, y advierte que el impacto de esto podría amenazar la estabilidad y potencialmente conducir a la extinción.
Al igual que otros en tecnología, Wozniak argumenta que la industria y el gobierno deberían identificar los puntos peligrosos y actuar ahora para minimizar los riesgos.
Señalando lo que ahora sabemos sobre los riesgos de las redes sociales, dijo: «¿Qué pasaría si nos hubiéramos sentado y lo hubiéramos pensado antes de que llegara la Web social» y creado marcos para ayudar a administrar y minimizar esos riesgos?
Los gobiernos se mueven lentamente
Muchos gobiernos se están moviendo para determinar si las herramientas de IA necesitan ser reguladas y cómo, pero es poco probable que ese proceso siga el ritmo de la evolución de la IA. La administración de Biden anunció recientemente un conjunto voluntario de reglas de IA destinadas a abordar la seguridad y la privacidad y a iniciar un debate sobre la amenaza real y existencial de las tecnologías de IA, incluido ChatGPT.
“La IA es una de las tecnologías más poderosas de nuestro tiempo, pero para aprovechar las oportunidades que presenta, primero debemos mitigar sus riesgos”, dijo el dijo la Casa Blanca en un comunicado. “El presidente Biden ha dejado claro que cuando se trata de IA, debemos colocar a las personas y las comunidades en el centro apoyando la innovación responsable que sirva al bien público, al tiempo que protege nuestra sociedad, seguridad y economía”.
En el Reino Unido, la Autoridad de Mercados y Competencia (CMA) está revisando el mercado de la IA. “Nuestro objetivo es ayudar a que esta nueva tecnología de rápida expansión se desarrolle de manera que garantice mercados abiertos y competitivos y una protección eficaz del consumidor”, dijo Sarah Cardell, directora ejecutiva de CMA.
El gobierno del Reino Unido, sin embargo, parece interesado en un enfoque de no intervención para el uso de esta tecnología.
Una reacción a la acción.
Estos esfuerzos enfrentan una reacción contraria entre algunos en tecnología, quienes argumentan que la desaceleración de la evolución de la IA en algunas naciones podría dar a otros la oportunidad de avanzar en la aplicación de la tecnología. El cofundador de Microsoft, Bill Gates, es uno de los que hace este argumento.
Hinton dijo recientemente su «única esperanza» con respecto a la IA: que los gobiernos en competencia puedan acordar reinar en su uso dado que todas las partes enfrentan una amenaza existencial. “Todos estamos en el mismo barco con respecto a la amenaza existencial, por lo que todos deberíamos poder cooperar para tratar de detenerla”, dijo.
Fuimos advertidos
La tragedia, por supuesto, es que los riesgos existenciales inherentes a la IA se han señalado durante años. Allá por 1863, el novelista Samuel Butler advirtió: “El resultado es simplemente una cuestión de tiempo, pero que llegará el momento en que las máquinas tendrán la supremacía real sobre el mundo y sus habitantes es lo que ninguna persona de mente verdaderamente filosófica puede cuestionar por un momento”.
El cofundador de Apple no parece muy optimista de que se establezcan restricciones efectivas en torno a dicho uso. “Las fuerzas que impulsan por dinero en comparación con las fuerzas que impulsan por preocuparse por nosotros, por amor, las fuerzas que impulsan por dinero generalmente ganan. Es algo triste”, le dijo a la BBC.
Por favor sígueme en Mastodonteo únete a mí en el Bar y parrilla de AppleHolic y Manzana Discusiones grupos en MeWe.
Derechos de autor © 2023 IDG Communications, Inc.
