La IA depende de la vigilancia masiva, advierte el jefe de Signal

Las herramientas de inteligencia artificial que procesan números, generan texto y vídeos y encuentran patrones en los datos dependen de la vigilancia masiva y del ejercicio de control sobre nuestras vidas, dijo el jueves a la AFP el director de la aplicación de mensajería cifrada Signal.

Contra el entusiasmo incuestionable en VivaTech en París, la principal conferencia de startups de Europa donde los actores de la industria alardean de los méritos de sus productos, Meredith Whittaker dijo que las preocupaciones sobre la vigilancia y las de la IA eran «dos encuadres de la misma cosa».

«Las tecnologías de IA de las que hablamos hoy dependen de la vigilancia masiva», afirmó.

«Requieren enormes cantidades de datos que son derivados de este modelo de negocio de vigilancia masiva que surgió en los años 90 en Estados Unidos y se ha convertido en el motor económico de la industria tecnológica».

Whittaker, que pasó años trabajando para Google antes de ayudar a organizar una huelga del personal en 2018 por las condiciones laborales, estableció el AI Now Institute en la Universidad de Nueva York en 2017.

Ahora hace campaña por la privacidad y critica los modelos de negocio basados ​​en la extracción de datos personales.

Y tiene claro que no confía en que la industria de la IA se esté desarrollando en la dirección correcta.

Desequilibrios de poder

Los sistemas de inteligencia artificial tienen hambre de datos para ingresar, pero también producen grandes cantidades de datos.

Incluso si es incorrecto, dijo, este resultado «tiene el poder de clasificar, ordenar y dirigir nuestras vidas de maneras que deberían preocuparnos por igual».

Y señaló los desequilibrios de poder creados por una industria controlada por «un puñado de gigantes de la vigilancia» que son «en gran medida irresponsables».

«La mayoría de nosotros no somos usuarios de IA», dijo.

«La mayoría de nosotros estamos sujetos a su uso por parte de nuestros empleadores, las fuerzas del orden, los gobiernos, quienquiera que sea.

«Tienen sus propios objetivos, pero pueden no ser objetivos que nos beneficien ni a nosotros ni a la sociedad».

Dijo que un ejemplo sorprendente era la forma en que a las empresas de IA les gustaba decir que estaban ayudando a encontrar soluciones a la crisis climática.

De hecho, dijo, estaban tomando dinero de las empresas de combustibles fósiles y su tecnología se estaba utilizando para encontrar nuevos recursos para extraer.

«Porque, por supuesto, ¿dónde están los ingresos? No son para salvar el clima», dijo.

«Está en contratos masivos con BP, con Exxon y con otras grandes compañías de petróleo y gas».

En última instancia, argumentó que los europeos no deberían pensar en términos de competir con empresas estadounidenses de IA más grandes.

Otra opción podría ser «reimaginar la tecnología que pueda servir a sociedades más democráticas y pluralistas o que preserven más los derechos».

© 2024 AFP