Cómo surge una ‘IA-tocracia’

Muchos académicos, analistas y otros observadores han sugerido que la resistencia a la innovación es el talón de Aquiles de los regímenes autoritarios. Dichos gobiernos pueden fallar en mantenerse al día con los cambios tecnológicos que ayudan a sus oponentes; también pueden, al sofocar los derechos, inhibir la actividad económica innovadora y debilitar la condición a largo plazo del país.

Pero un nuevo estudio codirigido por un profesor del MIT sugiere algo bastante diferente. En China, según la investigación, el gobierno ha implementado cada vez más tecnología de reconocimiento facial impulsada por IA para suprimir la disidencia; ha tenido éxito en limitar la protesta; y en el proceso, ha estimulado el desarrollo de mejores herramientas de reconocimiento facial basadas en IA y otras formas de software.

«Lo que descubrimos es que en las regiones de China donde hay más disturbios, eso conduce a una mayor adquisición gubernamental de IA de reconocimiento facial, posteriormente, por parte de unidades gubernamentales locales como los departamentos de policía municipal», dice el economista del MIT Martin Beraja, quien es co -autor de un nuevo artículo que detalla los hallazgos.

Lo que sigue, como señala el documento, es que «la innovación de IA afianza el régimen, y la inversión del régimen en IA para el control político estimula una mayor innovación de frontera».

Los académicos llaman a este estado de cosas una «IA-tocracia», que describe el ciclo conectado en el que un mayor despliegue de la tecnología impulsada por IA sofoca la disidencia y al mismo tiempo aumenta la capacidad de innovación del país.

El documento de acceso abierto, también llamado «AI-tocracy», aparece en la edición de agosto de la Revista trimestral de economía. Los coautores son Beraja, profesor asociado de economía de Pentti Kouri Career Development en el MIT; Andrew Kao, candidato a doctorado en economía en la Universidad de Harvard; David Yang, profesor de economía en Harvard; y Noam Yuchtman, profesor de gestión en la London School of Economics.

Para realizar el estudio, los académicos se basaron en múltiples tipos de evidencia que abarcan gran parte de la última década. Para catalogar los casos de disturbios políticos en China, utilizaron datos del Proyecto de base de datos global de eventos, idioma y tono (GDELT), que registra fuentes de noticias a nivel mundial. El equipo arrojó 9267 incidentes de disturbios entre 2014 y 2020.

Luego, los investigadores examinaron los registros de casi 3 millones de contratos de adquisición emitidos por el gobierno chino entre 2013 y 2019, de una base de datos mantenida por el Ministerio de Finanzas de China. Descubrieron que la adquisición de servicios de IA de reconocimiento facial y herramientas de seguridad pública complementarias (cámaras de video de alta resolución) por parte de los gobiernos locales aumentó significativamente en el trimestre luego de un episodio de disturbios públicos en esa área.

Dado que los funcionarios del gobierno chino estaban respondiendo claramente a las actividades de disidencia pública aumentando la tecnología de reconocimiento facial, los investigadores luego examinaron una pregunta de seguimiento: ¿Funcionó este enfoque para suprimir la disidencia?

Los académicos creen que sí, aunque como señalan en el documento, «no pueden estimar directamente el efecto» de la tecnología en el malestar político. Pero como una forma de responder a esa pregunta, estudiaron la relación entre el clima y el malestar político en diferentes áreas de China.

Ciertas condiciones climáticas son propicias para el malestar político. Pero en las prefecturas de China que ya habían invertido mucho en tecnología de reconocimiento facial, tales condiciones climáticas son menos propicias para los disturbios en comparación con las prefecturas que no han realizado las mismas inversiones.

Al hacerlo, los investigadores también tuvieron en cuenta cuestiones como si los mayores niveles de riqueza relativa en algunas áreas podrían haber producido mayores inversiones en tecnologías impulsadas por IA, independientemente de los patrones de protesta. Sin embargo, los académicos aún llegaron a la misma conclusión: la tecnología de reconocimiento facial se implementó en respuesta a protestas pasadas y luego redujo aún más los niveles de protesta.

«Esto sugiere que la tecnología es efectiva para calmar los disturbios», dice Beraja.

Finalmente, el equipo de investigación estudió los efectos del aumento de la demanda de IA en el sector tecnológico de China y descubrió que el mayor uso de herramientas de reconocimiento facial por parte del gobierno parece estar impulsando el sector tecnológico del país. Por ejemplo, las empresas a las que se les otorgan contratos de adquisición de tecnologías de reconocimiento facial posteriormente producen alrededor de un 49 por ciento más de productos de software en los dos años posteriores a la obtención del contrato gubernamental que antes.

«Examinamos si esto conduce a una mayor innovación por parte de las empresas de inteligencia artificial de reconocimiento facial, y de hecho lo hace», dice Beraja.

Dichos datos, del Ministerio de Industria y Tecnología de la Información de China, también indican que las herramientas impulsadas por IA no necesariamente «desplazan» otros tipos de innovación de alta tecnología.

Sumándolo todo, el caso de China indica cómo los gobiernos autocráticos pueden llegar potencialmente a un estado cercano al equilibrio en el que su poder político se mejora, en lugar de volcarse, cuando aprovechan los avances tecnológicos.

“En esta era de la IA, cuando las tecnologías no solo generan crecimiento sino que también son tecnologías de represión, pueden ser muy útiles” para los regímenes autoritarios, dice Beraja.

El hallazgo también se relaciona con preguntas más amplias sobre las formas de gobierno y el crecimiento económico. Un importante cuerpo de investigación académica muestra que las instituciones democráticas que otorgan derechos generan un mayor crecimiento económico con el tiempo, en parte al crear mejores condiciones para la innovación tecnológica. Beraja señala que el estudio actual no contradice esos hallazgos anteriores, pero al examinar los efectos de la IA en uso, identifica una vía a través de la cual los gobiernos autoritarios pueden generar más crecimiento del que tendrían de otra manera.

«Esto puede dar lugar a casos en los que se desarrollen más instituciones autocráticas junto con el crecimiento», añade Beraja.

Otros expertos en las aplicaciones sociales de la IA dicen que el documento hace una valiosa contribución al campo.

«Este es un documento excelente e importante que mejora nuestra comprensión de la interacción entre la tecnología, el éxito económico y el poder político», dice Avi Goldfarb, titular de la Cátedra Rotman en Inteligencia Artificial y Salud y profesor de marketing en la Escuela de Administración Rotman en la Universidad de Toronto.

«El documento documenta un ciclo de retroalimentación positiva entre el uso de la tecnología de reconocimiento facial de IA para monitorear y suprimir los disturbios locales en China y el desarrollo y entrenamiento de modelos de IA. Este documento es una investigación pionera en IA y economía política. A medida que la IA se difunde, espero esta área de investigación crezca en importancia».

Por su parte, los académicos continúan trabajando en aspectos relacionados con este tema. Uno de sus próximos artículos examina hasta qué punto China está exportando tecnologías avanzadas de reconocimiento facial en todo el mundo, destacando un mecanismo a través del cual la represión gubernamental podría crecer a nivel mundial.

Esta historia se vuelve a publicar por cortesía de MIT News (web.mit.edu/newsoffice/), un sitio popular que cubre noticias sobre investigación, innovación y enseñanza del MIT.