Una nueva investigación revela el impacto de la IA y la ciberseguridad en las mujeres, la paz y la seguridad en el sudeste asiático

Las cuestiones sistémicas pueden poner en riesgo la seguridad de las mujeres cuando se adopta la inteligencia artificial (IA), y los sesgos de género en los sistemas de IA ampliamente utilizados plantean un obstáculo importante para el uso positivo de la IA en el contexto de la paz y la seguridad en el Sudeste Asiático.

Además, las defensoras de derechos humanos (WHRD) y las organizaciones de la sociedad civil (WCSO) de la región corren un alto riesgo de sufrir amenazas cibernéticas y, si bien son en gran medida conscientes de estos riesgos, no necesariamente pueden prepararse ni recuperarse activamente de ellas. Ataques ciberneticos.

Estos se encuentran entre los hallazgos clave de la investigación publicada hoy por ONU Mujeres y el Instituto Universitario de las Naciones Unidas en Macao (UNU Macau) que examina las conexiones entre la IA, la seguridad digital y la agenda de mujeres, paz y seguridad (WPS) en el Sudeste Asiático.

La investigación fue posible gracias al apoyo del Gobierno de Australia, en el marco del Programa de Cooperación en Tecnología Cibernética y Crítica (CCTCP) del Departamento de Asuntos Exteriores y Comercio (DFAT), y el Gobierno de la República de Corea a través de la iniciativa ONU Mujeres. Mujeres, paz y ciberseguridad: Promoción de las mujeres, la paz y la seguridad en el mundo digital.

Dado que se prevé que la IA agregue 1 billón de dólares al producto interno bruto de los países del sudeste asiático para 2030, comprender el impacto de estas tecnologías en la agenda MPS es fundamental para ayudar a estos países a regular las tecnologías y mitigar sus riesgos.

El informe «La inteligencia artificial y la agenda de mujeres, paz y seguridad en el sudeste asiático» examina las oportunidades y los riesgos de la IA desde esta perspectiva única, centrándose en cuatro tipos de sesgos de género en la IA: discriminación, estereotipos, exclusión e inseguridad. —que deben abordarse antes de que la región pueda beneficiarse plenamente de los nuevos avances tecnológicos.

Esta investigación examina la relación entre IA y WPS según tres tipos de IA y sus aplicaciones: IA para la paz, IA neutral e IA para conflictos.

Este informe señala que en todas estas categorías, existen efectos favorables y desfavorables de la IA para una paz con perspectiva de género y la participación de las mujeres en los esfuerzos de paz.

Si bien el uso de la IA con fines de paz puede tener múltiples beneficios, como mejorar la inclusión y la eficacia de la prevención de conflictos y rastrear pruebas de violaciones de los derechos humanos, se utiliza de manera desigual entre los géneros, y los prejuicios de género generalizados hacen que las mujeres tengan menos probabilidades de beneficiarse de la aplicación de estas tecnologías.

El informe también destaca los riesgos relacionados con el uso de estas tecnologías con fines militares.

Esta investigación identifica dos dimensiones para mejorar la dinámica de la IA y la agenda de MPS en la región: mitigar los riesgos de los sistemas de IA para avanzar en la agenda de MPS, especialmente en las redes sociales, pero también en otras herramientas, como chatbots y aplicaciones móviles; y fomentar el desarrollo de herramientas de inteligencia artificial creadas explícitamente para apoyar una paz con perspectiva de género en línea con los compromisos sobre mujeres, paz y seguridad.

El segundo informe, «Amenazas, vulnerabilidades y resiliencia a la ciberseguridad entre las mujeres defensoras de los derechos humanos y la sociedad civil en el sudeste asiático», explora los riesgos y vulnerabilidades de la ciberseguridad en este contexto con el objetivo de promover la ciberresiliencia y los derechos humanos y digitales de las mujeres. en toda su diversidad.

Si bien existe una conciencia cada vez mayor sobre los riesgos que enfrentan las mujeres y las niñas en el ciberespacio, hay poca comprensión de los impactos del género en la ciberseguridad, o de los procesos y prácticas utilizados para proteger los sistemas y redes digitales de los riesgos cibernéticos y sus daños.

Este trabajo difiere de investigaciones anteriores sobre ciberseguridad, ya que se centra en la ciberseguridad centrada en el ser humano en comparación con la tecnocéntrica y enfatiza los factores humanos en lugar de las habilidades técnicas, así como la centralización del género como fundamental para la ciberseguridad.

Además, se entiende que las amenazas cibernéticas son de naturaleza de género, por lo que las WCSO y las WHRD son atacadas específicamente debido al enfoque de su trabajo y es probable que sean atacadas con acoso misógino y sexualizado.

Los resultados resaltan que las tecnologías digitales son centrales para el trabajo de las WCSO y las defensoras, al mismo tiempo que señalan que las WCSO tenían mayores percepciones y experiencias de amenaza en comparación con las OSC que no trabajan en género y derechos de las mujeres, lo que conlleva riesgos desproporcionados de interrumpir su trabajo, dañar su reputación e incluso causar daños o perjuicios, todo lo cual contribuye a marginar las voces de las mujeres.

Las mayores diferencias en las amenazas experimentadas entre los grupos fueron el acoso en línea, el trolling (provocar deliberadamente a otros en línea para incitar reacciones) y el doxxing (cuando se distribuye información privada o de identificación sobre alguien en línea sin su permiso).

Las recomendaciones de este informe incluyen fomentar enfoques inclusivos y colaborativos en el desarrollo y participación de políticas de ciberseguridad, y desarrollar el conocimiento de la sociedad civil, el gobierno, los actores del sector privado y otros tomadores de decisiones para desarrollar medios apropiados de prevención y respuesta a los ciberataques y sus impactos desproporcionados en las WCSO. y defensoras de los derechos humanos.

Se debe prestar especial atención a las personas y organizaciones en riesgo, como los grupos de mujeres que operan en contextos políticamente volátiles y afectados por conflictos y crisis, y situaciones en las que el espacio cívico se está reduciendo.

El lanzamiento tuvo lugar durante una conferencia juvenil de ONU Mujeres, Gen-Forum 2024: Jóvenes líderes para las mujeres, la paz y la seguridad en Asia y el Pacífico que comenzó hoy en Bangkok, Tailandia.

UNU Macao y ONU Mujeres pretenden que esta investigación, realizada durante 12 meses, contribuya al discurso global sobre la ética y las normas que rodean la IA y la gobernanza digital en general.

A continuación, se distribuirán materiales de capacitación basados ​​en los resultados de las investigaciones y consultas con defensores de los derechos de las mujeres en la región, inicialmente en Tailandia y Vietnam, con módulos de aprendizaje electrónico y manuales de capacitación que estarán disponibles públicamente en inglés, tailandés y vietnamita para las partes interesadas. desde mediados de 2024.