Las potencias mundiales se enfrentan a un uso «responsable» de la inteligencia artificial militar. ¿En qué consistiría?

La semana pasada, unos 2.000 funcionarios gubernamentales y expertos de todo el mundo se reunieron para… REAFIRMACIÓN (Inteligencia artificial responsable en el ámbito militar) en Seúl, Corea del Sur. Este fue el segundo evento de este tipo, el primero se celebró en los Países Bajos en febrero de 2023.

Durante la cumbre de este año, 61 países respaldaron un «Plan de acción» para gobernar el desarrollo y uso de la inteligencia artificial (IA) por parte de los militares.

Sin embargo, 30 países enviaron un representante gubernamental a la cumbre, pero no respaldaron el plan. incluida China.

El plan es un avance importante, aunque modesto, pero todavía hay una brecha en la comprensión de lo que constituye un uso responsable de la IA y cómo esto se traduce en acciones concretas en el ámbito militar.

¿Cómo se utiliza actualmente la IA en contextos militares?

El uso militar de la IA ha aumentado en los últimos años, especialmente en los conflictos entre Rusia y Ucrania y entre Israel y Palestina.

Israel ha utilizado sistemas basados ​​en inteligencia artificial, conocidos como «Gospel» y «Lavender», para tomar decisiones militares clave, como qué lugares y personas atacar con bombas. utilizar grandes cantidades de datosincluidas las personas Direcciones, números de teléfono y membresía de grupos de chat.

El sistema «Lavanda» en particular fue noticia a principios de este año cuando los críticos cuestionaron su eficacia y legalidad. Hubo especial preocupación en torno a sus datos de entrenamiento y Cómo clasifica los objetivos.

Tanto Rusia como Ucrania también Utilizar la IA para apoyar la toma de decisiones militaresLas imágenes satelitales, el contenido de las redes sociales y la vigilancia con drones son solo algunas de las muchas fuentes de información que generan copiosos volúmenes de datos.

La IA puede analizar estos datos mucho más rápido que los humanos. Los resultados se incorporan a las «cadenas de eliminación» existentes.El proceso de localizar, rastrear, apuntar y atacar objetivos..

Esto significa que los oficiales militares pueden tomar decisiones más rápidas durante un conflicto armado activo, lo que proporciona ventajas tácticas. Sin embargo, el uso indebido de los sistemas de IA también puede resultar perjudicial.

La sociedad civil y organizaciones no gubernamentales como el Comité Internacional de la Cruz Roja han advertido sobre los riesgos. Por ejemplo, el sesgo algorítmico puede exacerbar el riesgo para los civiles Durante la guerra activa.

¿Qué es la IA responsable en el ámbito militar?

No hay consenso sobre qué constituye una IA “responsable”.

Algunos investigadores argumentan que La tecnología en sí misma puede ser responsableEn este caso, «responsable» significaría tener equidad incorporada y estar libre de prejuicios.

Otros estudios se refieren a Las prácticas en torno a la IA—como el diseño, el desarrollo y el uso— siendo responsables. Esto significaría prácticas que sean legales, rastreables, confiables y enfocadas en mitigar los sesgos.

El plan aprobado en la reciente cumbre de Seúl coincide con esta última interpretación y propone que cualquiera que utilice inteligencia artificial en el ámbito militar debe cumplir con las leyes nacionales e internacionales pertinentes.

También destaca La importancia de los roles humanos en el desarrollo, despliegue y uso de la IA en el ámbito militar. Esto incluye garantizar que el criterio humano y el control sobre el uso de la fuerza se gestionen de forma responsable y segura.

Esta es una distinción importante, porque muchas narrativas en torno a la IA implican falsamente una ausencia de participación y responsabilidad humana.

¿Qué pueden hacer los gobiernos para utilizar la IA militar de forma responsable?

Los debates en la cumbre se centraron principalmente en medidas concretas que pueden adoptar los gobiernos para apoyar el uso responsable de la IA militar.

El uso de la inteligencia artificial en el ámbito militar está aumentando y es necesario adoptar medidas provisionales para abordarlo. Una de las sugerencias fue la de alcanzar acuerdos sobre la regulación de la inteligencia artificial en las distintas regiones, en lugar de tardar más en alcanzar un consenso global y universal.

Para mejorar la cooperación global en materia de IA militar, también podríamos tomar en cuenta las lecciones aprendidas de desafíos globales anteriores, como la no proliferación nuclear, la conservación de la capa de ozono y la desmilitarización del espacio exterior y la Antártida.

Dieciocho meses después de la cumbre inaugural del año pasado, los gobiernos y otras partes responsables han comenzado a implementar procesos de mitigación de riesgos y Kits de herramientas para IA militar.

El plan refleja el progreso realizado desde entonces y las ideas discutidas en la cumbre. Propone una serie de medidas tangiblesque incluyen:

• Revisiones jurídicas universales para capacidades militares basadas en IA
• Promover el diálogo sobre el desarrollo de medidas para garantizar una IA responsable en el ámbito militar a nivel nacional, regional e internacional
• Mantener una participación humana adecuada en el desarrollo, despliegue y uso de la IA en el ámbito militar.

Sin embargo, el progreso es lento porque aún no tenemos una comprensión universal de cómo es realmente la IA militar responsable.

La necesidad de resolver estos problemas está presionando ahora a la próxima cumbre (aún no anunciada). Los Países Bajos también han crear un organismo de expertos promover un enfoque globalmente coherente para la IA militar.

La humanidad puede beneficiarse de las herramientas de inteligencia artificial, pero es urgente garantizar que los riesgos que plantean no proliferen, especialmente en el ámbito militar.

Este artículo se vuelve a publicar desde La conversación bajo una licencia Creative Commons. Lea el Artículo original.