Detectando robustos ataques cibernéticos furtivos que podrían tirar de la nave espacial AI fuera del curso

Un estudio reciente sugiere que los ataques cibernéticos sobre la nave espacial guiada por la IA podrían frustrarse sin anular lo que la IA ha estado «pensando».

Tales ataques de «IA adversar» podrían llevar a la nave espacial fuera del curso que, si no se corrige, podría significar un desastre, incluida la artesanía entre sí y, en el peor de los casos, la trágica pérdida de la vida humana.

El estudio de la Agencia Espacial Europea y City St George’s, Universidad de Londres, fue dirigido por el profesor Nabil Aouf, director del Centro de Investigación de Sistemas de la Universidad. Investigó cómo un tipo de sistema de guía de IA, que funciona a partir de las imágenes de las cámaras fotográficas a bordo de una artesanía, podría protegerse de tales ataques. El papel es publicado en Avances en la investigación espacial.

Los sistemas de guía de IA tienen muchos beneficios potenciales sobre los sistemas menos autónomos y más guiados por los humanos, incluida la capacidad de predecir con mayor precisión sobre la mosca donde dos embarcaciones están entre sí en el espacio.

También son menos vulnerables a algunas distracciones visuales que las personas, como las condiciones de iluminación, un punto de vista incómodo de la cámara o una imagen fotográfica desordenada, pero, sin embargo, son vulnerables a distractores menos abiertos a los que los humanos no lo son.

Modelando el ataque

En el estudio, los investigadores exploraron un ataque que toma la forma de cambios muy sutiles e visiblemente imperceptibles que se realizan en una verdadera imagen de la cámara, antes de que sea procesado por un sistema de guía de IA. En este caso, el que diseñaron usando un tipo de IA de aprendizaje profundo llamado red neuronal convolucional (CNN).

Una red neuronal es un modelo matemático artificial que imita las células nerviosas (neuronas) en el cerebro que se envían señales entre sí para realizar cálculos.

En el laboratorio virtual, se sabe que tales cambios furtivos hacen que los sistemas CNN cometan errores significativos al calcular las posiciones y las rotaciones de dos objetos en movimiento entre sí.

Para lograr su objetivo, los investigadores usaron por primera vez el software de modelado 3D para entrenar y probar prácticamente su sistema CNN. Lo usaron para simular la vista desde una cámara montada en una nave espacial cazadora que tomó 13 trayectorias posibles para atracar con el satélite Jason-1 de la NASA desde una distancia de 60 metros.

Usando un método llamado FGSM, aplicaron el sutil, «Ataque de IA adversario», los cambios visuales a algunas de las imágenes virtuales de Jason-1 que la nave cazadora vería en el sistema generado en 3D.

Desempacando lo que la IA está «pensando»

Los investigadores aprobaron el total de 32,500 imágenes prácticamente generadas a través de su CNN, y luego utilizaron una técnica de modelado matemático llamado SHAP (explicaciones aditivas de Shapley) en una etapa de cálculo que se produce justo antes de que la IA entregue su predicción de las posiciones y la rotación en el espacio de la compleja de cazadores relativo a Jason-1.

SHAP modela diferentes formas de descomponer lo que es probable que la IA haya pensado sobre cada imagen que ha considerado, y cuantifica cuán importantes habrá sido esos componentes para su toma de decisiones.

Al observar los componentes de SHAP para cada imagen con un tipo de red neuronal que puede recordar y comparar imágenes sucesivas con el tiempo (LSTM), los investigadores pudieron detectar las imágenes contaminadas de los ataques con una precisión promedio del 99.2%.

Refinar el modelo con datos del mundo real

Pero no se detuvieron allí. Probaron aún más su sistema a través de una segunda versión del experimento que utilizó un modelo a escala de la vida real que crearon del satélite Jason-1. Esto proporcionó una imagen de mayor resolución y más realista de lo que una cámara a bordo de una nave espacial realmente vería.

Mientras usa este método, su sistema detectó ataques con una precisión reducida del 96.3%, los autores del estudio aún consideran que el resultado es extremadamente prometedor para la aplicación en la práctica.

Al reflexionar sobre el estudio, el autor principal, el Dr. Ziwei Wang, investigador, en la Universidad de la Ciudad de San Jorge, dijo: «Identificar ataques adversos es beneficioso; sin embargo, el objetivo principal es aliviar su impacto en la orientación, navegación y control (GNC) de la nave espacial autónoma.

«El equipo de City St George’s está mejorando nuestros esfuerzos para fortalecer los modelos de aprendizaje profundo que hemos creado al emplear una teoría de optimización robusta para mitigar los efectos de estos ataques congresivos sensoriales nocivos.