Estudio brilla los faros sobre las deficiencias de seguridad del vehículo sin conductor del consumidor

Por primera vez, los investigadores de la Universidad de California, Irvine, han demostrado que las calcomanías multicolores aplicadas a las señales de detención o límite de velocidad en la carretera pueden confundir vehículos autónomos, causando operaciones impredecibles y posiblemente peligrosas.

En una presentación en el reciente Simposio de seguridad del sistema de redes y sistemas distribuidos En San Diego, los investigadores de la Escuela de Información y Ciencias de la Computación de Donald Bren de UC Irvine describieron las implicaciones del mundo real de lo que anteriormente solo se teorizó: que los ataques maliciosos de bajo costo y altamente desplegables pueden hacer que los signos de tráfico no sean indetectables a los algoritmos de inteligencia artificiales en algunos vehículos autónomos mientras hacen que las señales no existentes aparezcan de ahora en otros. Ambos tipos de asaltos pueden provocar que los automóviles ignoren los comandos de la carretera, lo que desencadena el frenado de emergencia no deseado, el exceso de velocidad y otras violaciones.

Los científicos dijeron que su estudiarque involucró a los tres diseños de ataque de IA más representativos, fue la primera evaluación a gran escala de los sistemas de reconocimiento de letreros de tráfico en marcas de vehículos de consumo más vendidos.

«Waymo ha estado entregando más de 150,000 viajes autónomos por semana, y hay millones de vehículos Tesla equipados con piloto automático en la carretera, lo que demuestra que la tecnología de vehículos autónomos se está convirtiendo en una parte integral de la vida diaria en Estados Unidos y en todo el mundo», dijo el coautor Alfred Chen, UC Irvine Profesor de Ciencias de la Computación. «Este hecho destaca la importancia de la seguridad, ya que las vulnerabilidades en estos sistemas, una vez explotadas, pueden conducir a riesgos de seguridad que se convierten en una cuestión de vida y muerte».

El autor principal del estudio, Ningfei Wang, un científico investigador de Meta que realizó este trabajo como Ph.D. El estudiante de informática en UC Irvine dijo que los vectores de ataque de su equipo de elección eran pegatinas que tenían diseños giratorios y multicolores que confunden los algoritmos de IA utilizados para el reconocimiento de señales de tráfico en vehículos sin conductor.

«Estas pegatinas pueden ser producidas de manera económica y fácil por cualquier persona con acceso a un lenguaje de programación de código abierto como Python y Bibliotecas de procesamiento de imágenes», dijo Wang. «Esas herramientas combinadas con una computadora con una tarjeta gráfica y una impresora de color son todo lo que alguien necesitaría frustrar los sistemas TSR en vehículos autónomos».

Agregó que un descubrimiento interesante realizado durante el proyecto se relaciona con el diseño de memorización espacial común a muchos de los sistemas TSR comerciales de hoy. Si bien esta característica hace que un ataque de desaparición (que parece eliminar una señal de la vista del vehículo) es más difícil, dijo Wang, hace que la suplantación de una señal de parada falsa sea «mucho más fácil de lo que esperábamos».

Chen señaló que la investigación fue la primera de su tipo en esta amenaza de seguridad en escenarios del mundo real con vehículos disponibles comercialmente.

«Los académicos han estudiado la seguridad de los vehículos sin conductor durante años y han descubierto varias vulnerabilidades prácticas de seguridad en la última tecnología de conducción autónoma», dijo. «Pero estos estudios se han limitado principalmente a las configuraciones académicas, dejando nuestra comprensión de tales vulnerabilidades en sistemas de vehículos autónomos comerciales altamente limitados. Nuestro estudio llena este vacío crítico».

Chen dijo que al centrarse en un pequeño subconjunto de investigación existente en esta área, su grupo pudo descubrir varios supuestos rotos, imprecisiones y afirmaciones falsas. Por ejemplo, ningún estudio académico previo se dio cuenta de la existencia común del diseño de memorización espacial en los sistemas comerciales de TSR. Cuando los miembros del equipo de Chen modelaron dicho diseño en configuraciones de estudio académicos previamente diseñados, descubrieron resultados que desafiaron directamente las observaciones y afirmaciones anteriores hechas en la comunidad de investigación de vanguardia.

«Creemos que este trabajo solo debería ser el comienzo, y esperamos que inspire a más investigadores tanto en la academia como en la industria a revisar sistemáticamente los impactos reales y el significado de tales tipos de amenazas de seguridad contra los vehículos autónomos del mundo real», dijo Chen. «Este sería el primer paso necesario antes de que podamos saber si, a nivel de la sociedad, se necesita acción para garantizar la seguridad en nuestras calles y carreteras».