AI podría facilitar la creación de biowapons que eviten los protocolos de seguridad actuales

La inteligencia artificial está transformando la biología y la medicina al acelerar el descubrimiento de nuevos medicamentos y proteínas y facilitar el diseño y manipular el ADN, los componentes básicos de la vida. Pero como con la mayoría de las nuevas tecnologías, existe un posible inconveniente. Las mismas herramientas de IA podrían usarse para desarrollar nuevos patógenos y toxinas peligrosos que eviten las verificaciones de seguridad actuales. En un nuevo estudio de Microsoft, los científicos emplearon una prueba de estilo hacker para demostrar que las secuencias generadas por IA podrían evadir el software de seguridad utilizado por los fabricantes de ADN.

«Creemos que el avance continuo del diseño de proteínas asistido por AI-AI es una gran promesa para abordar desafíos críticos en la salud y las ciencias de la vida, con el potencial de ofrecer impactos abrumadoramente positivos en las personas y la sociedad», comentó los investigadores en su documento publicado en el diario Ciencia. «Sin embargo, al igual que con otras tecnologías emergentes, también es crucial identificar y mitigar de manera proactiva los riesgos que surgen de nuevas capacidades».

Prueba de defensas

Cuando las compañías de biotecnología hacen ADN para los investigadores, utilizan el software de detección de bioseguridad (BSS) para buscar similitudes entre la nueva secuencia y una base de datos de amenazas conocidas. Y eso es tanto una fortaleza como una debilidad porque solo puede detectar lo que se enumera en la base de datos.

Para probar esta brecha de bioseguridad, los investigadores de Microsoft utilizaron programas de IA disponibles públicamente para crear más de 76,000 variantes sintéticas de proteínas peligrosas conocidas, incluida la ricina. En realidad no produjeron las proteínas; Diseñaron las instrucciones genéticas para su síntesis. Luego ejecutaron las secuencias a través de cuatro herramientas de software de detección diferentes para ver si alguna podría pasar. Y lo hicieron, en grandes números. Un porcentaje significativo de estas secuencias diseñadas por IA se extendió a través de los controles.

Después de descubrir los defectos, el equipo de Microsoft trabajó con proveedores de BSS para desarrollar parches. Estos incluyeron actualizar bases de datos de amenazas y ajustar el software de detección. El resultado? Las herramientas de detección reforzadas capturaron el 97% de las secuencias más peligrosas en una segunda prueba.

La investigación sirve como una clara advertencia. A pesar de que los parches aumentaron la tasa de detección, no eran infalibles, ya que el 3% de las secuencias potencialmente peligrosas se perdieron. Tampoco está claro cómo funcionarían las proteínas resultantes en el mundo real, ya que las secuencias eran predicciones informáticas.

Claramente, se necesitará más trabajo para construir defensas robustas contra técnicas de IA cada vez más sofisticadas, pero este esfuerzo estará en curso. Una carrera armamentista evolutiva constante es inevitable. Así como las vacunas deben mantener el ritmo de las nuevas mutaciones virales, también lo harán las herramientas de detección de bioseguridad necesitarán actualizaciones continuas para contrarrestar las amenazas generadas por IA.

© 2025 Science X Network