Investigador explica por qué deberíamos preocuparnos más por las tecnologías convergentes

El profesor Dirk Helbing de ETH Zurich y el Complexity Science Hub de Austria espera que las futuras tecnologías digitales penetren aún más en el cuerpo humano. Sin embargo, cree que la sociedad no está preparada para los riesgos que implica. En un nuevo artículo, propone un nuevo marco legal para proteger nuestros datos más íntimos del uso indebido.

el trabajo es publicado en el diario Ética y tecnología de la información.

«En mi investigación, me ocupo de las consecuencias de la digitalización para las personas, la sociedad y la democracia. En este contexto, también es importante estar atento a la convergencia entre las ciencias informáticas y biológicas, es decir, lo que se vuelve posible cuando lo digital Las nuevas tecnologías crecen cada vez más junto con la biotecnología, la neurotecnología y la nanotecnología», afirma el profesor Helbing.

«Las tecnologías convergentes se consideran un caldo de cultivo para innovaciones de gran alcance. Sin embargo, cada vez más se difuminan los límites entre los mundos físico, biológico y digital. Como resultado, las regulaciones convencionales se vuelven ineficaces. En un estudio conjunto con mi compañero -autor Marcello Ienca, recientemente examinamos los riesgos y desafíos sociales de la convergencia tecnológica y concluimos que los efectos para los individuos y la sociedad son de gran alcance.

«Queremos llamar la atención sobre los desafíos y riesgos de las tecnologías convergentes y explicar por qué consideramos necesario acompañar los desarrollos tecnológicos a nivel internacional con una regulación fuerte.

«Desde hace varios años, en el contexto de la digitalización, todo el mundo puede observar las consecuencias de dejar el cambio tecnológico en manos de las fuerzas del mercado sin una regulación efectiva».

Desinformación y manipulación en la web

El profesor Helbing continúa: «En 2015, hace casi diez años, se publicó el Manifiesto Digital. Uno de nosotros y otros ocho expertos europeos advertimos urgentemente contra la puntuación, es decir, la evaluación de las personas, y contra los grandes empujones, una forma sutil de manipulación digital. Este último se basa en perfiles de personalidad que se crean utilizando cookies y otros datos de vigilancia.

«Poco después, el escándalo de Cambridge Analytica alertó al mundo sobre cómo la empresa de análisis de datos intentaba manipular el comportamiento electoral en elecciones democráticas mediante anuncios personalizados (microtargeting).

«En este momento, las democracias en todo el mundo están bajo una gran presión. La propaganda, las noticias falsas y los discursos de odio están polarizando y sembrando dudas, mientras que la privacidad está disminuyendo. Estamos en una especie de guerra internacional de información por nuestras mentes, en la que las empresas de publicidad, Las corporaciones tecnológicas, los servicios secretos y los militares luchan por influir en nuestro pensamiento y comportamiento. Mientras tanto, la Unión Europea adoptó la Ley de IA en un intento de frenar los peligros antes mencionados.

«Sin embargo, las tecnologías digitales se han desarrollado a un ritmo vertiginoso y ya están surgiendo nuevas posibilidades de manipulación. Porque cuando lo digital y la nanotecnología se fusionan con la biotecnología y la neurotecnología modernas, se hacen posibles aplicaciones revolucionarias que antes apenas eran imaginables».

Microrobots para la medicina de precisión

«En la medicina personalizada, por ejemplo, la creciente miniaturización de la electrónica hace cada vez más posible conectar organismos vivos y humanos con sensores en red y potencia informática. El WEF proclamó el ‘Internet de los cuerpos’ ya en 2020», afirma el profesor Helbing. .

«Un ejemplo de combinación de medicación convencional con una función de monitorización son las píldoras digitales, que pueden controlar la medicación y registrar los datos fisiológicos del paciente.

«Los expertos esperan que la tecnología de sensores alcance también la nanoescala. Las nanopartículas magnéticas o componentes nanoelectrónicos, es decir, pequeñas partículas invisibles a simple vista con un diámetro de hasta 100 nanómetros, permitirían transportar sustancias activas, interactuar con las células y registrar cantidades enormes de datos sobre las funciones corporales.

«Si se introducen en el cuerpo, se espera que las enfermedades puedan detectarse en una fase temprana y tratarse de forma personalizada. Esto también se conoce como medicina de alta precisión».

Nanoelectrodos registran la función cerebral

El profesor Helbing añade: «Los electrodos miniaturizados que pueden medir y manipular simultáneamente la actividad de miles de neuronas y las herramientas de inteligencia artificial en constante mejora para el análisis de señales cerebrales son dos enfoques que ahora están conduciendo a avances muy debatidos en la interfaz cerebro-computadora». El mapeo de la actividad cerebral también está en la agenda. Gracias a la nanoneurotecnología, se imagina que pronto los teléfonos inteligentes y otras aplicaciones de IA podrán controlarse directamente mediante el pensamiento.

«Los proyectos a gran escala para mapear el cerebro humano también se benefician de esto. En el futuro, el mapeo de la actividad cerebral podría, en principio, leer nuestros pensamientos y sentimientos, pero también permitiría influir en ellos de forma remota; esto último probablemente sería mucho más efectivo que los métodos de manipulación anteriores, como los grandes empujones.

«Sin embargo, los electrodos convencionales no son adecuados para una conexión permanente entre células y componentes electrónicos; esto requiere interfaces duraderas y biocompatibles. Por lo tanto, una propuesta es transmitir señales de forma optogenética, es decir, controlar genes en células especiales con pulsos de luz. Se podrían implementar circuitos.»

La desventaja de la convergencia

«Es cierto que las aplicaciones mencionadas anteriormente pueden parecer futuristas. En su mayor parte todavía son visiones o se encuentran en las primeras etapas de desarrollo. Sin embargo, se están llevando a cabo muchas investigaciones en todo el mundo y a toda velocidad. Los círculos militares están interesados ​​en utilizar tecnologías convergentes para su también para nuestros propios fines», afirma el profesor Helbing.

«La desventaja de la convergencia es que existen riesgos considerables, como que actores estatales o privados obtengan acceso a datos altamente sensibles y los utilicen indebidamente para monitorear e influir en las personas. Cuanto más conectados estén nuestros cuerpos, más vulnerables seremos al cibercrimen y a la piratería informática. No se puede descartar que ya existan aplicaciones militares. Sin embargo, una cosa está clara: mucho antes de que la medicina de precisión y la neurotecnología funcionen de manera confiable, estas tecnologías pueden usarse contra las personas.

«El problema es que las regulaciones existentes son específicas e insuficientes para mantener bajo control la convergencia tecnológica. Pero, ¿cómo vamos a mantener el control de nuestras vidas si cada vez es más posible influir en nuestros pensamientos, sentimientos y decisiones por medios digitales?»

Se necesita una regulación global convergente

«En nuestro artículo reciente, llegamos a la conclusión de que la forma de regular las tecnologías convergentes tendría que basarse en regulaciones internacionales convergentes. En consecuencia, esbozamos un nuevo marco regulatorio global y proponemos diez principios de gobernanza para cerrar la brecha regulatoria que se avecina», explica el Prof. Ayudando.

«El marco enfatiza la necesidad de salvaguardias para proteger las funciones corporales y mentales de interferencias no autorizadas y para garantizar la integridad personal y la privacidad, por ejemplo, estableciendo derechos neurológicos.

«Para minimizar los riesgos y prevenir abusos, las regulaciones futuras deben ser inclusivas, transparentes y confiables. El principio de gobernanza participativa es clave, que tendría que involucrar a todos los grupos relevantes y garantizar que las preocupaciones de las minorías afectadas también se tengan en cuenta en las decisiones. -procesos de elaboración.

«Finalmente, necesitamos recuperar el control sobre nuestros datos personales. Para ello, necesitamos una verdadera autodeterminación informativa. Esto también debería aplicarse a los gemelos digitales de nuestro cuerpo y nuestra personalidad, porque pueden usarse para hackear nuestra salud y nuestro pensamiento, para bien o para mal.

«Con nuestra contribución nos gustaría iniciar un debate público sobre las tecnologías convergentes. A pesar de su gran relevancia, creemos que se presta muy poca atención a este tema. Un discurso continuo sobre beneficios, riesgos y reglas sensatas puede ayudar a orientar la tecnología convergencia de tal manera que sirva a la gente y no la perjudique», concluye.