Los neurodatos pueden revelar nuestro yo más privado. A medida que los implantes cerebrales se vuelvan comunes, ¿cómo se protegerá la privacidad?

«¡Hola Mundo!»

En diciembre de 2021, estos fueron los primeras palabras tuiteadas por un hombre paralítico que usa solo sus pensamientos y una interfaz cerebro-computadora (BCI) implantada por la compañía Synchron.

Para millones que viven con parálisis, epilepsia y condiciones neuromusculares, las BCI ofrecen movimiento restaurado y, más recientemente, capacidades de pensamiento a texto.

Hasta ahora, se han utilizado pocas versiones invasivas (implantadas) de la tecnología. comercializado. Pero varias empresas están decididas a cambiar esto.

Synchron se une a Neuralink de Elon Musk, que ha documentado a un mono jugando al juego de computadora Pong usando su BCI, así como el más nuevo Neurociencia de precisióncual criado recientemente US$41 millones para construir un implante reversible más delgado que un cabello humano.

Eventualmente, las BCI permitirán a las personas realizar una variedad de tareas usando sus pensamientos. Pero, ¿es esto fantástico o aterrador?

¿Cómo funcionan las BCI?

Las BCI pueden ser no invasivas (ponibles) o invasivas (implantadas). La actividad eléctrica es el «neurodato» más comúnmente capturado, y los BCI invasivos proporcionan una mejor calidad de señal que los no invasivos.

La funcionalidad de la mayoría de las BCI se puede resumir en pasiva, activa y reactiva. Todos los BCI utilizan el procesamiento de señales para filtrar las señales cerebrales. Después del procesamiento, las BCI activas y reactivas pueden generar resultados en respuesta a la actividad cerebral voluntaria del usuario.

Las señales de regiones específicas del cerebro se consideran una combinación de muchas señales diminutas de múltiples regiones. Así que las BCI usan algoritmos de reconocimiento de patrones para descifrar los orígenes potenciales de una señal y vincularla a un evento intencional, como una tarea o un pensamiento.

Uno de los primeras BCI implantadas trataron convulsiones resistentes a los medicamentos en algunos de los 50 millones de personas con epilepsia. Y ensayos clínicos en curso señal una nueva era para las personas con discapacidades neurológicas y físicas.

Sin embargo, fuera del ámbito clínico, los neurodatos existen en un espacio en gran medida no regulado.

Un intermediario desconocido

En la interacción humana, los pensamientos son interpretados por la persona que los experimenta y los comunica, y por separado por la persona que recibe la comunicación. En este sentido, permitir que los algoritmos interpreten nuestros pensamientos podría compararse con otra entidad que «habla» por nosotros.

Esto podría plantear problemas en un futuro en el que la conversión de pensamiento a texto esté muy extendida. Por ejemplo, una BCI puede generar el resultado «Estoy bien», cuando el usuario pretendía que fuera «Estoy muy bien». Estos son similares, pero no son lo mismo. Es bastante fácil para una persona sin discapacidad corregir físicamente el error, pero para las personas que solo pueden comunicarse a través de BCI, existe el riesgo de ser malinterpretadas.

Además, las BCI implantadas pueden proporcionar un rico acceso a todas las señales cerebrales; no hay opción para seleccionar y elegir qué señales se comparten.

Podría decirse que los datos cerebrales son nuestros datos más privados debido a lo que se puede inferir con respecto a nuestra identidad y estado mental. Sin embargo, las empresas privadas de BCI puede que no necesite informar a los usuarios sobre qué datos se utilizan para entrenar algoritmos, o cómo los datos se vinculan a interpretaciones que conducen a resultados.

En Australia, estricto reglas de almacenamiento de datos requieren que todos los datos de pacientes relacionados con BCI se almacenen en servidores seguros en un formato no identificado, lo que ayuda a proteger la privacidad del paciente. Pero los requisitos fuera de un contexto de investigación no están claros.

¿Qué está en riesgo si los datos neuronales no están protegidos?

Es poco probable que las BCI nos lancen a un mundo distópico, en parte debido a las limitaciones computacionales actuales. Después de todo, hay un salto entre una BCI que envía un texto corto y la interpretación de todo el flujo de conciencia de uno.

Dicho esto, dar este salto se reduce en gran medida a qué tan bien podemos entrenar algoritmos, lo que requiere más datos y poder de cómputo. El aumento de computación cuántica—siempre que sea posible— podría proporcionar estos recursos computacionales adicionales.

Libro de Cathy O’Neil de 2016, Armas de destrucción matemáticadestaca cómo los algoritmos que miden conceptos complejos como las cualidades humanas podrían permitir que las entidades depredadoras tomen decisiones importantes para las personas más vulnerables.

Aquí hay algunos escenarios hipotéticos del peor de los casos.

1. Las empresas de terceros pueden comprar datos neuronales de las empresas de BCI y usarlos para tomar decisiones, como si a alguien se le otorga un préstamo o si tiene acceso a la atención médica.
2. Se podría permitir a los tribunales ordenar neuromonitorización de personas con potencial para delinquir, en función de su historia previa o entorno sociodemográfico.
3. Las BCI especializadas en «neuromejora» podrían convertirse en una condición de empleo, como en el ejército. Esto desdibujaría los límites entre el razonamiento humano y la influencia algorítmica.
4. Al igual que con todas las industrias donde la privacidad de los datos es crítica, existe un riesgo real de piratería de datos neuronales, donde los ciberdelincuentes acceden y explotan los datos cerebrales.

Luego hay ejemplos más sutiles, incluido el potencial de sesgo. En el futuro, es posible que se introduzcan sesgos en las tecnologías de BCI de varias maneras, incluso a través de:

• la selección de datos de entrenamiento homogéneos
• falta de diversidad entre los participantes de ensayos clínicos (especialmente en los grupos de control)
• falta de diversidad en los equipos que diseñan los algoritmos y el software.

Si las BCI deben atender a usuarios diversos, entonces la diversidad deberá tenerse en cuenta en cada etapa del desarrollo.

¿Cómo podemos proteger los neurodatos?

La visión de «neuroderechos» es un espacio en evolución. Los desafíos éticos radican en el equilibrio entre elegir lo que es mejor para los individuos y lo que es mejor para la sociedad en general.

Por ejemplo, ¿deberían las personas en el ejército estar equipadas con dispositivos de neuromejoramiento para que puedan servir mejor a su país y protegerse en el frente, o eso comprometería su identidad y privacidad individuales? ¿Y qué legislación debería capturar los neuroderechos: la ley de protección de datos, la ley de salud, la ley de consumo o la ley penal?

En una primicia mundial, Chile aprobó una ley de neuroderechos en 2021 para proteger la privacidad mental, al clasificar explícitamente los datos mentales y la actividad cerebral como un derecho humano que debe protegerse legalmente. Aunque es un paso en la dirección correcta, no está claro cómo se aplicaría dicha ley.

Un grupo de pacientes con sede en EE. UU. está tomando el asunto en sus propias manos. El Pioneros de BCI es un grupo defensor que garantiza que la conversación en torno a la neuroética esté dirigida por pacientes.

Otros esfuerzos incluyen la Fundación Neuroderechosy la propuesta de un «juramento tecnocratico» inspirado en el juramento hipocrático hecho por los médicos. Una Organización Internacional para la Estandarización comité para las normas BCI también está en marcha.

Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.