Más allá de marcar una casilla: cómo una licencia social puede ayudar a las comunidades a beneficiarse de la reutilización de datos y la IA

El entusiasmo original sobre la influencia de la inteligencia artificial (IA) en los países desarrollados se está desplazando hacia cómo la IA podría influir en las naciones en desarrollo. El economista Recientemente publicó un artículo de portada ensalzando el potencial de la IA para ayudar a los países de bajos ingresos en sectores como la educación, la atención sanitaria y la agricultura; sin embargo, varios comentaristas han expresado su preocupación de que la IA pueda causar una serie de daños en el Sur Global.

En la raíz de este problema existe una preocupación frecuente sobre cómo se recopilan, almacenan y utilizan los datos, y de manera responsable. reutilizado para fines distintos a los para los que fue recaudado inicialmente.

Los datos recopilados a partir de imágenes satelitales y sensores se pueden reutilizar para monitorear la deforestación, la calidad del aire y el agua, y la impacto del cambio climático. Los datos de telecomunicaciones o redes sociales se pueden reutilizar para respuesta al desastre para rastrear los movimientos de personas, identificar áreas que necesitan asistencia urgente y coordinar los esfuerzos de socorro de manera más efectiva.

La reutilización responsable de datos públicos y privados también puede acabar con los silos. El acceso a los datos de los teléfonos móviles se ha reutilizado para fomentar la colaboración y la innovación, como armonizar el acceso al transporte público y las iniciativas de viajes compartidos para limitar el tiempo de viaje y reducir el uso del automóvil.

Abrir datos de contratación se utilizó para mejorar el acceso a los medicamentos contra el VIH y la tuberculosis en Moldavia, un país que tiene una de las tasas de pacientes más altas de Europa. Pero la reutilización conlleva sus propios riesgos, especialmente para la privacidad y seguridad del usuario.

Desequilibrios de poder

Promover la reutilización responsable de los datos requiere abordar los desequilibrios de poder en la ecología de los datos que quitan el poder a las partes interesadas clave y socavan la confianza en las prácticas de gestión de datos. Estos desequilibrios pueden ser particularmente perniciosos en el Sur Global. Abordarlos requiere ampliar las nociones de consentimiento más allá de los enfoques individualizados actuales en favor de lo que denominamos una licencia social para la reutilización.

Hay una serie de desequilibrios de poder e influencia entre las diferentes partes interesadas en la ecología de datos. Los actores más grandes o aquellos de regiones más ricas tienen mayores presupuestos y más experiencia, además de más poder computacional, para acceder a los datos y trabajar con ellos. Estos desequilibrios adquieren especial importancia cuando los datos se reutilizan.

En tales casos, los interesados ​​originales frecuentemente carecen de la capacidad de influir o incluso de tomar conciencia de los usos secundarios, y los datos podrían usarse de maneras que los perjudiquen o que beneficien desproporcionadamente a unos pocos.

Estos riesgos son particularmente pronunciados en los países en desarrollo de Asia, África y América Latina, debido en parte a los desequilibrios de poder entre gobiernos y empresas en el Sur y el Norte Global. Pero también existen grandes asimetrías dentro de los propios países del Sur Global, lo que requiere mucha atención a la forma en que los gobiernos que profesan hablar en nombre de la gente recopilan, utilizan y reutilizan los datos.

La necesidad de una licencia social

En teoría, el consentimiento ofrece un mecanismo para reducir los desequilibrios de poder. En realidad, los mecanismos de consentimiento existentes son limitados y, en muchos aspectos, arcaicos, y se basan en distinciones binarias (normalmente presentadas en formularios con casillas de verificación que la mayoría de los sitios web utilizan para pedirle que se registre para recibir correos electrónicos de marketing) que no aprecian la los matices y la naturaleza sensible al contexto de la reutilización de datos. Hoy en día, el consentimiento generalmente significa consentimiento individual, una noción que pasa por alto las necesidades más amplias de las comunidades y los grupos.

Si bien entendemos la necesidad de salvaguardar la información sobre un individuo, como, por ejemplo, su estado de salud, esta información puede ayudar a abordar o incluso prevenir crisis de salud social.

Las nociones individualizadas de consentimiento no consideran el bien público potencial de reutilizar datos individuales de manera responsable. Esto los hace particularmente problemáticos en sociedades que tienen orientaciones más colectivas, donde priorizar las elecciones individuales podría alterar el tejido social.

La noción de licencia social, que tiene sus raíces en la década de 1990 dentro del industrias extractivasse refiere a la aceptación colectiva de una actividad, como la reutilización de datos, en función de su alineación percibida con los valores e intereses de la comunidad.

Las licencias sociales van más allá de las prioridades de los individuos y ayudan a equilibrar los riesgos del uso indebido de datos y uso perdido (por ejemplo, los riesgos de violar la privacidad frente a descuidar el uso de datos privados para el bien público). Las licencias sociales permiten una noción más amplia de consentimiento que es dinámica, multifacética y sensible al contexto.

Los formuladores de políticas, los ciudadanos, los proveedores de servicios de salud, los grupos de expertos, los grupos de interés y la industria privada deben aceptar el concepto de licencia social antes de que pueda establecerse. El objetivo de todas las partes interesadas es establecer un consenso generalizado sobre las normas comunitarias y un equilibrio aceptable entre riesgos y oportunidades sociales.

La participación de la comunidad puede crear una base basada en el consenso para las preferencias y expectativas relativas a la reutilización de datos. La participación podría tener lugar a través de «reuniones de datos» dedicadas o deliberaciones comunitarias sobre la reutilización de datos para fines particulares y condiciones particulares. El proceso necesitaría involucrar voces lo más representativas posible de las diferentes partes involucradas, e incluir a aquellas que tradicionalmente están marginadas o silenciadas.

Innovación institucional

Más allá del compromiso comunitario, se necesita la aceptación de la comunidad jurídica y política para traducir las decisiones colectivas en instrumentos y mecanismos aplicables. Este paso crítico requiere enfoques innovadores para desarrollar formas de enmarcar y vehículos para contener nuevas funciones de gobernanza.

Una agenda de investigación interdisciplinaria dedicada a los datos, el derecho, las políticas y las ciencias sociales ayudará a vincular la teoría de las licencias sociales y su implementación práctica.

La implementación exitosa de licencias sociales probablemente también requerirá innovación institucional, lo que podría incluir resaltar el papel de los administradores de datos u otras personas encargadas de promover responsablemente el intercambio de datos. Hemos visto crecientes llamados para el rol de Director de IA (CAIO) para liderar la integración de tecnologías de IA para impulsar la innovación y lograr una ventaja competitiva.

Creemos que debería haber un papel dedicado en todos los campos de la recopilación de datos, públicos y privados, para identificar cómo se pueden utilizar los datos en una organización.

Pero también creemos que este alcance es demasiado limitado. Esa función también puede incluir la identificación de oportunidades basadas en otros datos que están disponibles o deberían estar disponibles. Además, puede incluir la identificación de oportunidades basadas en los propios datos de una organización que pueden compartirse, no sólo con fines de lucro, sino también para el bien público.

Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.