AI vs UE: ChatGPT sacude los planes de regulación de Bruselas

¿Cómo proteges a las personas que usan nuevas tecnologías cuando pueden cambiar radicalmente de un día para otro?

Ese es el enigma al que se enfrenta la UE en su carrera por regular la inteligencia artificial.

La IA se usa ampliamente, pero el robot conversacional ChatGPT ha transformado la forma en que las personas ven la tecnología y cómo los reguladores deben monitorearla para protegerse contra los riesgos.

Creado por la startup estadounidense OpenAI, ChatGPT apareció en noviembre y rápidamente fue aprovechado por usuarios asombrados por su capacidad para responder preguntas difíciles con claridad, escribir sonetos o codificar y proporcionar información sobre temas complicados.

ChatGPT incluso ha pasado exámenes médicos y legales establecidos para estudiantes humanos, obteniendo altas calificaciones.

Pero la tecnología también conlleva muchos riesgos, ya que su sistema de aprendizaje y los modelos similares de la competencia se integran en las aplicaciones comerciales.

La Unión Europea ya estaba profundamente involucrada en el proceso de creación de un marco regulatorio en línea, y ahora debe volver a la mesa de dibujo para descubrir cómo regular efectivamente la IA.

La Comisión Europea, el brazo ejecutivo de la UE, anunció por primera vez un plan en abril de 2021 para un libro de reglas de IA, y el Parlamento Europeo espera finalizar su texto de Ley de IA preferido este mes.

El comisionado de industria de la UE, Thierry Breton, dijo que los eurodiputados, la comisión y los estados miembros están trabajando juntos para «aclarar aún más las reglas» sobre los sistemas de tecnología tipo ChatGPT, conocidos como IA de propósito general, que tienen una amplia gama de funciones.

Oportunidades versus riesgos

Los usuarios de las redes sociales se han divertido experimentando con la salida de ChatGPT, pero no es un juego. Los maestros temen que los estudiantes lo usen para hacer trampa, y los legisladores temen que se use para difundir información errónea.

«Como lo muestra ChatGPT, las soluciones de IA pueden ofrecer grandes oportunidades para las empresas y los ciudadanos, pero también pueden presentar riesgos», dijo Breton.

«Es por eso que necesitamos un marco regulatorio sólido para garantizar una IA confiable basada en datos de alta calidad».

El plan es que la Comisión Europea, el Consejo Europeo, que representa a los 27 estados miembros, y el parlamento discutan una versión final de la ley de IA a partir de abril.

Dragos Tudorache, el eurodiputado que supervisa el impulso para lograr que la Ley de IA sea aprobada en el parlamento, dijo que ChatGPT era uno de los ejemplos conocidos públicamente de IA de propósito general y varios derivados.

Usando lo que se conoce como un «modelo de lenguaje grande», ChatGPT es un ejemplo de IA generativa que, operando sin guía, puede crear montones de contenido original, incluidas imágenes y texto, mediante la extracción de datos anteriores.

«De hecho, propondremos un conjunto de reglas para regir la IA de propósito general y los modelos fundamentales en particular», dijo Tudorache, eurodiputado rumano.

La semana pasada, Tudorache y el eurodiputado italiano Brando Benifei presentaron a sus compañeros legisladores un plan para imponer más obligaciones a la IA de propósito general, un texto que no figuraba en la propuesta original de la comisión.

Algunos expertos se quejan de que los riesgos de sistemas como ChatGPT siempre fueron claros y las advertencias se compartieron con los funcionarios de la UE cuando se comenzó a trabajar en la Ley de IA.

«Nuestra recomendación en ese entonces era que también deberíamos regular los sistemas de inteligencia artificial que tienen una variedad de usos», dijo Kris Shrishak, miembro de tecnología del Consejo Irlandés para las Libertades Civiles.

Pero dijo que también era igual de importante identificar los riesgos de los sistemas de IA generativa una vez que se implementan.

‘Buena base’

Shrishak dijo que la efectividad de la ley dependería del borrador final, pero que «establece una buena base. Tiene ciertos mecanismos para identificar nuevos riesgos».

Un tema más apremiante sería la aplicación, advirtió, y agregó que el parlamento estaba trabajando para fortalecer este aspecto.

«La regulación es solo un papel si no se aplica», dijo Shrishak a la AFP.

El CEO de OpenAI, Sam Altman, sugirió que los «principales gobiernos del mundo» y las «instituciones internacionales de confianza» se unan y produzcan un conjunto de reglas que digan explícitamente lo que el sistema debe y no debe hacer.

Cuando un reportero de AFP le pidió que dijera cómo se regularía a sí mismo, el motor ChatGPT dijo que agradecería una «regulación responsable y ética».

Y pidió una ley que «reconociera los beneficios potenciales de la IA y al mismo tiempo abordara los riesgos y desafíos potenciales».

© 2023 AFP