La IA está aprendiendo de lo que dijiste en Reddit, Stack Overflow o Facebook. ¿Te parece bien?

Publica un comentario en Reddit, responde preguntas de codificación en Stack Overflow, edita una entrada de Wikipedia o comparte una foto de bebé en tu feed público de Facebook o Instagram y también estarás ayudando a entrenar a la próxima generación de inteligencia artificial.

No todo el mundo está de acuerdo con eso, especialmente porque los mismos foros en línea en los que han pasado años contribuyendo están cada vez más inundados de comentarios generados por IA que imitan lo que los humanos reales podrían decir.

Algunos usuarios antiguos han intentado borrar sus contribuciones anteriores o reescribirlas en un lenguaje incomprensible, pero las protestas no han tenido mucho efecto. Un puñado de gobiernos, incluido el regulador de privacidad de Brasil el martes, también han intentado intervenir.

«Una parte importante de la población se siente desamparada», dijo la moderadora voluntaria de Reddit Sarah Gilbert, que también estudia las comunidades en línea en la Universidad de Cornell. «No hay otra opción que desconectarse por completo o no contribuir de maneras que les aporten valor a ellos y a los demás».

Las plataformas están respondiendo, con resultados dispares. Tomemos como ejemplo Stack Overflow, el popular centro de consejos de programación informática. Primero, prohibió las respuestas escritas en ChatGPT debido a errores frecuentes, pero ahora se está asociando con desarrolladores de chatbots de IA y ha castigado a algunos de sus propios usuarios que intentaron borrar sus contribuciones anteriores en protesta.

Es una de varias plataformas de redes sociales que luchan contra la cautela de los usuarios (y ocasionales revueltas) mientras intentan adaptarse a los cambios que trae la IA generativa.

El desarrollador de software Andy Rotering de Bloomington, Minnesota, ha usado Stack Overflow a diario durante 15 años y dijo que le preocupa que la compañía «pueda estar dañando inadvertidamente su mayor recurso»: la comunidad de colaboradores que han donado tiempo para ayudar a otros programadores.

«Mantener a los colaboradores motivados para que brinden comentarios debería ser primordial», dijo.

Prashanth Chandrasekar, director ejecutivo de Stack Overflow, dijo que la empresa está tratando de equilibrar la creciente demanda de asistencia de codificación generada por chatbots instantáneos con el deseo de una «base de conocimiento» comunitaria donde las personas todavía quieran publicar y «ser reconocidas» por lo que han contribuido.

«Dentro de cinco años, habrá todo tipo de contenido generado por máquinas en la web», dijo en una entrevista. «Habrá muy pocos lugares donde haya pensamiento humano verdaderamente auténtico y original. Y nosotros somos uno de esos lugares».

Chandrasekar describe fácilmente los desafíos de Stack Overflow como uno de los «estudios de caso» que conoció en la Harvard Business School, sobre cómo una empresa sobrevive -o no- después de un cambio tecnológico disruptivo.

Durante más de una década, los usuarios solían llegar a Stack Overflow después de escribir una pregunta sobre programación en Google, encontrar la respuesta, copiarla y pegarla. Las respuestas que tenían más probabilidades de ver provenían de voluntarios que habían acumulado puntos que medían su credibilidad, lo que en algunos casos podía ayudarlos a conseguir un trabajo.

Ahora los programadores pueden simplemente preguntarle a un chatbot de IA (algunos de los cuales ya están entrenados en todo lo publicado en Stack Overflow) y este puede dar una respuesta instantáneamente.

El debut de ChatGPT a finales de 2022 amenazó con dejar fuera del negocio a Stack Overflow. Por ello, Chandrasekar creó un equipo especial de 40 personas en la empresa para acelerar el lanzamiento de su propio chatbot de IA especializado, llamado Overflow AI. Luego, la empresa llegó a acuerdos con Google y el fabricante de ChatGPT, OpenAI, lo que permitió a los desarrolladores de IA aprovechar el archivo de preguntas y respuestas de Stack Overflow para mejorar aún más sus grandes modelos de lenguaje de IA.

Ese tipo de estrategia tiene sentido, pero puede que haya llegado demasiado tarde, dijo Maria Roche, profesora adjunta de la Escuela de Negocios de Harvard. «Me sorprende que Stack Overflow no haya trabajado en esto antes», dijo.

Cuando algunos usuarios de Stack Overflow intentaron eliminar sus comentarios anteriores después de que se anunció la asociación con Open AI, la empresa respondió suspendiendo sus cuentas debido a los términos que hacen que todas las contribuciones estén «licenciadas perpetua e irrevocablemente a Stack Overflow».

«Lo abordamos rápidamente y dijimos: ‘Miren, ese no es un comportamiento aceptable'», dijo Chandrasekar, describiendo a los manifestantes como una pequeña minoría en los «cientos» de los 100 millones de usuarios de la plataforma.

El martes, la autoridad nacional de protección de datos de Brasil tomó medidas para prohibir al gigante de las redes sociales Meta Platforms entrenar sus modelos de inteligencia artificial en las publicaciones de Facebook e Instagram de los brasileños. Estableció una multa diaria de 50.000 reales (8.820 dólares) en caso de incumplimiento.

En un comunicado, Meta lo calificó como un «paso atrás para la innovación» y dijo que ha sido más transparente que muchos colegas de la industria que realizan capacitaciones similares en inteligencia artificial sobre contenido público, y que sus prácticas cumplen con las leyes brasileñas.

Meta también ha encontrado resistencia en Europa, donde recientemente suspendió sus planes de comenzar a incorporar las publicaciones públicas de la gente a los sistemas de entrenamiento de inteligencia artificial, algo que se suponía que debía haber comenzado la semana pasada. En Estados Unidos, donde no existe una ley nacional que proteja la privacidad en línea, es probable que ese entrenamiento ya se esté llevando a cabo.

«La gran mayoría de las personas simplemente no tienen idea de que sus datos están siendo utilizados», dijo Gilbert.

Reddit ha adoptado un enfoque diferente: se ha asociado con desarrolladores de inteligencia artificial como OpenAI y Google, pero ha dejado claro que las entidades comerciales no pueden tomar contenido en masa sin la aprobación de la plataforma «sin tener en cuenta los derechos o la privacidad de los usuarios». Los acuerdos ayudaron a que Reddit consiguiera el dinero que necesitaba para debutar en Wall Street en marzo, y los inversores elevaron el valor de la empresa a casi 9.000 millones de dólares segundos después de que comenzara a cotizar en la Bolsa de Nueva York.

Reddit no ha intentado castigar a los usuarios que protestaron, ni podría hacerlo fácilmente dada la gran influencia que tienen los moderadores voluntarios sobre lo que sucede en sus foros especializados, conocidos como subreddits. Pero lo que preocupa a Gilbert, que ayuda a moderar el subreddit «AskHistorians», es el flujo cada vez mayor de comentarios generados por IA que los moderadores deben decidir si permiten o prohíben.

«La gente viene a Reddit porque quiere hablar con otras personas, no con bots», dijo Gilbert. «Hay aplicaciones con las que pueden hablar con bots si quieren, pero históricamente Reddit ha sido para conectarse con humanos».

Ella dijo que es irónico que el contenido generado por IA que amenaza a Reddit provenga de los comentarios de millones de Redditors humanos, y «existe un riesgo real de que eventualmente pueda terminar expulsando a la gente».

© 2024 The Associated Press. Todos los derechos reservados. Este material no puede ser publicado, transmitido, reescrito o redistribuido sin autorización.