Grokipedia: Elon Musk tiene razón en que Wikipedia es parcial, pero su alternativa de IA será, en el mejor de los casos, la misma

La empresa de inteligencia artificial de Elon Musk, xAI, está a punto de lanzar la primera versión beta de Grokipedia, un nuevo proyecto que rivalizará con Wikipedia.

Grokipedia ha sido descrita por Almizcle como respuesta a lo que él considera el «sesgo político e ideológico» de Wikipedia. el ha prometido que proporcionará información más precisa y rica en contexto mediante el uso El chatbot de xAI, Grok, para generar y verificar contenido.

¿Tiene razón? La cuestión de si Wikipedia es parcial ha sido debatida desde su creación en 2001.

El contenido de Wikipedia está escrito y mantenido por voluntarios que sólo pueden citar material que ya existe en otras fuentes publicadas, ya que la plataforma prohíbe investigación original. Esta regla, que está diseñada para garantizar que los hechos puedan verificarse, significa que la cobertura de Wikipedia refleja inevitablemente los prejuicios de los medios, la academia y otras instituciones de las que se basa.

Esto no se limita al sesgo político. Por ejemplo, las investigaciones han demostrado repetidamente una desequilibrio de género significativo entre los editores, entre el 80% y el 90% se identifican como hombres en la versión en inglés.

Debido a que la mayoría de las fuentes secundarias utilizadas por los editores también son históricamente escritas por hombres, Wikipedia tiende a reflejar una visión más estrecha del mundo, un depósito del conocimiento de los hombres en lugar de un registro equilibrado del conocimiento humano.

El problema del voluntariado

El sesgo en las plataformas colaborativas a menudo surge de quién participa más que de políticas de arriba hacia abajo. La participación voluntaria introduce lo que los científicos sociales llaman sesgo de autoselección: las personas que eligen contribuir tienden a compartir motivaciones, valores y, a menudo, inclinaciones políticas similares.

Así como Wikipedia depende de esa participación voluntaria, también lo hace, por ejemplo, Notas de la comunidadla función de verificación de datos en Musk’s X (anteriormente Twitter). Un análisis de las Notas Comunitariasque realicé con colegas, muestra que la fuente externa citada con más frecuencia (después del propio X) es en realidad Wikipedia.

Otras fuentes comúnmente utilizadas por los autores de notas se agrupan principalmente hacia medios centristas o de izquierda. Incluso usan lo mismo lista de fuentes aprobadas como Wikipedia, el meollo de la crítica de Musk contra la enciclopedia abierta en línea. Sin embargo, nadie critica a Musk por este sesgo.

Wikipedia al menos sigue siendo una de las pocas plataformas a gran escala que reconoce y documenta abiertamente sus limitaciones. La neutralidad está consagrada como uno de sus cinco principios fundamentales. El sesgo existe, pero también existe una infraestructura diseñada para hacer que ese sesgo sea visible y corregible.

Los artículos a menudo incluyen múltiples perspectivas, documentan controversias e incluso dedican secciones a teorías de conspiración como las que rodean el Ataques del 11 de septiembre. Los desacuerdos son visibles a través de historiales de edición y páginas de discusión, y los reclamos impugnados están marcados con advertencias. La plataforma es imperfecta pero se corrige sola y se basa en el pluralismo y el debate abierto.

¿Es la IA imparcial?

Si Wikipedia refleja los sesgos de sus editores humanos y sus fuentes, la IA tiene el mismo problema con los sesgos de sus datos.

Modelos de lenguajes grandes (LLM) como los utilizados por Grok de xAI se entrenan en enormes conjuntos de datos recopilados de Internet, incluidas redes sociales, libros, artículos de noticias y Wikipedia misma. Los estudios han demostrado que los LLM reproducen los existentes. Sesgos de género, políticos y raciales. encontrado en sus datos de entrenamiento.

Musk ha afirmado que Grok está diseñado para contrarrestar tales distorsiones, pero el propio Grok ha sido acusado de parcialidad. un estudio en el que a cada uno de los cuatro principales LLM se les hicieron 2.500 preguntas sobre política mostró que Grok es más neutral políticamente que sus rivales, pero en realidad todavía tiene un sesgo de centro izquierda (los otros se inclinan más hacia la izquierda).

Si el modelo detrás de Grokipedia se basa en los mismos datos y algoritmos, es difícil ver cómo una enciclopedia impulsada por IA podría evitar reproducir los mismos sesgos que Musk atribuye a Wikipedia.

Peor aún, los LLM podrían exacerbar el problema. Operan de manera probabilística, prediciendo la siguiente palabra o frase más probable basándose en patrones estadísticos en lugar de deliberación entre humanos. El resultado es lo que los investigadores llaman un ilusión de consenso: una respuesta que suena autoritaria que oculta la incertidumbre o diversidad de opiniones detrás de ella.

Como resultado, los LLM tienden a homogenizar diversidad política y favorecer los puntos de vista mayoritarios sobre los minoritarios. Estos sistemas corren el riesgo de convertir el conocimiento colectivo en una narrativa fluida pero superficial. Cuando los prejuicios se esconden detrás de una prosa pulida, es posible que los lectores ya ni siquiera reconozcan que existen perspectivas alternativas.

Bebé/agua de baño

Dicho todo esto, la IA puede todavía fortalecer un proyecto como Wikipedia. Las herramientas de inteligencia artificial ya ayudan a la plataforma a detectar vandalismo, sugerir citas e identificar inconsistencias en los artículos. Aspectos destacados de investigaciones recientes cómo la automatización puede mejorar la precisión si se usa de forma transparente y bajo supervisión humana.

La IA también podría ayudar a transferir conocimientos entre ediciones en diferentes idiomas y acercar a la comunidad de editores. Si se implementa correctamente, podría hacer que Wikipedia sea más inclusivo, eficiente y receptivo sin comprometer su espíritu centrado en el ser humano.

Así como Wikipedia puede aprender de la IA, la plataforma X podría aprender del modelo de creación de consenso de Wikipedia. Community Notes permite a los usuarios enviar y calificar notas sobre publicaciones, pero su diseño limita la discusión directa entre los contribuyentes.

Otro proyecto de investigación En el que participé demostraron que los sistemas basados ​​en la deliberación inspirados en las páginas de discusión de Wikipedia mejoran la precisión y la confianza entre los participantes, incluso cuando el La deliberación ocurre entre los humanos y la IA.. Fomentar el diálogo en lugar de la actual simple votación a favor o en contra podría hacer que las Notas Comunitarias sean más transparentes, pluralistas y resilientes contra la polarización política.

Beneficio y motivación.

Una diferencia más profunda entre Wikipedia y Grokipedia radica en su propósito y quizás en su modelo de negocio. Wikipedia está dirigida por una organización sin fines de lucro. Fundación Wikimediay la mayoría de sus voluntarios están motivados principalmente por interés público. Por el contrario, xAI, X y Grokipedia son empresas comerciales.

Aunque los motivos de lucro no son intrínsecamente poco éticos, pueden distorsionar los incentivos. Cuando X comenzó a vender su verificación de cheque azulla credibilidad se convirtió en una mercancía más que en un indicador de confianza. Si el conocimiento se monetiza de manera similar, el sesgo puede aumentar, determinado por lo que genera compromiso e ingresos.

El verdadero progreso no reside en abandonar la colaboración humana sino en mejorarla. Aquellos que perciben parcialidad en Wikipedia, incluido el propio Musk, podrían hacer una mayor contribución alentando a participar a editores de diversos orígenes políticos, culturales y demográficos, o uniéndose personalmente al esfuerzo para mejorar los artículos existentes. En una época cada vez más marcada por la desinformación, la transparencia, la diversidad y el debate abierto siguen siendo nuestras mejores herramientas para abordar la verdad.

Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.