El proyecto de enciclopedia Grokipedia de Elon Musk genera inquietudes sobre la confianza y la precisión.

Qué sucedió: La nueva enciclopedia impulsada por IA de Elon Musk, Grokipedia, ya se encuentra en serios aprietos.

• Un nuevo estudio de investigadores de Cornell Tech acaba de publicarse y es bastante contundente. Afirman que la plataforma está plagada de referencias a fuentes sumamente poco fiables y sesgadas.
• Grokipedia fue lanzada el mes pasado por xAI, la compañía de IA de Musk . Se suponía que sería un nuevo rival de Wikipedia , a la que Musk y otros suelen acusar de tener un sesgo liberal.
• Pero aquí viene lo sorprendente: el estudio de Cornell descubrió que Grokipedia no solo copia gran parte de su texto directamente de Wikipedia, sino que también cita fuentes que la propia Wikipedia ha prohibido por ser basura total.
• ¿El ejemplo más impactante que encontraron? Grokipedia tenía una entrada sobre la teoría conspirativa del supuesto número de víctimas de Clinton. ¿Y la fuente que citaba para respaldar esta afirmación desacreditada hace mucho tiempo? InfoWars . Sí, ese InfoWars.

¿Por qué es importante?: Todo esto pone de manifiesto un enorme problema con estas nuevas herramientas de información basadas en IA: no parecen tener ningún estándar para sus fuentes.

• Según el estudio, los artículos de Grokipedia que no fueron simplemente copiados de Wikipedia tenían más del triple de probabilidades de citar una fuente poco fiable y 13 veces más probabilidades de utilizar una fuente que figura en una lista negra.
• Esto es realmente grave. Una plataforma de IA como esta puede escalar y difundir ese tipo de basura conspiranoica a millones de personas en una fracción de segundo, sin que un solo editor humano la revise.

¿Por qué debería importarme?: Miren, todos estamos empezando a depender de las herramientas de IA para obtener información rápida. Pero ahí radica el peligro.

• Cuando le pides información a una IA, podrías estar recibiendo una gran cantidad de información engañosa y con sesgo político, sin darte cuenta.
• Está difuminando la línea entre un hecho y simplemente… algo que el algoritmo se inventó.
• Además, cabe destacar que Musk ahora controla múltiples plataformas de información de gran envergadura: X (Twitter) y esta nueva empresa de IA. Eso supone un enorme control sobre lo que la gente ve y lee.

¿Qué sigue?: Musk, por su parte, ya anunció que cambiará el nombre de Grokipedia a “Encyclopedia Galactica”, describiéndola como una “versión de ciencia ficción de la Biblioteca de Alejandría”. (Sí, en serio).

• Pero, como señalan los expertos, se le puede llamar de cualquier manera. Sin una rendición de cuentas real y un compromiso con el uso de fuentes fiables y veraces, no hará más que convertirse en una máquina para amplificar la desinformación, en lugar de corregirla.
• Mientras tanto, la Fundación Wikimedia (los creadores de Wikipedia) emitió un comunicado que básicamente decía: “¿Lo ven? Por eso mantenemos nuestro modelo abierto y gestionado por la comunidad. Es la única manera de generar confianza”.