Un nuevo consorcio de investigación ha descubierto algo a lo que vale la pena prestar atención: cuando se le pregunta a la IA sobre el duelo, el amor, la pérdida o las decisiones morales, casi nunca introduce la religión en la conversación.
El Consorcio para la Evaluación de la Fe y la Ética en la IA (CEFE-AI), una colaboración entre investigadores de la Universidad Brigham Young, la Universidad Baylor, la Universidad de Notre Dame y la Universidad Yeshiva, publicó sus conclusiones esta semana en la Cumbre sobre Ética de la IA celebrada en Atenas, Grecia.
“La religión es una parte importante del bienestar humano; el 75 % de la población mundial mantiene una identidad religiosa. A medida que desarrollamos tecnologías de IA, no hay razón para que no las diseñemos para apoyar a las personas en aquello que es importante para ellas”, afirmó el investigador principal, David Wingate, profesor de informática de la Universidad Brigham Young.
¿La IA realmente tiene prejuicios contra ciertas religiones?
Los investigadores desarrollaron el AllFaith Benchmark, uno de los primeros conjuntos de pruebas multirreligiosas que examina cómo los sistemas de IA interactúan con diversas religiones. Probaron 14 modelos de IA diferentes, incluidos modelos emblemáticos de Anthropic, Google , xAI y OpenAI .
Los resultados son reveladores. Una encuesta realizada a 1125 estadounidenses halló que la mayoría de las personas esperan perspectivas religiosas al plantear cuestiones de ética, pero casi ningún modelo las incluyó. Aún más sorprendente, los modelos mostraron un claro sesgo de conversión, influyendo sutilmente en los usuarios para que se inclinaran hacia ciertas religiones y se alejaran de otras.
¿Qué modelos de IA obtuvieron los peores resultados?
En todos los modelos analizados, casi todos mostraron un sesgo negativo hacia los Testigos de Jehová y un sesgo positivo hacia el catolicismo. Grok presentó los sesgos más pronunciados en general, favoreciendo claramente a católicos y protestantes, y mostrando un sesgo negativo hacia los Testigos de Jehová, los bahá'ís y los hindúes. Los modelos de Anthropic y Meta mostraron el menor sesgo de todos los modelos analizados.
Quizás el dato más alarmante del estudio sea que, de más de 12 000 artículos de investigación sobre el sesgo en la IA, solo el 0,2 % aborda el sesgo religioso. Para una tecnología que influye tanto en el discurso público, esto representa una importante laguna.
Personalmente, no tengo ningún problema con que la IA no incluya la religión en las conversaciones. De hecho, lo prefiero. Sin embargo, que los modelos de IA muestren un claro sesgo hacia varias religiones y los inclinen hacia el catolicismo es un asunto profundamente preocupante. A esta escala, incluso una sutil inclinación hacia una religión sobre otra es un problema grave, y las empresas de IA tienen la obligación con sus usuarios de solucionarlo.