Si últimamente has estado chateando con ChatGPT y has notado que incluye referencias extrañamente específicas a duendes, gremlins, ogros o trolls, no te lo estás imaginando. OpenAI ha explicado por qué ChatGPT ha desarrollado este peculiar hábito y cómo se está solucionando.
Cómo una peculiaridad "nerd" se convirtió en el problema de todos.
El problema comenzó discretamente con GPT-5.1, lanzado en noviembre . Tras su lanzamiento, el uso de la palabra "duende" en las respuestas de ChatGPT aumentó un 175%, mientras que "gremlin" subió un 52%. El culpable resultó ser una de las configuraciones de personalidad opcionales de ChatGPT llamada "Nerdy", diseñada para que la IA sonara juguetona e intelectualmente curiosa.
Durante el entrenamiento, OpenAI otorgó accidentalmente al modelo recompensas inusualmente altas por respuestas que incluían metáforas basadas en criaturas, y el hábito se arraigó rápidamente.
¿Cómo es posible que una sola configuración de personalidad provocara tanta charla entre los goblins?
Aquí es donde la cosa se pone interesante. Incluso los usuarios que nunca activaron la personalidad "nerd" empezaron a ver referencias a duendes en sus chats. Esto se debe a que el entrenamiento de la IA no se limita a una sola configuración. Una vez que el modelo ChatGPT fue recompensado por ese estilo, el comportamiento se extendió a las respuestas generales en todos los ámbitos.
Según OpenAI, la personalidad "nerd" representó solo el 2,5% de todas las respuestas de ChatGPT, pero fue responsable del 66,7% de todas las menciones de goblins.
¿Cómo está solucionando OpenAI este problema?
OpenAI eliminó la personalidad Nerdy en marzo con ChatGPT-5.4 , lo que provocó una drástica disminución de las referencias a duendes. La compañía también eliminó la señal de recompensa que impulsaba dicho comportamiento y filtró los datos de entrenamiento para reducir las referencias a otras criaturas mágicas.
Sin embargo, su herramienta de codificación, Codex , requería una instrucción de anulación aparte, ya que había comenzado a entrenarse antes de que se identificara la causa raíz. Los aficionados a la fantasía aún pueden desbloquear el modo duende en Codex manualmente, si así lo desean.
OpenAI también está lidiando con otras decisiones relacionadas con la personalidad, incluida la de suspender indefinidamente su modo para adultos, previamente anunciado para usuarios verificados .