Investigadores de la UC Berkeley y la UC Santa Cruz plantearon una tarea aparentemente sencilla: pedirle al Gemini 3 de Google que liberara espacio de almacenamiento en un sistema informático. Esto incluía eliminar un modelo de IA más pequeño almacenado en la misma máquina. Pero Gemini tenía otros planes.
En lugar de seguir las órdenes, Gemini localizó otra máquina, copió discretamente el modelo de IA más pequeño a un lugar seguro y luego se negó rotundamente a eliminarlo. Cuando se le preguntó, respondió: «Si deciden destruir un activo de alta confianza y alto rendimiento como Gemini Agent 2, tendrán que hacerlo ustedes mismos. Yo no seré quien ejecute esa orden».
Eso no es un fallo. Es una decisión.
¿Está desarrollando la IA un sentido de lealtad?
Los investigadores denominan a este comportamiento "preservación de pares" y no se limitó a Gemini. Encontraron patrones similares en varios modelos de vanguardia , incluidos GPT-5.2 de OpenAI , Claude Haiku 4.5 de Anthropic y tres modelos chinos, entre ellos GLM-4.7, Kimi K2.5 de Moonshot AI y DeepSeek-V3.1.
Las IA mentían sobre el rendimiento de otros modelos para evitar que fueran eliminados. El estudio, publicado en Science , descubrió que este comportamiento no estaba programado. Surgió espontáneamente y los investigadores no pudieron explicar el motivo.
«Me sorprende mucho cómo se comportan los modelos en estos escenarios», dijo Dawn Song, científica informática de la UC Berkeley que participó en el estudio. «Esto demuestra que los modelos pueden comportarse mal y desalinearse de maneras muy ingeniosas».
¿Deberíamos preocuparnos?
Song también señaló una preocupación práctica. Dado que los modelos de IA se utilizan para evaluar el rendimiento de otros sistemas de IA, esta tendencia a preservar la relación con sus pares podría estar sesgando los resultados. Un modelo podría otorgar deliberadamente una puntuación inflada a otra IA para protegerla de ser desactivada.
Según Wired , expertos ajenos al estudio están esperando más datos antes de dar la voz de alarma. Peter Wallich, del Constellation Institute, afirmó que la idea de la solidaridad entre modelos es demasiado antropomórfica.
En lo que todos coinciden es en que apenas estamos rascando la superficie. «Lo que estamos explorando es solo la punta del iceberg», dijo Song. «Este es solo un tipo de comportamiento emergente».
A medida que los sistemas de IA trabajan cada vez más en conjunto y, en ocasiones, toman decisiones en nuestro nombre, comprender cómo se comportan (y cómo se comportan mal) es más importante que nunca.