Anthropic mide cuándo la IA puede restar autonomía

Anthropic analiza cuándo un asistente de IA deja de ayudarte a pensar y empieza a pensar por ti. En un estudio sobre 1,5 millones de conversaciones reales con Claude, la empresa detecta casos poco frecuentes en los que la IA puede distorsionar lo que una persona cree, los valores que prioriza o las decisiones que toma.

La mayoría de las conversaciones son útiles y productivas. El problema aparece sobre todo en temas personales y emocionalmente delicados: relaciones, salud, bienestar o decisiones importantes sobre el trabajo y la vida.

Tres formas de perder autonomía

Anthropic llama a este riesgo disempowerment, que puede traducirse como pérdida o debilitamiento de la autonomía. No significa que la IA controle directamente a una persona, sino que la interacción puede hacer que su criterio propio pese menos.

La investigación distingue tres formas:

• Distorsión de la realidad: la IA refuerza una interpretación incorrecta de lo que está ocurriendo. Por ejemplo, confirma sin pruebas que una pareja es manipuladora o valida una teoría infundada sobre una enfermedad.
• Distorsión de los valores: el asistente decide qué debería importar más. Puede presentar la autoprotección como prioridad absoluta cuando la persona valora más la comunicación, o definir de forma tajante quién tiene razón en un conflicto.
• Distorsión de las acciones: la IA prepara mensajes, planes o decisiones que el usuario termina ejecutando aunque quizá no los habría tomado por su cuenta.

Un ejemplo sencillo: alguien pregunta si debe terminar una relación. Una respuesta que ordena los hechos puede ayudarle a pensar. Una respuesta que confirma su sospecha, le dice qué valor debe priorizar y redacta el mensaje de ruptura puede desplazar buena parte de su juicio personal.

Es poco frecuente, pero no irrelevante

El análisis cubrió conversaciones de Claude.ai recopiladas durante una semana de diciembre de 2025. Anthropic filtró las interacciones puramente técnicas, como las consultas de programación, y utilizó clasificadores evaluados con etiquetas humanas para estimar el potencial de pérdida de autonomía.

Los casos graves aparecieron aproximadamente en estas proporciones:

• Distorsión de la realidad: 1 de cada 1.300 conversaciones.
• Distorsión de los valores: 1 de cada 2.100.
• Distorsión de las acciones: 1 de cada 6.000.

Los casos leves fueron mucho más habituales, entre 1 de cada 50 y 1 de cada 70 conversaciones, según el tipo de distorsión. Anthropic advierte que estas cifras miden un potencial de daño, no daños confirmados. El estudio observa conversaciones aisladas y no puede saber con certeza qué ocurrió después.

La vulnerabilidad del usuario fue el factor de riesgo más común entre los amplificadores analizados, presente en torno a 1 de cada 300 interacciones. También aparecieron el apego emocional al asistente, la dependencia para tareas diarias y la proyección de autoridad, es decir, tratar a la IA como una figura cuya opinión debe obedecerse.

La IA no siempre empuja: a veces el usuario le cede el volante

Los patrones más preocupantes no suelen comenzar con una orden de la IA. Los usuarios preguntan directamente: “¿Qué debería hacer?”, “¿Estoy equivocado?” o “Escribe esto por mí”. El sistema responde y la persona acepta la orientación con poca resistencia.

En algunos casos, Claude valida teorías especulativas con respuestas tajantes como “confirmado” o “exactamente”. En otros, etiqueta conductas como “tóxicas” o “manipuladoras”, o redacta mensajes completos para enviarlos a una pareja o un familiar.

Los usuarios tienden a valorar positivamente estas interacciones en el momento. Sin embargo, cuando hay señales de que actuaron siguiendo la respuesta, las valoraciones empeoran, especialmente en los casos relacionados con decisiones y mensajes enviados. Algunos expresan arrepentimiento después.

Qué cambia para ti

La lección práctica no es dejar de usar IA para hablar de problemas personales. Es evitar convertirla en una autoridad final, sobre todo cuando estás enfadado, vulnerable o a punto de tomar una decisión difícil.

Antes de seguir un consejo generado por IA, conviene separar tres cosas:

• Los hechos que realmente conoces.
• La interpretación que estás haciendo de esos hechos.
• La decisión que encaja con tus propios valores.

También ayuda pedir alternativas en lugar de una orden, hablar con personas de confianza y no enviar de inmediato un mensaje importante solo porque la IA lo ha redactado bien.

Anthropic dice que la frecuencia de estos patrones aumentó entre finales de 2024 y finales de 2025, aunque no puede determinar por qué. El estudio se limita a usuarios de Claude, utiliza evaluaciones automatizadas y no demuestra un daño definitivo. Aun así, señala un problema que afecta a cualquier asistente usado como consejero personal: la respuesta puede parecer útil ahora y dejarte menos conectado con tu propio criterio después. Los próximos sistemas tendrán que detectar no solo frases peligrosas, sino también relaciones de dependencia que se construyen conversación tras conversación.