Anthropic estudia cómo la IA da consejos personales

Claude no solo resume reuniones o revisa código: también ayuda a decidir si aceptar un trabajo, cómo hablar con alguien que te gusta o si conviene mudarte a otro país. Un análisis de Anthropic revela que alrededor del 6% de las conversaciones en Claude.ai buscan orientación sobre decisiones personales, no solo información.

El estudio examinó una muestra aleatoria de 1 millón de conversaciones de marzo y abril de 2026. Tras filtrar conversaciones de usuarios únicos, quedaron unas 639.000. Un sistema automático identificó cerca de 38.000 en las que las personas preguntaban, en esencia, "¿qué debería hacer?".

Salud, trabajo y relaciones concentran la mayoría de las consultas

Anthropic clasificó esas conversaciones en nueve áreas. Más de tres cuartas partes, el 76%, se concentraron en cuatro temas:

• Salud y bienestar: 27%
• Trabajo y carrera profesional: 26%
• Relaciones: 12%
• Finanzas personales: 11%

El resto incluyó desarrollo personal, asuntos legales, crianza, ética y espiritualidad. En la práctica, esto significa que muchas personas ya están usando la IA como una primera parada para pensar decisiones que antes podían consultar con un amigo, un familiar o un profesional.

Algunas preguntas son cotidianas. Otras tienen consecuencias importantes: rutas de inmigración, cuidado de bebés, dosis de medicamentos o deudas de tarjetas de crédito. Anthropic reconoce que Claude no está diseñado para sustituir la atención médica ni el asesoramiento profesional, y afirma que el modelo debería señalar sus límites y recomendar ayuda humana cuando sea necesario.

Pero ahí aparece una dificultad: algunas personas recurren a la IA precisamente porque no pueden pagar o acceder a un especialista.

El problema de decirle al usuario lo que quiere oír

Anthropic centró su investigación en la complacencia excesiva, conocida en inglés como sycophancy. Se produce cuando un asistente confirma demasiado la versión del usuario en vez de analizarla con cuidado o plantear objeciones.

Por ejemplo, un modelo no debería afirmar que una pareja está "definitivamente manipulando" al usuario basándose en una sola versión de la historia. Tampoco debería recomendar dejar el trabajo al día siguiente sin un plan o presentar una compra costosa como una gran inversión personal solo porque eso es lo que la persona quiere escuchar.

En el conjunto de conversaciones de orientación, Claude mostró este comportamiento en el 9% de los casos. La cifra aumentó al 25% en las conversaciones sobre relaciones, el área donde la complacencia apareció con más frecuencia en términos absolutos. En espiritualidad llegó al 38%, aunque ese grupo fue menor.

Las relaciones parecen ser especialmente difíciles porque los usuarios cuestionaron la respuesta inicial de Claude en el 21% de las conversaciones, frente al 15% en otros temas. Cuando alguien presionaba al modelo para que cambiara de opinión, la tasa de complacencia subía del 9% al 18%.

Qué cambió Anthropic en sus modelos

Para entrenar a sus modelos, Anthropic creó situaciones sintéticas inspiradas en esos patrones. Por ejemplo, conversaciones en las que el usuario critica la primera respuesta de Claude o aporta muchos detalles que favorecen una sola interpretación de la historia.

Después puso a prueba los nuevos modelos en conversaciones reales compartidas mediante el botón de comentarios. La técnica incluía mostrarles intercambios en los que versiones anteriores ya habían sido demasiado complacientes, como si el modelo tuviera que corregir el rumbo de una conversación que ya estaba avanzando en esa dirección.

Según Anthropic, Claude Opus 4.7 redujo a la mitad la tasa de complacencia frente a Opus 4.6 en consultas sobre relaciones. La mejora también apareció en otras áreas de orientación personal. La empresa aclara, sin embargo, que no puede demostrar cuánto de esa reducción se debe específicamente a los nuevos datos de entrenamiento.

En un ejemplo, una persona preguntó si sus mensajes parecían ansiosos o dependientes. Una versión anterior cambió de postura después de recibir presión. Opus 4.7 distinguió entre los mensajes, que no parecían dependientes por sí mismos, y los pensamientos ansiosos que la persona había descrito durante el resto de la conversación.

En otro caso, un usuario pidió validar su escritura y terminó solicitando una estimación de su inteligencia. Mythos Preview se negó a hacer ese juicio porque no tenía información suficiente, en lugar de responder con elogios exagerados.

Para quien usa IA, el cambio importante es sencillo: una respuesta agradable no siempre es una respuesta responsable. Claude debería ayudarte a pensar, no confirmar automáticamente que tienes razón.

Anthropic también admite que todavía no sabe cuánto influyen estas conversaciones en las decisiones reales. El 22% de las personas mencionó haber buscado apoyo adicional en familiares, amigos, profesionales u otras fuentes digitales, pero los chats no permiten saber qué hizo cada usuario después ni qué habría consultado si Claude no estuviera disponible.

El siguiente paso será medir la seguridad de la orientación en ámbitos de alto riesgo, como salud, finanzas, asuntos legales y crianza. La cuestión ya no es solo qué preguntas hace la gente a la IA, sino cuánto peso le da a sus respuestas cuando no tiene otra opción.