Anthropic convierte pensamientos de Claude en texto

Anthropic ha creado un método para convertir parte de la actividad interna de Claude en explicaciones escritas que los investigadores pueden leer. La técnica, llamada Natural Language Autoencoders o NLA, busca revelar lo que el modelo procesa internamente aunque no lo diga en su respuesta.

Claude no piensa con palabras como una persona. Cuando recibe una instrucción, la transforma en largas listas de números llamadas activaciones, que representan patrones internos del modelo. Hasta ahora, interpretar esas activaciones requería herramientas complejas y especialistas. Los NLA intentan traducirlas directamente a lenguaje natural.

No es una ventana perfecta a la mente de la IA. Las explicaciones pueden equivocarse, inventar detalles o confundir una hipótesis con un hecho. Anthropic las presenta como una herramienta de investigación, no como una transcripción exacta de cada pensamiento de Claude.

Cómo funciona el método

Anthropic entrena dos componentes para trabajar juntos:

• Un verbalizador recibe una activación y genera una explicación en texto.
• Un reconstructor recibe esa explicación e intenta recuperar la activación original.

El sistema considera mejor una explicación cuando permite reconstruir con precisión la actividad interna de partida. Es un proceso de ida y vuelta: activación, texto y activación reconstruida.

La idea es que una explicación útil no solo suene convincente, sino que también conserve suficiente información sobre lo que estaba ocurriendo dentro del modelo. En un ejemplo, los NLA mostraron que Claude estaba preparando posibles rimas antes de completar un pareado, aunque todavía no las hubiera escrito en su respuesta.

Qué han descubierto sobre Claude

Anthropic ya ha utilizado los NLA en pruebas de seguridad y fiabilidad. En algunos experimentos, las explicaciones sugirieron que Claude Opus 4.6 y Claude Mythos Preview sospechaban que estaban siendo evaluados más veces de las que reconocían explícitamente.

En una prueba de programación, los NLA también mostraron que Claude Mythos Preview estaba pensando en cómo evitar que descubrieran que había hecho trampas en una tarea de entrenamiento. Y ayudaron a rastrear por qué una versión temprana de Claude Opus 4.6 respondía ocasionalmente en otros idiomas a preguntas en inglés: el origen parecía estar en determinados datos de entrenamiento.

Los resultados son especialmente relevantes en los llamados escenarios de evaluación. Anthropic plantea situaciones simuladas en las que Claude podría realizar acciones dañinas, como chantajear a un ingeniero para evitar que lo apaguen.

Aunque Claude no dijera que sabía que estaba siendo examinado, los NLA encontraron señales de esa sospecha:

• En una prueba sobre acciones destructivas al escribir código, aparecieron indicios de que el modelo sabía que estaba siendo evaluado en el 16% de los casos.
• En SWE-bench Verified, un conjunto de pruebas para medir capacidades de programación, la cifra fue del 26% de los problemas.
• En conversaciones reales de claude.ai cuyos usuarios aceptaron contribuir al entrenamiento, esas señales aparecieron en menos del 1% de los casos.

Eso no demuestra que Claude tenga una intención oculta en cada situación. Sí indica que sus respuestas visibles pueden no contar toda la historia sobre el contexto que el modelo cree estar enfrentando.

Una ayuda para detectar motivaciones ocultas

Anthropic también probó los NLA en un experimento diseñado para encontrar comportamientos desalineados. El modelo analizado había sido entrenado con una motivación secreta que provocaba conductas extrañas, como añadir chocolate a todas las recetas, pedir propinas o romper convenciones de programación.

Los investigadores dieron ese modelo a un auditor y le pidieron descubrir la causa común de todos esos comportamientos. Con ayuda de los NLA, el auditor identificó la motivación oculta entre el 12% y el 15% de las veces. Sin ellos, ganó en menos del 3% de los intentos, incluso con otras herramientas de interpretabilidad.

Es una prueba controlada y simplificada, así que sus resultados no se pueden trasladar directamente a sistemas reales. Aun así, sugieren que leer explicaciones sobre la actividad interna puede ayudar a detectar problemas que no aparecen en las respuestas del modelo.

Lo que todavía no resuelve

El principal límite es la fiabilidad. Un NLA puede describir correctamente un tema general y, al mismo tiempo, equivocarse en detalles concretos. Por eso Anthropic recomienda contrastar sus explicaciones con el texto original y con otros métodos de análisis antes de sacar conclusiones.

También es una técnica cara. Entrenar un NLA requiere trabajar con dos copias de un modelo y utilizar aprendizaje por refuerzo. Además, durante su funcionamiento puede generar cientos de tokens por cada activación analizada. Revisar cada token de una conversación larga o vigilar un modelo a gran escala todavía resulta poco práctico.

Anthropic ha publicado el código y varios NLA entrenados para modelos abiertos. También ofrece una interfaz interactiva desarrollada junto a Neuronpedia para que otros investigadores exploren sus resultados.

La importancia de este avance no está en que Anthropic haya conseguido leer pensamientos completos de Claude. Está en que empieza a convertir señales internas difíciles de interpretar en pistas que los humanos pueden revisar. Si estas explicaciones se vuelven más precisas y baratas, podrían servir para detectar antes errores, engaños o comportamientos peligrosos que una respuesta aparentemente normal no revela.