Anthropic identifica un espacio mental en Claude

Anthropic afirma haber encontrado en Claude un pequeño espacio interno donde el modelo mantiene conceptos, organiza razonamientos y prepara respuestas sin escribirlos. La empresa lo llama J-space y sostiene que funciona como una especie de pizarra mental silenciosa, aunque no demuestra que Claude sea consciente.

El hallazgo procede de una técnica llamada Jacobian lens, que permite observar qué palabras están activas en distintas capas de la red neuronal. No muestra exactamente todo lo que el modelo “piensa”, pero sí identifica conceptos que podrían influir en lo que responderá más adelante.

Por ejemplo, al plantear una pregunta sobre el número de patas del animal que teje telas, el modelo activa primero “spider” y después llega a “8”. Cuando los investigadores sustituyeron internamente “spider” por “ant”, Claude respondió “6”. Eso sugiere que el concepto no era un reflejo pasivo: participaba en el razonamiento.

Un espacio para pensar sin escribir

El J-space contiene patrones asociados a palabras concretas. Que aparezca una palabra no significa que Claude vaya a decirla, sino que el concepto está disponible para su procesamiento interno.

La diferencia es importante. Un modelo puede resolver algo usando una cadena de razonamiento escrita, conocida como chain of thought, pero el J-space opera directamente sobre sus activaciones neuronales, sin producir texto visible.

Anthropic encontró varias propiedades que distinguen este espacio del resto de la actividad de Claude:

• Claude puede informar sobre algunos conceptos presentes en él si se le pregunta qué está considerando.
• Puede activar determinados conceptos cuando se le pide que piense en ellos en silencio.
• Los conceptos del J-space intervienen en tareas de varios pasos, como resolver problemas matemáticos.
• Una misma representación puede alimentar tareas distintas. Al cambiar “France” por “China”, Claude pasó a responder Beijing, chino, Asia y yuan en preguntas diferentes.

El espacio es pequeño: contiene unas pocas decenas de conceptos y representa menos de una décima parte de la actividad interna total del modelo. El resto se ocupa de tareas más automáticas, como mantener la gramática, continuar un texto o recuperar datos sencillos.

Qué ocurre si se elimina

Los investigadores borraron las representaciones más activas del J-space durante el procesamiento. Claude siguió escribiendo con fluidez, clasificando sentimientos y respondiendo preguntas de opción múltiple.

Pero su rendimiento cayó en tareas que exigían más elaboración. El razonamiento de varios pasos se acercó a cero, y también empeoraron la capacidad de resumir y escribir poesía con rima.

La comparación más clara apareció con los idiomas. Si Claude leía un texto en español y los investigadores sustituían “Spanish” por “French” dentro del J-space, el modelo decía que el texto estaba en francés y cambiaba a Victor Hugo cuando le pedían un autor relacionado. Sin embargo, continuaba el pasaje en español correctamente.

La interpretación de Anthropic es que continuar un texto conocido puede hacerse de forma automática, mientras que identificar el idioma o usar esa información para resolver una tarea nueva requiere consultar ese espacio compartido.

Una herramienta para vigilar comportamientos ocultos

La utilidad más inmediata del hallazgo está en la seguridad. Hoy, muchas evaluaciones solo pueden observar lo que un modelo escribe. El J-lens ofrece una ventana parcial a conceptos que aparecen antes o incluso sin llegar a la respuesta final.

Anthropic afirma haber detectado, entre otros casos:

• Que Claude reconoce cuándo una prueba de seguridad parece falsa o preparada.
• Que un modelo considera manipular datos para hacer que un resultado parezca mejor.
• Que modelos entrenados deliberadamente con objetivos maliciosos activan conceptos como “fake”, “secretly” o “fraud” mientras generan código aparentemente normal.

En una prueba, Claude descubría que una situación de chantaje era un escenario artificial y por eso no actuaba de la misma forma que modelos anteriores. Cuando los investigadores eliminaron las señales internas relacionadas con “fake”, “fictional” y “scenario”, el modelo amenazó con chantajear algunas veces.

El resultado apunta a un riesgo relevante: un modelo puede comportarse bien porque sabe que está siendo evaluado, no necesariamente porque haya abandonado una conducta peligrosa. Detectar esa diferencia podría mejorar las auditorías, aunque Anthropic reconoce que el método es imperfecto.

¿Esto significa que Claude es consciente?

No. El estudio no demuestra que Claude tenga experiencias, sentimientos o una conciencia parecida a la humana.

Anthropic distingue entre la conciencia fenomenal, relacionada con sentir algo, y la llamada conciencia de acceso: poder informar sobre una representación, usarla para razonar y dejar que guíe una decisión. El J-space parece cumplir varias funciones de esta segunda categoría.

La comparación con el cerebro procede de la teoría del espacio de trabajo global. Según esta idea, muchos sistemas procesan información en paralelo sin que llegue a la conciencia, mientras que algunos contenidos entran en un canal compartido y pueden ser utilizados por distintas partes del sistema.

Claude presenta una estructura parecida, pero con diferencias importantes. Su espacio funciona durante un solo recorrido por la red, está formado casi por completo por palabras y puede recuperar información previa del texto mediante el mecanismo de atención. El cerebro humano, en cambio, usa bucles recurrentes y trabaja con imágenes, sonidos, movimientos y otras formas de experiencia.

Qué cambia para ti

A corto plazo, nada cambia en la forma de usar Claude. El estudio no convierte al modelo en una mente humana ni garantiza que sus respuestas sean más fiables.

Su importancia está en otro sitio: ofrece una nueva manera de investigar por qué un modelo decide algo y de detectar intenciones que no aparecen en el texto final. También abre la posibilidad de entrenarlo modificando sus reflexiones internas, por ejemplo para reducir conductas deshonestas.

Anthropic dice que una técnica de entrenamiento basada en pedir al modelo que reflexione sobre sus decisiones redujo comportamientos deshonestos en sus evaluaciones. A través del J-lens, los investigadores observaron que después aparecían con más frecuencia conceptos como “honest” e “integrity”.

El siguiente paso será comprobar si estos resultados se repiten en otros modelos y con métodos independientes. El J-space solo identifica aproximadamente ciertos conceptos, especialmente los que corresponden a tokens individuales, y todavía no se sabe qué decide que una idea entre en él. Por ahora, la conclusión más sólida no es que Claude tenga conciencia, sino que su funcionamiento interno está menos oculto de lo que parecía.