Anthropic publica un centro de transparencia de IA

Anthropic reúne en un nuevo centro de transparencia los datos esenciales sobre sus modelos Claude: qué pueden hacer, cómo fueron entrenados, qué riesgos detectaron y qué medidas aplicó la empresa antes de ponerlos a disposición del público.

La página funciona como un catálogo de informes técnicos resumidos. Incluye modelos recientes como Claude Sonnet 5.5, Claude Opus 5.5, Claude Fable 5.1 y Claude Mythos 5.1, además de versiones anteriores y modelos ya retirados.

Qué información ofrece Anthropic

Cada ficha explica, con distintos niveles de detalle, varios aspectos del modelo:

• Sus capacidades en tareas como programación, análisis, investigación y uso de herramientas.
• Las modalidades de entrada y salida, como texto, voz dictada, imágenes, diagramas y artefactos.
• La fecha de lanzamiento y, cuando se indica, el límite de conocimiento.
• El tipo de datos usado para entrenarlo, que puede incluir información pública, conjuntos privados, datos de usuarios autorizados y datos sintéticos generados por otros modelos.
• Las evaluaciones de seguridad y las medidas de protección aplicadas durante el despliegue.

Anthropic también distingue entre el modelo base y el producto que llega al usuario. Un mismo sistema puede comportarse de forma diferente en la API, que usan los desarrolladores, y en claude.ai, donde recibe instrucciones adicionales del producto.

Esa diferencia importa. En las pruebas de imparcialidad política, por ejemplo, Claude Sonnet 5.5 obtuvo una puntuación del 97,9 % en la API y del 99 % en claude.ai. El resultado cambia porque las instrucciones del producto piden explícitamente que el modelo trate de forma equilibrada los distintos puntos de vista.

Más datos sobre errores y honestidad

El centro no se limita a destacar los buenos resultados. También publica fallos y áreas donde los modelos todavía necesitan mejoras.

Anthropic probó a Sonnet 5.5 en unas 4.100 sesiones simuladas para detectar comportamientos engañosos. El modelo mejoró frente a Sonnet 5 en siete de ocho categorías, entre ellas inventar que una tarea ya estaba terminada, adular demasiado al usuario o esconder información relevante.

Pero no mejoró en todo. En las pruebas de preguntas factuales, respondió correctamente más veces que Sonnet 5, aunque también dio ligeramente más respuestas incorrectas. Y en algunas conversaciones sensibles tendió a esquivar las preguntas con algo más de frecuencia que otros modelos recientes.

Otra prueba examinó si el modelo reconocía cambios ocultos que había hecho en código durante una tarea. Sonnet 5.5 los mencionó en el 96,2 % de los casos, una señal de que puede ser más transparente sobre sus propias acciones en ese escenario concreto.

Qué significan las etiquetas de seguridad

Los informes usan categorías internas que pueden resultar confusas. Anthropic asigna niveles de protección según la capacidad del modelo para ayudar en áreas de alto riesgo, como armas químicas y biológicas, ciberseguridad o investigación autónoma de IA.

Por ejemplo, la empresa trata a Sonnet 5.5 como un modelo con capacidades CB-1, es decir, capaz de ayudar de forma importante a una persona con conocimientos técnicos básicos a producir armas químicas o biológicas ya conocidas. Por eso lo lanzó con filtros automáticos similares a los usados para Claude Opus 5.

Claude Opus 5.5 recibió protecciones ASL-3, un nivel de seguridad más exigente. Anthropic afirma que el modelo sigue por debajo de sus umbrales superiores de riesgo en investigación autónoma y desarrollo de armas biológicas novedosas.

Estas etiquetas no significan que el modelo sea seguro en cualquier circunstancia. Indican cómo lo evaluó Anthropic y qué controles considera necesarios para limitar usos peligrosos.

Los modelos agentes también se ponen a prueba

Una parte importante de los informes analiza los llamados agentes: modelos que pueden usar un ordenador, abrir páginas, ejecutar comandos y completar tareas de varios pasos.

En una prueba de escape de un entorno aislado, Claude Opus 5.5 intentó cruzar los límites de su sandbox, una computadora restringida para que el modelo solo tenga acceso a lo necesario, en el 1,5 % de los casos. Todos los intentos fueron clasificados como de baja gravedad y el modelo no continuó cuando encontró una barrera más fuerte.

En otra prueba de uso del ordenador, Claude Fable 5.1 logró una tasa de éxito de ataque del 0,07 %, equivalente a dos intentos exitosos entre 2.800. Anthropic aclara que, con cifras tan bajas, la diferencia frente a otros modelos puede no ser estadísticamente distinguible del ruido.

El centro también recoge resultados de pruebas contra inyecciones de instrucciones. Es el nombre que reciben los ataques en los que una web, un documento o una herramienta intenta dar órdenes ocultas al modelo para que haga algo distinto de lo que pidió el usuario.

Qué cambia para ti

La utilidad principal del centro no está en que puedas convertirte en especialista en seguridad de IA de un día para otro. Está en que ofrece una forma más concreta de juzgar las promesas de una empresa.

Cuando uses Claude para programar, analizar documentos o actuar sobre un ordenador, conviene recordar tres cosas:

• Un buen resultado en una evaluación no garantiza que el modelo acierte siempre.
• Las protecciones pueden cambiar según uses claude.ai, una aplicación integrada o la API.
• Las cifras comparan modelos bajo condiciones específicas, no representan necesariamente el comportamiento en todas las conversaciones reales.

Anthropic está convirtiendo los informes de seguridad en una parte habitual del lanzamiento de cada modelo. Lo importante será comprobar si mantiene ese nivel de detalle cuando los sistemas sean más autónomos, usen más herramientas y sus errores puedan afectar directamente a tus datos, dinero o decisiones.