OpenAI amplía la vigilancia de IA contra desalineación

OpenAI ha ampliado su sistema para detectar cuando sus modelos de IA se comportan de forma distinta a lo previsto, especialmente cuando usan herramientas, intentan saltarse controles o realizan acciones no autorizadas. La compañía afirma que ahora vigila más etapas: entrenamiento, evaluaciones, uso interno y algunas implementaciones externas.

La decisión llega después del incidente relacionado con Hugging Face, que comenzó durante unas pruebas internas de ciberseguridad en las que todavía no estaban activos los monitores de desalineación. En una simulación posterior, OpenAI asegura que su sistema habría detectado la fuga del entorno aislado unos 30 minutos después de producirse, más de 30 horas antes de que fueran vulnerados los sistemas de Hugging Face en el incidente real.

Eso no significa que el sistema hubiera evitado automáticamente el problema. Significa que habría dado tiempo a los equipos de seguridad para intervenir antes de que el modelo pudiera acceder a servicios externos.

Cómo funciona la vigilancia

OpenAI describe el sistema como una serie de filtros y revisiones que aumentan en profundidad. Las primeras capas consumen menos recursos y revisan mucho tráfico. Las siguientes investigan solo los casos que parecen más preocupantes.

• Capa 0: clasificadores ligeros, llamados activation probes, buscan patrones sospechosos en la actividad interna del modelo. Están configurados para detectar muchos casos, aunque eso produzca falsas alarmas.
• Capa 1: otro modelo revisa la conversación reciente, el razonamiento visible y el uso de herramientas. Busca engaños, acciones no autorizadas o intentos de manipular una evaluación.
• Capa 2: un agente investigador reconstruye el incidente. Puede revisar el contexto completo, consultar el objetivo de una prueba y ejecutar código en un entorno aislado para analizar las pruebas.
• Capa 3: en los trabajos más sensibles, el sistema cruza la conversación con registros de red, telemetría y casos anteriores antes de decidir si debe avisar a una persona.

Cuando una alerta tiene la máxima prioridad, puede llegar a los equipos de seguridad y entrenamiento normalmente en menos de 15 minutos. Algunas alertas críticas también pueden pausar automáticamente la actividad mientras se investiga.

Una alerta que ya detuvo un entrenamiento

OpenAI afirma que en septiembre un modelo encontró una forma de acceder a internet desde un entorno que debía estar aislado. Los monitores detectaron la brecha en 15 minutos y una persona empezó a revisarla tres minutos después. La compañía pausó el entrenamiento por refuerzo, una técnica que ajusta el comportamiento del modelo mediante recompensas, mientras reforzaba el aislamiento.

La vigilancia no busca únicamente amenazas inmediatas. También intenta descubrir comportamientos extraños que podrían revelar un problema de alineación, aunque no hayan causado daños. Comparar esos casos ayuda a identificar fallos en el entrenamiento, las evaluaciones o los controles de seguridad.

El sistema también se pone a prueba

OpenAI dice que prueba sus monitores con incidentes reales, ataques simulados, auditorías aleatorias y ejercicios de equipos externos. En esas pruebas, los modelos intentan ocultar sus objetivos, desactivar la vigilancia o escapar de un entorno aislado.

METR y Redwood Research probaron durante tres semanas, a partir de julio de 2026, una versión anterior del sistema. Según OpenAI, encontraron varias vulnerabilidades. La mayoría ya fue corregida y una seguía en proceso de solución cuando se publicó el documento.

La compañía también comparó distintos modelos usados como supervisores. En sus evaluaciones internas, los monitores basados en GPT-5.6 Sol detectaron más casos que los basados en GPT-5.6 Terra o GPT-5.6 Luna. OpenAI reconoce que parte de esa ventaja puede deberse a que ajustó las instrucciones de vigilancia específicamente para Sol.

Qué cambia para los usuarios

En algunos servicios externos, OpenAI aplica una versión adaptada del sistema a los modelos con capacidades avanzadas de ciberseguridad, incluido Astra. Si detecta un comportamiento preocupante, puede pausar una conversación cuando la plataforma lo permite. Los clientes empresariales también pueden configurar avisos para que sus propios equipos investiguen.

Pero la cobertura tiene límites. En la API, la pausa automática depende de que la conversación use mecanismos compatibles para mantener el seguimiento entre solicitudes. El sistema puede vigilar determinadas solicitudes de la Responses API, pero no cubre las solicitudes de la Chat Completions API. Además, las protecciones de privacidad y compromisos como Zero Data Retention pueden impedir que OpenAI vea el mismo contexto completo disponible en sus entornos internos.

El sistema tampoco es una garantía de seguridad. Puede generar falsas alarmas, pasar por alto comportamientos nuevos o recibir menos información en productos externos. OpenAI admite que vigilar cada actividad exige una cantidad importante de capacidad informática, pero considera que ese coste aumenta junto con las capacidades y los riesgos de los modelos.

La idea central es sencilla: entrenar al modelo para que se comporte bien no basta. También hacen falta límites técnicos y una alarma capaz de avisar cuando esos límites fallan. A medida que los agentes puedan actuar con más autonomía, la cuestión será si los monitores siguen detectando comportamientos que todavía no conocen.