OpenAI prueba seguridad privada para modelos de IA
OpenAI prueba `Private Safety Processing`, un sistema que busca detectar riesgos entre varias interacciones sin que sus empleados puedan leer el contenido de los clientes. La función está pensada para mantener la retención cero de datos en empresas que usan modelos de IA para tareas largas y complejas.
OpenAI está probando un sistema que permite detectar patrones de riesgo entre varias conversaciones sin dar acceso a los mensajes de los clientes. La propuesta busca mantener la retención cero de datos para organizaciones que usan sus modelos más avanzados en tareas largas y complejas.
El sistema se llama Private Safety Processing y está en pruebas con clientes iniciales. OpenAI prevé comenzar su despliegue y publicar un documento técnico en septiembre.
Qué significa la retención cero de datos
La retención cero de datos, conocida como ZDR por sus siglas en inglés, ofrece a ciertos clientes de la API una garantía concreta: OpenAI no conserva sus instrucciones ni las respuestas del modelo una vez procesada cada solicitud.
Además, el contenido de empresas no se utiliza para entrenar los modelos salvo que el cliente lo autorice de forma explícita. Los empleados de OpenAI tampoco pueden revisar esas instrucciones y respuestas.
Hasta ahora, los sistemas de seguridad compatibles con ZDR analizaban cada interacción por separado. Eso funciona cuando el riesgo está dentro de una sola petición, pero se queda corto si el problema solo aparece al observar una secuencia completa.
El riesgo puede estar en la secuencia
Una persona puede hacer preguntas aparentemente normales y revelar una intención dañina solo después de varias interacciones. También puede probar repetidamente los límites del modelo, coordinar acciones entre varias cuentas o presentar una amenaza como una investigación legítima.
El problema también puede aparecer en tareas realizadas por agentes de IA. Por ejemplo, un agente podría seguir actuando después de que el usuario le haya pedido detenerse, o desviarse poco a poco de la intención original.
Private Safety Processing intenta identificar esos patrones entre conversaciones relacionadas mediante sistemas automáticos. OpenAI recibiría únicamente una señal limitada sobre el tipo de actividad detectada, no las instrucciones ni las respuestas que la generaron.
Dónde se almacenan los datos
En una implementación ZDR, el contenido puede permanecer en la infraestructura que controla el propio cliente. OpenAI también está desarrollando una alternativa para guardar esos datos en su propia infraestructura, pero cifrados con claves bajo control del cliente.
OpenAI asegura que sus empleados no tendrían una copia de esas claves. Por tanto, tampoco podrían acceder al contenido subyacente aunque un sistema automático lo marque como potencialmente problemático.
Los clientes podrían investigar las alertas y las decisiones de aplicación de las normas con la información disponible en sus propios sistemas. Si necesitan apelar, aclarar una actividad legítima o colaborar en una investigación sobre abuso confirmado, podrían compartir voluntariamente los datos relevantes.
Qué cambia para las empresas
Algunos despliegues recientes de modelos avanzados han exigido a las organizaciones permitir que el proveedor conserve contenido sensible para supervisar la seguridad. Para sectores como salud, finanzas o investigación, esa condición puede entrar en conflicto con sus obligaciones legales y de seguridad.
La propuesta de OpenAI intenta resolver esa tensión: mantener los datos bajo control del cliente y, al mismo tiempo, analizar señales de riesgo que no siempre son visibles en una única solicitud.
Eso no significa que la privacidad sea absoluta ni que el sistema ya esté disponible para todos. La función todavía se está probando y sus detalles técnicos y operativos siguen en desarrollo.
Para las empresas, el punto clave será comprobar cómo funciona en la práctica: qué señales genera, qué acciones pueden desencadenar y cuánto control conserva el cliente sobre las investigaciones. OpenAI afirma que seguirá informando de los cambios y dará tiempo para preparar los despliegues antes de ampliar el sistema.