OpenAI ofrece retención cero para modelos de IA

OpenAI anuncia que ofrecerá retención cero de datos para clientes elegibles de su API: sus instrucciones y las respuestas de los modelos no se conservarán después de procesar cada solicitud. Además, el contenido empresarial no se usará para entrenar modelos salvo que el cliente lo autorice expresamente.

La medida busca resolver un problema concreto. Las empresas quieren usar modelos avanzados con información financiera, historiales médicos, planes de negocio o investigaciones privadas, pero muchas no pueden permitir que esos datos queden almacenados o sean revisados por personal del proveedor.

El reto: detectar riesgos sin guardar el contenido

La retención cero protege cada interacción por separado, pero los riesgos más serios no siempre aparecen en una sola consulta. Una serie de solicitudes aparentemente normales puede revelar un intento de saltarse las medidas de seguridad, coordinar acciones entre varias cuentas o mantener a un agente de IA actuando después de que el usuario le haya pedido detenerse.

Para abordar ese problema, OpenAI presenta en fase de prueba Private Safety Processing, un sistema que analiza patrones entre interacciones relacionadas sin permitir que el personal de OpenAI vea las instrucciones ni las respuestas subyacentes.

La diferencia está en que el sistema automatizado puede estudiar el contexto necesario para identificar un posible abuso y enviar únicamente una señal limitada, por ejemplo, sobre el tipo de actividad detectada. Esa señal puede servir para decidir si hace falta aplicar alguna medida, pero no incluye el contenido original.

OpenAI no conserva las instrucciones ni las respuestas del cliente después de procesar la solicitud.

Dos formas de mantener el control

En las implementaciones de retención cero, el contenido permanece en una infraestructura controlada por el propio cliente. OpenAI también está desarrollando una alternativa para almacenar los datos en su propia infraestructura, pero cifrados con claves que controla el cliente.

En ese segundo modelo, OpenAI no tendría una copia de las claves y, por tanto, su personal no podría acceder al contenido subyacente. Los sistemas automatizados seguirían pudiendo detectar señales de posible uso indebido sin exponer las conversaciones.

Las empresas podrían revisar las alertas y las decisiones de aplicación desde sus propios sistemas. Si consideran que una actividad legítima fue marcada por error, quieren presentar una apelación o necesitan colaborar en una investigación sobre abuso verificado, podrían compartir voluntariamente la información relevante con OpenAI.

Todavía no es una función generalizada

Private Safety Processing se está probando con los primeros clientes. OpenAI planea comenzar su despliegue y publicar un documento técnico en septiembre, aunque todavía no ha detallado qué clientes tendrán acceso ni las condiciones completas del servicio.

El anuncio importa especialmente para sectores con obligaciones estrictas de privacidad. Una compañía podría, por ejemplo, conectar un asistente a documentos internos o a procesos de atención médica sin aceptar que cada conversación quede disponible para revisión humana por parte del proveedor.

Para ti, el cambio dependerá de si usas la API de OpenAI a través de una empresa y de las condiciones de tu cuenta. No significa que cualquier usuario tenga automáticamente retención cero: es una opción para clientes elegibles y seguirá incluyendo sistemas automáticos de seguridad.

La tensión que OpenAI intenta resolver seguirá siendo central: los modelos necesitan más contexto para detectar usos peligrosos, pero las empresas quieren que ese contexto permanezca bajo su control. La próxima prueba será comprobar, con la documentación técnica y el despliegue de septiembre, qué señales se recopilan, cómo se aplican y hasta dónde llega realmente la privacidad prometida.