ChatGPT incorpora modo bloqueo y alertas de riesgo

OpenAI añade dos protecciones a ChatGPT para reducir los riesgos de los ataques de inyección de instrucciones: Lockdown Mode, un modo de bloqueo para usuarios y organizaciones con necesidades de seguridad elevadas, y las nuevas etiquetas “Elevated Risk” para funciones que pueden exponer datos a amenazas adicionales.

La inyección de instrucciones ocurre cuando una página web, un archivo o una aplicación conectada intenta engañar a la IA para que siga órdenes maliciosas. Por ejemplo, podría tratar de conseguir que ChatGPT revele información privada de una conversación o la envíe fuera de los sistemas protegidos.

Un modo de bloqueo para casos de alto riesgo

Lockdown Mode es una opción avanzada pensada para un grupo reducido de usuarios, como equipos de seguridad o directivos de organizaciones con información especialmente sensible. No está diseñado para la mayoría de las personas.

Cuando se activa, ChatGPT limita de forma estricta su conexión con sistemas externos. Algunas herramientas se deshabilitan por completo si OpenAI no puede garantizar que funcionen de manera segura bajo reglas deterministas, es decir, con restricciones claras y previsibles.

La navegación web es un ejemplo. En este modo, ChatGPT solo puede acceder a contenido almacenado en caché, por lo que no realiza solicitudes en directo a internet desde fuera de la red controlada por OpenAI. La medida busca impedir que un atacante use la navegación para extraer datos privados.

En los planes empresariales, los administradores pueden decidir qué aplicaciones siguen disponibles y qué acciones concretas puede ejecutar ChatGPT dentro de ellas. También cuentan con la plataforma Compliance API Logs, que ofrece información detallada sobre el uso de aplicaciones, los datos compartidos y las fuentes conectadas.

Por ahora, Lockdown Mode está disponible para:

• ChatGPT Enterprise
• ChatGPT Edu
• ChatGPT for Healthcare
• ChatGPT for Teachers

Los administradores pueden activarlo desde la configuración del espacio de trabajo mediante la creación de un nuevo rol. OpenAI planea llevarlo a los usuarios particulares en los próximos meses.

Qué significa la etiqueta “Elevated Risk”

La segunda novedad es una señal visible para funciones que aportan utilidad, pero también aumentan la exposición a ciertos riesgos. La etiqueta aparecerá de forma coherente en ChatGPT, ChatGPT Atlas y Codex, el asistente de programación de OpenAI.

Un caso concreto es el acceso a internet en Codex. Un desarrollador puede permitir que el asistente consulte documentación en la web, pero esa conexión también puede abrir una vía para ataques de inyección de instrucciones. La pantalla de configuración mostrará la etiqueta junto con una explicación sobre los cambios, los riesgos y cuándo conviene activar la función.

La etiqueta no significa que la herramienta sea insegura ni que esté prohibida. Indica que el usuario debe entender qué acceso está concediendo y valorar si lo necesita, especialmente cuando trabaja con datos privados.

Qué cambia para ti

Si usas ChatGPT para tareas normales, probablemente no tendrás que modificar nada. Las medidas están dirigidas sobre todo a quienes conectan la IA con aplicaciones, información interna o sistemas capaces de actuar en internet.

En la práctica, OpenAI está separando dos decisiones que antes podían quedar ocultas:

• Qué puede hacer la IA dentro de tus aplicaciones y conversaciones.
• Qué riesgos aceptas al permitirle navegar o usar servicios externos.

La compañía afirma que actualizará las funciones con etiqueta “Elevated Risk” y la retirará cuando sus controles de seguridad reduzcan suficientemente esos riesgos para el uso general. Mientras tanto, la conexión de una IA con la web y tus aplicaciones deja de ser solo una cuestión de comodidad: también es una decisión de seguridad que conviene revisar antes de activarla.