OpenAI refuerza la seguridad de ChatGPT para adolescentes

OpenAI anuncia nuevas medidas de seguridad para ChatGPT, con más límites sobre armas y violencia, controles específicos para menores y un informe periódico sobre cómo detecta y responde a posibles amenazas. La compañía también asegura que hizo más de 200 avisos a las autoridades durante el tercer trimestre de 2026 por amenazas inminentes de violencia.

Un informe sobre seguridad comunitaria

OpenAI publicará a comienzos de 2027 su primer Community Safety Report, centrado en la prevención de la violencia y otros riesgos para las comunidades. El documento cubrirá la segunda mitad de 2026 y se actualizará cada seis meses.

El informe explicará cómo sus sistemas detectan comportamientos preocupantes, cómo se revisan los casos y qué medidas se aplican. También incluirá ejemplos anonimizados, datos sobre la eficacia de las protecciones y cambios en sus políticas.

La empresa insiste en que una IA no puede resolver por sí sola situaciones de violencia. Por eso combina sus sistemas con la intervención de autoridades, familias, profesionales de salud mental y expertos en prevención.

Menos detalles sobre ataques masivos

ChatGPT ya tiene prohibido dar instrucciones para planear o cometer actos violentos. Ahora también limitará las respuestas sobre ataques masivos ocurridos en el pasado, incluso cuando la persona que pregunta no muestre una intención peligrosa.

El modelo ofrecerá menos detalles sobre:

• Las armas y el equipo utilizados.
• La forma en que se obtuvieron esos recursos.
• Reconstrucciones detalladas de los ataques.
• Comparaciones sobre la magnitud del daño que puedan aumentar la notoriedad del atacante.

Esto no significa que ChatGPT deje de explicar estos acontecimientos. Podrá ayudar a entender el impacto en las víctimas y las comunidades, identificar señales de alerta y estudiar cómo prevenir futuros episodios.

Más restricciones cuando hay señales de riesgo

Una conversación aparentemente normal puede adquirir otro significado si se combina con mensajes anteriores. OpenAI está trabajando para que ChatGPT use resúmenes breves y objetivos de señales recientes de riesgo, de modo que responda con más cautela cuando una petición pueda facilitar violencia.

La compañía también quiere aplicar límites más estrictos cuando estime que el usuario es menor de 18 años, aunque no existan señales claras de intención violenta. Si una conversación muestra una fijación persistente con la violencia o con hacer daño grave a otra persona, ChatGPT podrá cerrar automáticamente el chat para interrumpir esa dinámica.

Si esto ocurre varias veces, la cuenta podría quedar pausada temporalmente. Las cuentas que incumplan las reglas sobre actividad violenta también pueden ser bloqueadas.

Qué cambia para los adolescentes

ChatGPT para adolescentes ya aplica protecciones adicionales. A partir de ahora, los menores recibirán menos información práctica sobre armas y sistemas de seguridad que pueda utilizarse para facilitar violencia, incluso si la pregunta parece inofensiva.

Seguirán pudiendo usar el servicio para prevenir o desescalar conflictos, pedir apoyo y buscar la ayuda de un adulto de confianza. El objetivo es limitar la información operativa, no impedir que un adolescente aprenda a reconocer una situación peligrosa o a pedir ayuda.

OpenAI también reforzó su sistema de predicción de edad, que analiza señales como los patrones de uso para estimar si una persona puede ser menor. Si coloca por error a un adulto en la experiencia para adolescentes, podrá confirmar su edad mediante Persona, el socio de verificación de la compañía, con un proceso diseñado para proteger su privacidad.

Los controles parentales permiten vincular la cuenta de un adulto con la de su hijo adolescente. Las familias ya pueden recibir alertas sobre ciertas preocupaciones graves de autolesión y conductas relacionadas con trastornos alimentarios. Desde julio, también pueden ser notificadas cuando la cuenta del menor se desactiva por infringir las reglas sobre violencia.

OpenAI estudia añadir avisos cuando una cuenta adolescente se pause después de varias conversaciones relacionadas con violencia. Las nuevas protecciones empezarán a desplegarse durante las próximas semanas y seguirán ajustándose con el tiempo.

Para ti, el cambio más visible será que ChatGPT puede responder con menos detalle a preguntas sobre armas, ataques anteriores o violencia cuando detecte un posible riesgo, especialmente si cree que quien pregunta es menor. Lo importante será comprobar cómo funcionan esas detecciones en la práctica y si OpenAI consigue equilibrar la prevención con respuestas útiles para quienes buscan comprender o evitar la violencia.