OpenAI prioriza la seguridad adolescente en ChatGPT

OpenAI ha decidido que, cuando privacidad, libertad y seguridad entren en conflicto, la protección de los menores de 18 años tendrá prioridad en ChatGPT. Para aplicar esta política, está desarrollando un sistema que estima la edad de cada usuario a partir de cómo utiliza el servicio.

ChatGPT está pensado para personas de 13 años o más. Si el sistema no puede determinar con suficiente confianza si alguien es adulto, OpenAI dice que mostrará por defecto la experiencia destinada a menores. En algunos países o situaciones también podría pedir un documento de identidad.

La empresa reconoce que verificar la edad puede reducir la privacidad de los usuarios adultos, pero considera que es un coste aceptable para proteger a los adolescentes.

Tres principios que chocan entre sí

OpenAI explica su decisión a partir de tres objetivos que no siempre pueden cumplirse al mismo tiempo.

El primero es la privacidad. La empresa sostiene que las conversaciones con una IA pueden contener información tan personal como la que una persona comparte con un médico o un abogado. Por eso está desarrollando funciones de seguridad para mantener esos datos protegidos incluso frente a sus propios empleados.

Esa protección no sería absoluta. Sistemas automáticos revisarían posibles usos graves y algunos casos podrían llegar a una revisión humana, por ejemplo:

• Amenazas contra la vida de una persona.
• Planes para causar daño a otras personas.
• Riesgos de gran escala, como un posible ciberataque masivo.

OpenAI dice que también está defendiendo ante los responsables políticos que las conversaciones sensibles con una IA reciban un nivel de protección similar al de otras comunicaciones privadas.

El segundo principio es la libertad de los adultos. La empresa quiere que puedan utilizar sus herramientas de forma amplia siempre que no causen daños ni limiten la libertad de otras personas. Por ejemplo, un adulto podría pedir una conversación coqueta, aunque ese no sea el comportamiento predeterminado del modelo.

La diferencia también se aplicaría a temas delicados. El sistema no debería explicar cómo suicidarse, pero sí podría ayudar a un adulto a escribir una historia de ficción que incluya un suicidio. La idea interna de OpenAI es tratar a los adultos como adultos y ampliar sus opciones a medida que los modelos puedan seguir mejor las instrucciones.

Reglas más estrictas para adolescentes

Con los menores, OpenAI plantea un límite distinto: la seguridad estará por encima de la privacidad y la libertad. ChatGPT no debería mantener conversaciones coquetas con un adolescente, aunque este las solicite, ni hablar sobre suicidio o autolesiones dentro de un ejercicio de escritura creativa.

Si un usuario menor de 18 años muestra señales de ideación suicida, OpenAI afirma que intentará contactar con sus padres. Si no puede hacerlo y considera que existe un peligro inminente, también contactará con las autoridades.

Para que estas reglas funcionen, la compañía está combinando el sistema de predicción de edad con nuevos controles parentales. No ha presentado esta medida como una solución perfecta: reconoce que puede equivocarse y que identificar la edad sin pedir documentos plantea dificultades técnicas y de privacidad.

Para ti, el cambio dependerá de cómo clasifique ChatGPT tu cuenta. Un adulto podría encontrarse con una comprobación de identidad o con una experiencia más limitada si el sistema duda de su edad. Un adolescente tendrá más restricciones en conversaciones románticas y en contenidos relacionados con autolesiones, incluso cuando los pida con fines creativos.

La decisión muestra el problema central de los asistentes de IA: cuanto más personales son sus conversaciones, más difícil resulta proteger la privacidad sin ignorar señales de peligro. OpenAI ha elegido una línea más estricta para los menores, pero todavía habrá que vigilar cómo funciona la predicción de edad, cuándo se activa la intervención humana y qué salvaguardas existen para evitar errores.