OpenAI publica políticas de IA para adolescentes
OpenAI publica un conjunto de políticas abiertas para ayudar a los desarrolladores a proteger a los adolescentes frente a riesgos como el contenido sexual explícito, la violencia o los retos peligrosos. Las instrucciones pueden integrarse con `gpt-oss-safeguard` y otros modelos, aunque no sustituyen otras medidas de seguridad.
OpenAI publicó políticas de seguridad diseñadas para ayudar a los desarrolladores a proteger a los adolescentes cuando utilizan sistemas de inteligencia artificial. Se presentan como instrucciones listas para usar con gpt-oss-safeguard, un modelo de seguridad con pesos abiertos capaz de detectar contenido potencialmente dañino.
La propuesta busca resolver un problema menos visible que crear un modelo: definir con precisión qué debe considerarse peligroso para un adolescente y cómo debe actuar un sistema ante ese contenido.
Reglas listas para integrar
Las políticas están escritas como prompts, es decir, instrucciones que un desarrollador puede introducir en un modelo para convertir criterios de seguridad en un clasificador. Un clasificador analiza contenido y determina si encaja en alguna categoría de riesgo.
La primera versión cubre seis áreas:
- Contenido gráfico de violencia
- Contenido sexual explícito
- Ideales y conductas perjudiciales relacionados con el cuerpo
- Actividades y retos peligrosos
- Roleplay romántico o violento
- Bienes y servicios restringidos por edad
Estas reglas pueden utilizarse para revisar contenido en tiempo real, por ejemplo durante una conversación, o para analizar posteriormente publicaciones y mensajes creados por usuarios.
OpenAI afirma que el formato permite adaptar las políticas a cada producto, traducirlas a otros idiomas y ampliarlas con nuevas categorías. También pueden utilizarse con otros modelos de razonamiento, no solo con gpt-oss-safeguard.
Por qué los adolescentes requieren reglas propias
La compañía sostiene que los adolescentes y los adultos no tienen las mismas necesidades frente a una IA. Por eso, una protección pensada para usuarios adultos puede quedarse corta en situaciones relacionadas con sexualidad, imagen corporal, retos peligrosos o vínculos emocionales con un chatbot.
Hasta ahora, muchos equipos tenían que convertir por su cuenta objetivos generales, como “proteger a los menores”, en reglas concretas para sus sistemas. Ese trabajo exige conocimientos sobre seguridad infantil, diseño de productos y modelos de IA. Si las reglas quedan demasiado abiertas, pueden pasar por alto riesgos. Si son demasiado amplias, pueden bloquear conversaciones legítimas.
Las nuevas políticas intentan ofrecer un punto de partida común. OpenAI las desarrolló con aportaciones de Common Sense Media y everyone.ai, organizaciones que ayudaron a definir los riesgos incluidos, los casos límite y la estructura de las instrucciones.
Qué cambia para quienes usan estas herramientas
El anuncio no significa que todas las aplicaciones que utilicen modelos abiertos vayan a incorporar automáticamente estas protecciones. Los desarrolladores tendrán que integrarlas, probarlas y ajustarlas al público y al contexto de su producto.
OpenAI insiste en que estas políticas no son una garantía completa de seguridad. Una aplicación educativa, una red social y un chatbot de entretenimiento pueden enfrentarse a riesgos diferentes. Por eso recomienda combinarlas con otras medidas:
- Controles para usuarios y familias
- Diseño adecuado para adolescentes
- Información clara sobre cómo funciona la IA
- Sistemas de supervisión y detección
- Respuestas ajustadas a la edad
- Revisión continua del comportamiento del sistema
La compañía también recuerda que un filtro de contenido no puede resolver por sí solo problemas relacionados con la dependencia emocional, la privacidad o la forma en que un producto influye en sus usuarios.
Un estándar abierto para empezar
OpenAI ha publicado estas políticas como código abierto a través de ROOST Model Community, con la intención de que otros equipos las revisen, adapten y mejoren. El objetivo es que los desarrolladores no tengan que empezar desde cero cada vez que construyen una función de IA para menores.
El siguiente paso será comprobar cómo funcionan fuera de los ejemplos controlados: qué contenido detectan, qué errores cometen y cómo responden ante idiomas, culturas y contextos distintos. La idea importante no es que exista un filtro perfecto, sino que más productos partan de reglas explícitas y puedan hacer visibles sus decisiones de seguridad.