OpenAI lanza herramientas de IA contra abuso infantil
OpenAI presentó un clasificador de imágenes para ayudar a detectar material de abuso sexual infantil, incluido contenido generado por IA, y lo ofrecerá sin costo a organizaciones verificadas. También añadió advertencias y pausas de acceso en ChatGPT, publicó recursos para desarrolladores y prepara herramientas para investigadores especializados.

OpenAI presentó nuevas herramientas de inteligencia artificial para detectar material de abuso sexual infantil, frenar conductas dañinas y ayudar a las organizaciones que investigan estos delitos.
La iniciativa incluye un clasificador de imágenes disponible sin costo para organizaciones verificadas, nuevas advertencias en ChatGPT, una guía para desarrolladores y herramientas de apoyo para investigadores especializados. El objetivo es que la tecnología ayude a proteger a los menores sin dejar las decisiones importantes en manos automáticas.
Un detector para encontrar material nuevo
El nuevo sistema analiza señales visuales para identificar posible material de abuso sexual infantil, incluido contenido generado por IA. También ofrece una señal específica sobre si una imagen podría haber sido creada artificialmente, algo que puede ayudar a los equipos de seguridad a priorizar casos nuevos.
OpenAI ofrecerá el clasificador mediante su API, sin costo, a organizaciones verificadas. Podrán usarlo entidades de protección infantil y empresas que necesiten revisar grandes volúmenes de imágenes, aunque el sistema no sustituye la evaluación humana.
Las primeras pruebas muestran dos resultados relevantes:
- Podría reducir en un 48% la cantidad de imágenes que deben revisar los equipos, manteniendo aproximadamente el mismo número de hallazgos de material abusivo.
- Las imágenes señaladas por el nuevo sistema tenían cerca del doble de probabilidades de contener abuso que las detectadas con la herramienta anterior.
Las cifras son evaluaciones iniciales, no una garantía para todos los servicios. En pruebas de organizaciones colaboradoras, fal confirmó que el 72% de sus alertas de alta confianza correspondían a material nuevo de abuso sexual infantil. SafetyKit, por su parte, detectó el 90% de los casos evaluados en dibujos o animaciones que sexualizaban a menores.
ChatGPT interrumpirá intentos de buscar contenido abusivo
OpenAI también incorporará advertencias en ChatGPT cuando detecte intentos de encontrar o sexualizar a menores. El mensaje explicará que ese comportamiento causa daño, incluso si el contenido solicitado es generado por IA, y ofrecerá orientación para buscar ayuda.
La conversación señalada se eliminará y el acceso a ChatGPT se pausará durante 24 horas. Las infracciones repetidas pueden provocar restricciones más largas, el cierre de la cuenta o informes a las autoridades, según el caso. El sistema también mantendrá disponible apoyo especializado para quienes quieran detener una conducta dañina.
Estas medidas se diseñaron con aportes de organizaciones y especialistas que trabajan en la prevención del abuso sexual infantil. No buscan convertir al chatbot en un terapeuta ni en un investigador, sino interrumpir una conducta de riesgo y dirigir a la persona hacia ayuda adecuada.
Recursos para empresas y apoyo a investigadores
OpenAI publicó además una guía para desarrolladores con pasos concretos para prevenir abusos, permitir que los usuarios reporten problemas, revisar contenido sospechoso y comunicar posibles casos a las autoridades correspondientes.
La guía explica cómo combinar distintas herramientas, como sistemas de moderación, servicios especializados de detección y mecanismos para relacionar varios incidentes con una misma cuenta. También incluye recomendaciones para proteger a los equipos que deben revisar material sensible.
En paralelo, OpenAI apoyará a unidades especializadas de las fuerzas de seguridad con formación y herramientas para analizar grandes cantidades de información. El primer sistema podrá revisar registros extensos de chats y documentos obtenidos mediante procesos legales, encontrar posibles conexiones y crear líneas de tiempo vinculadas a las fuentes originales.
El acceso estará limitado a agencias autorizadas y dependerá de los requisitos del programa. La idea es reducir el tiempo que los investigadores pasan organizando datos y limitar su exposición innecesaria a material abusivo.
Para ti, el cambio más visible estará en ChatGPT: habrá más bloqueos y consecuencias ante intentos de buscar contenido sexual que involucre a menores. A escala más amplia, lo importante es que estas herramientas también se ofrecen a otras organizaciones, porque detectar y denunciar este tipo de material requiere coordinación entre plataformas, empresas tecnológicas, entidades de protección infantil y autoridades. El siguiente reto será comprobar que los sistemas mantengan su precisión al enfrentarse a nuevas formas de contenido y que los controles humanos sigan teniendo la última palabra.

