OpenAI detalla la seguridad de Sora 2
OpenAI explica las medidas de seguridad de Sora 2: marcas de procedencia, metadatos C2PA, consentimiento para usar rostros y voces, controles para menores y filtros contra contenido dañino. La aplicación también añade herramientas para denunciar, retirar vídeos y bloquear usos no autorizados.
OpenAI ha detallado cómo Sora 2 y su aplicación intentan reducir los riesgos de crear y compartir vídeos generados por IA. Las medidas incluyen marcas para identificar el contenido, controles sobre el uso de rostros y voces, filtros para material dañino y protecciones específicas para adolescentes.
La compañía presenta estas funciones como parte del diseño inicial de Sora, no como parches añadidos después del lanzamiento. Aun así, también reconoce que ninguna protección es perfecta, especialmente cuando el vídeo generado incluye movimiento, sonido y la apariencia de personas reales.
Cómo se identifican los vídeos de Sora
Cada vídeo creado con Sora incorpora señales de procedencia visibles e invisibles. También incluye metadatos C2PA, un estándar que funciona como una firma digital y ayuda a indicar cómo se creó un archivo.
Además, OpenAI mantiene herramientas internas de búsqueda de imágenes y audio capaces de rastrear con alta precisión si un vídeo procede de Sora. Muchos vídeos muestran también una marca de agua visible y móvil con el nombre de quien lo creó, aunque esta marca no aparece necesariamente en todos los resultados.
La idea es facilitar que una persona pueda distinguir un vídeo generado por IA de una grabación real, incluso cuando el contenido parezca convincente.
Crear vídeos con personas requiere consentimiento
Sora permite convertir una fotografía de una persona en un vídeo. Para hacerlo, el usuario debe confirmar que tiene el consentimiento de las personas que aparecen en la imagen y que cuenta con los derechos necesarios para subirla.
Los vídeos creados a partir de imágenes con personas están sujetos a controles especialmente estrictos. Las restricciones son todavía mayores cuando aparecen niños o personas que parecen menores de edad. Si ese vídeo se comparte, llevará siempre una marca de agua.
Sora también ofrece los llamados characters, una función que permite autorizar el uso de tu apariencia y tu voz. Solo tú decides quién puede utilizar esa representación y puedes retirar el acceso en cualquier momento.
Los vídeos que incluyan tu personaje, incluso si otra persona los crea como borrador, estarán disponibles para que los revises. Desde ahí puedes eliminarlos o denunciarlos. OpenAI afirma que aplica controles adicionales para evitar cambios extremos en la apariencia, situaciones humillantes o usos que alejen demasiado al personaje de la identidad real.
Más límites para menores y contenido dañino
Las cuentas de adolescentes tienen restricciones adicionales sobre contenido adulto. Sus perfiles no se recomiendan a adultos y los adultos no pueden iniciar conversaciones directas con ellos.
Los controles parentales de ChatGPT permiten decidir si un adolescente puede enviar y recibir mensajes privados y si utilizará un feed no personalizado en Sora. Además, las cuentas de menores tienen por defecto límites sobre el tiempo de desplazamiento continuo dentro de la aplicación.
Para el resto de usuarios, Sora combina varios filtros. Antes de generar un vídeo, revisa tanto la instrucción escrita como el resultado en distintos fotogramas y las transcripciones del audio. El objetivo es bloquear material como contenido sexual, propaganda terrorista o promoción de autolesiones.
Después de la generación, los sistemas automáticos revisan el contenido publicado en el feed según las políticas de uso de OpenAI. También hay revisión humana para los casos considerados más graves. La empresa afirma que ha probado sus defensas mediante ejercicios de seguridad y que ha endurecido algunas reglas frente a la generación de imágenes, debido al mayor realismo del vídeo y a la incorporación de movimiento y sonido.
El audio añade otro problema
El audio puede hacer que una falsificación sea mucho más creíble. Por eso Sora analiza las transcripciones del habla generada para detectar posibles infracciones y bloquea intentos de crear música que imite a artistas vivos o reproduzca obras existentes.
OpenAI también dice que atiende solicitudes de retirada de creadores que consideren que un resultado de Sora infringe su trabajo. Estas medidas no eliminan todos los riesgos, pero añaden controles específicos que no serían necesarios en un generador de imágenes sin sonido.
El usuario mantiene el control al compartir
Los vídeos no aparecen en el feed automáticamente. Tú decides si quieres publicarlos y puedes retirarlos después. También puedes denunciar vídeos, perfiles, mensajes directos, comentarios o personajes, además de bloquear cuentas para impedir que vean tu perfil, usen tu personaje o te contacten.
Para ti, el cambio principal es que crear un vídeo realista con el rostro o la voz de alguien ya no depende solo de escribir una instrucción. Sora exige permisos, aplica filtros más estrictos y deja rastros técnicos para identificar el origen del contenido. Lo importante será comprobar cómo funcionan estas barreras en situaciones reales y con qué rapidez se corrigen los nuevos usos indebidos que aparezcan.