Sora 2 incorpora seguridad para vídeos de IA

OpenAI lanza Sora 2 y su nueva aplicación con controles para reducir los riesgos de crear y compartir vídeos generados por IA. El sistema incluye marcas visibles, metadatos para identificar el origen de cada vídeo, protección de la imagen de las personas y medidas específicas para menores.

La compañía presenta estas funciones como parte del lanzamiento, no como una garantía de que ningún contenido problemático pueda aparecer. El enfoque combina filtros automáticos, revisión humana y herramientas para que los usuarios puedan controlar lo que publican.

Cada vídeo lleva señales de que fue creado con IA

Al inicio, todos los vídeos generados con Sora tendrán una marca de agua visible. También incorporarán metadatos C2PA, una firma digital utilizada para indicar cómo y con qué herramienta se creó un archivo.

OpenAI añade sistemas internos de búsqueda de imágenes y audio capaces de rastrear vídeos hasta Sora. La empresa dice que estos sistemas se basan en herramientas que ya utilizaba con la generación de imágenes de ChatGPT y con la primera versión de Sora.

La idea es facilitar que una persona pueda comprobar si un vídeo aparentemente real fue generado artificialmente. Eso no elimina por sí solo los engaños, pero aporta una pista técnica que las plataformas y los usuarios pueden consultar.

Tu imagen solo se puede usar con permiso

Sora permite crear apariciones de una persona mediante una función llamada cameos. La propuesta es que cada usuario decida quién puede utilizar su imagen y su voz, y que pueda retirar ese permiso en cualquier momento.

Los vídeos que incluyan tu cameo, incluso si otra persona los crea como borrador, serán visibles para ti. Podrás revisarlos, eliminarlos o denunciarlos. También podrás establecer preferencias sobre cómo aparece tu cameo, como pedir que lleve siempre un sombrero determinado.

OpenAI asegura que aplica controles adicionales a los vídeos con cameos y que bloquea las representaciones de figuras públicas. La excepción son las propias figuras públicas que utilicen voluntariamente esta función.

Más límites para adolescentes

Sora incorpora protecciones reforzadas para usuarios jóvenes. Entre ellas se incluyen restricciones sobre contenido adulto y un feed pensado para adolescentes.

Además:

• Los perfiles de adolescentes no se recomendarán a adultos.
• Los adultos no podrán iniciar mensajes directos con adolescentes.
• Los controles parentales de ChatGPT permitirán gestionar los mensajes directos y elegir un feed no personalizado en Sora.
• Los adolescentes tendrán, por defecto, límites sobre el tiempo de desplazamiento continuo en la aplicación.

Estas medidas buscan reducir tanto la exposición a contenido inadecuado como el contacto no deseado entre adultos y menores.

Filtros para imágenes, movimiento y audio

Sora comprueba las instrucciones del usuario y los vídeos generados para intentar bloquear contenido sexual, propaganda terrorista y promoción de autolesiones antes de que llegue al feed. Las revisiones analizan varios fotogramas y las transcripciones del audio, no solo una imagen aislada.

OpenAI afirma que ha realizado pruebas internas para detectar riesgos nuevos y que ha endurecido sus políticas frente a las aplicadas a la generación de imágenes. El motivo es que el vídeo añade movimiento, sonido y un mayor nivel de realismo.

Después de la creación, sistemas automáticos revisan el contenido publicado según las políticas de uso de OpenAI. También hay revisión humana para los casos considerados más graves.

El audio añade otro frente. Sora analiza las transcripciones del habla y bloquea intentos de generar música que imite a artistas vivos o reproduzca obras existentes. La empresa también acepta solicitudes de retirada de creadores que consideren que un resultado infringe su trabajo.

Publicar no es obligatorio

Los vídeos solo aparecen en el feed si el usuario decide compartirlos. Cada vídeo, perfil y comentario puede denunciarse, y cualquier contenido publicado puede eliminarse después.

También es posible bloquear cuentas para impedir que vean tu perfil o te contacten mediante mensajes directos. En la práctica, esto significa que Sora no funciona únicamente como un generador: también incorpora reglas de una red social, con problemas de moderación y privacidad propios de ese entorno.

Para ti, el cambio más importante es que crear un vídeo con la cara, la voz o el estilo de otra persona exige más controles que escribir un texto o generar una imagen. Lo que habrá que vigilar ahora es si las marcas de origen se conservan cuando los vídeos se descargan y vuelven a publicarse, y si los filtros responden bien a los nuevos trucos que los usuarios intenten encontrar.