Microsoft cierra una brecha de bioseguridad en IA

Microsoft y varios socios identificaron una vulnerabilidad que podía permitir que proteínas rediseñadas con inteligencia artificial evadieran los controles de seguridad usados por empresas de síntesis de ADN. El problema ya tiene parches adoptados a nivel global, según la compañía.

El hallazgo muestra una cara menos visible de la IA aplicada a la biología: la misma tecnología que puede ayudar a crear medicamentos también podría facilitar el diseño de sustancias peligrosas.

El problema estaba en los controles de ADN

Las herramientas de diseño de proteínas con IA permiten modificar proteínas existentes o proponer nuevas versiones. En el ámbito médico y científico, esto puede servir para investigar enfermedades, desarrollar tratamientos o crear materiales.

Pero también existe un riesgo de uso indebido. En estudios realizados por ordenador, los investigadores generaron versiones modificadas de proteínas de interés para la bioseguridad, como la ricina. Esas versiones lograron esquivar los sistemas de revisión que usan las empresas de síntesis de ADN antes de fabricar una secuencia solicitada por un investigador.

Estos controles buscan detectar secuencias relacionadas con toxinas o patógenos. El problema es que muchos sistemas estaban preparados para reconocer versiones conocidas, no necesariamente proteínas rediseñadas por una herramienta de IA.

No se trataba de una prueba de fabricación en el mundo real. Era una vulnerabilidad digital en el proceso de detección, pero podía tener consecuencias físicas si nadie la corregía.

Dos años de trabajo confidencial

Microsoft comenzó el proyecto a finales de 2023 y colaboró durante diez meses con empresas de síntesis, organizaciones de bioseguridad y responsables de políticas públicas. El objetivo era probar los sistemas como se prueba la seguridad de un programa informático: buscar sus fallos antes de que alguien los aproveche.

La estrategia tomó como referencia los llamados fallos de día cero en ciberseguridad. Cuando se encuentra una vulnerabilidad especialmente delicada, los investigadores suelen mantenerla en secreto hasta que existe una solución y esta se ha distribuido.

En este caso, los equipos desarrollaron métodos de prueba y ajustes para que los controles detectaran mejor las secuencias de proteínas rediseñadas por IA. Microsoft afirma que las correcciones se incorporaron de forma amplia antes de hacer público el problema.

Eso creó un dilema. Publicar todos los detalles habría ayudado a otros científicos a reproducir el trabajo, pero también podía ofrecer una guía a quienes quisieran sortear las defensas.

La investigación no estará abierta por completo

Para resolver esa tensión, Microsoft trabajó con la International Biosecurity and Biosafety Initiative for Science, conocida como IBBIS. Juntos propusieron un sistema de acceso por niveles para los datos, el código y los métodos más delicados.

El esquema funciona así:

• Acceso controlado: los investigadores deben identificarse, indicar dónde trabajan y explicar para qué quieren usar la información.
• Niveles de sensibilidad: los materiales van desde resúmenes de bajo riesgo hasta datos técnicos y herramientas que requieren una protección mayor.
• Acuerdos de uso: quienes reciben información sensible aceptan condiciones específicas, incluidos compromisos de confidencialidad.
• Revisión y continuidad: el sistema contempla revisar las restricciones con el tiempo y transferir la custodia a otra organización fiable si fuera necesario.

La idea no es esconder la investigación para siempre. Es permitir que científicos legítimos puedan revisarla y ampliarla sin entregar todos los detalles sensibles a cualquiera.

Microsoft también proporcionó una dotación económica a IBBIS para financiar durante largo tiempo el almacenamiento, la distribución responsable y la gestión del programa.

Qué cambia para ti

No significa que cualquier persona pueda crear una toxina con una aplicación de IA ni que los sistemas actuales sean inútiles. Significa que las defensas diseñadas para métodos tradicionales pueden quedarse atrás cuando las herramientas de IA generan variantes nuevas.

Para ti, el efecto más importante será indirecto: más controles sobre ciertos pedidos de síntesis genética y más atención a quién puede acceder a investigaciones capaces de afectar la seguridad biológica. Las empresas que fabrican ADN tendrán que actualizar sus filtros con mayor frecuencia, no limitarse a comparar solicitudes con listas conocidas.

También puede cambiar la forma en que se publican investigaciones sensibles. En lugar de elegir entre abrir todos los datos o guardarlos bajo secreto, revistas y organizaciones podrían usar modelos con acceso graduado, revisiones de expertos y responsabilidades claras.

La revista Science aceptó este enfoque para el estudio publicado el 2 de octubre de 2025. Según Microsoft, es la primera vez que una publicación científica importante respalda formalmente un sistema de acceso por niveles para gestionar un riesgo de información.

El caso deja una señal clara: en la era de la IA, la seguridad no depende solo de limitar los modelos. También exige revisar los filtros, las empresas y las reglas que convierten una instrucción digital en una acción en el mundo físico. Lo que viene ahora es comprobar si este modelo se extiende a otros campos, como la química, donde compartir conocimiento también puede aumentar tanto la capacidad de investigar como la de causar daño.