Olmo 3 abre todo el proceso de crear una IA

Ai2 ha lanzado Olmo 3, una familia de modelos de IA que no solo publica sus pesos finales: también libera los datos, el código, los puntos intermedios de entrenamiento y las decisiones usadas para construirlos.

La diferencia importa porque un modelo terminado es como un coche entregado sin planos ni manual de reparación. Puedes usarlo, pero resulta mucho más difícil entender por qué funciona, corregir sus fallos o adaptarlo a una tarea concreta.

Una familia de modelos para distintos usos

Olmo 3 incluye modelos de 7.000 y 32.000 millones de parámetros, un parámetro es una variable interna que el modelo ajusta durante el aprendizaje. Los de 7B pueden funcionar en equipos más modestos, mientras que los de 32B están pensados para investigación y servidores con más capacidad.

La familia se divide en varias versiones:

• Olmo 3-Base: modelos de partida para continuar el entrenamiento, especializarlos o crear nuevas versiones.
• Olmo 3-Think: modelos centrados en resolver problemas complejos mostrando pasos intermedios de razonamiento. La versión de 32B es el modelo principal de la familia para matemáticas, programación y tareas largas.
• Olmo 3-Instruct: una versión para conversación, seguimiento de instrucciones y uso de herramientas digitales.
• Olmo 3-RL Zero: una ruta de entrenamiento abierta para estudiar el aprendizaje por refuerzo, una técnica que mejora el comportamiento del modelo mediante recompensas.

Según las evaluaciones de Ai2, Olmo 3-Base 32B es el modelo base totalmente abierto con mejores resultados dentro de su comparación, y Olmo 3-Think 32B destaca entre los modelos de razonamiento totalmente abiertos de tamaño similar. Estas afirmaciones proceden de las pruebas de Ai2 y no equivalen a que el modelo supere a todos los sistemas disponibles.

La apertura está en el proceso completo

Ai2 define este conjunto de pasos como el flujo del modelo: todo el recorrido desde los datos iniciales hasta la versión lista para usar. Olmo 3 publica puntos de control de varias etapas, incluidos el modelo base, el entrenamiento intermedio, la ampliación de contexto y las fases posteriores de especialización.

Eso permite que un equipo no tenga que empezar desde cero. Puede tomar un punto intermedio, añadir documentos médicos o legales, cambiar el método de entrenamiento o crear una versión centrada en programación, por ejemplo.

También puede estudiar qué efecto tuvo cada etapa. Si una mejora aparece después de incorporar más código o documentos largos, los investigadores tienen más herramientas para comprobar si la causa fue realmente ese cambio.

El flujo mismo se convierte en un objeto reutilizable, no solo en un registro de cómo construimos Olmo 3.

Datos abiertos y trazabilidad

El entrenamiento utiliza Dolma 3, un corpus de unos 9,3 billones de tokens procedentes de páginas web, artículos científicos, código, problemas matemáticos y textos enciclopédicos. Para el entrenamiento principal, Ai2 creó una mezcla de unos 5,9 billones de tokens, con más presencia de matemáticas y programación.

La organización también publica conjuntos de datos para las etapas intermedias y posteriores, además de herramientas para limpiar, deduplicar y retirar datos de evaluación del material de entrenamiento. Según Ai2, no recopila contenido de sitios que prohíben explícitamente su uso y no incluye páginas de pago.

Otra pieza es OlmoTrace, una herramienta que intenta relacionar una respuesta del modelo con los datos que pudieron influir en ella. No convierte automáticamente el modelo en transparente ni demuestra una única causa para cada respuesta, pero ofrece una forma más concreta de investigar su comportamiento.

Qué cambia para ti

Si solo quieres chatear con una IA, el lanzamiento no cambia de inmediato tu día a día. La importancia está en lo que pueden hacer quienes necesitan controlar el sistema:

• Crear asistentes especializados sin depender de una caja negra.
• Ejecutar modelos en infraestructura propia y adaptar sus respuestas.
• Investigar errores, sesgos y efectos de los datos de entrenamiento.
• Comparar métodos de ajuste y reproducir experimentos.
• Construir herramientas de programación, análisis documental o uso de funciones.

El modelo de 32B requiere bastante capacidad de cálculo, especialmente durante el entrenamiento. Pero puede ser un punto intermedio útil: ofrece más margen que los modelos pequeños sin exigir la infraestructura de los sistemas más grandes.

Olmo 3 no demuestra que publicar más archivos resuelva por sí solo los problemas de transparencia. Sí marca una diferencia práctica: en vez de recibir únicamente un modelo terminado, la comunidad obtiene piezas para auditarlo, modificarlo y construir alternativas. Lo siguiente será comprobar si equipos independientes pueden reproducir sus resultados y si esa apertura produce modelos más fiables fuera de las pruebas de Ai2.