JetBrains presenta Mellum2, modelo de IA de 12B
JetBrains presenta Mellum2, un modelo abierto de 12.000 millones de parámetros para texto y código. Su arquitectura activa solo 2.500 millones por token y, según la empresa, ofrece un rendimiento competitivo con más de dos veces la velocidad de inferencia de modelos similares.
JetBrains ha presentado Mellum2, un modelo de IA abierto de 12.000 millones de parámetros diseñado para trabajar con texto y código sin añadir una espera excesiva. Su particularidad es que solo activa 2.500 millones de parámetros por cada token, es decir, por cada fragmento de texto que procesa.
El resultado busca combinar capacidad y velocidad. Según JetBrains, Mellum2 ofrece un rendimiento competitivo frente a modelos abiertos de tamaño similar y consigue una inferencia más de dos veces más rápida. La inferencia es el momento en que el modelo genera una respuesta, completa código o transforma información.
Un modelo grande que no usa todo a la vez
Mellum2 utiliza una arquitectura llamada Mixture-of-Experts, o mezcla de expertos. En lugar de activar toda la red para cada petición, el sistema selecciona solo una parte de sus componentes según la tarea que tiene delante.
Esto permite mantener una capacidad total de 12.000 millones de parámetros, pero procesar cada token con una fracción mucho menor. En la práctica, puede reducir la latencia, aumentar el número de solicitudes atendidas y contener el coste de funcionamiento en servicios que reciben muchas peticiones.
No es un modelo multimodal: está centrado en lenguaje natural y programación. Esa especialización le permite mantenerse enfocado en tareas de ingeniería de software y despliegues donde la rapidez importa más que tener un modelo capaz de procesarlo todo.
Para qué puede servir
JetBrains plantea Mellum2 como una pieza dentro de sistemas de IA más grandes, no como un reemplazo universal de los modelos más potentes. Sus usos incluyen:
- Clasificar solicitudes y elegir qué herramienta o modelo debe responder.
- Resumir y comprimir información antes de enviarla a otro sistema.
- Preparar contexto en aplicaciones de búsqueda con generación, conocidas como
RAG. - Ejecutar subtareas de agentes, como planificar, validar o transformar código.
- Gestionar funciones de programación dentro de un IDE con muchas solicitudes simultáneas.
- Procesar código o datos internos en servidores propios, sin enviarlos a un proveedor externo.
Un ejemplo sencillo: un agente de programación puede usar un modelo grande para resolver un problema complejo, pero recurrir a Mellum2 para clasificar el encargo, seleccionar una herramienta, resumir archivos o comprobar una respuesta. Esas tareas intermedias son frecuentes y no siempre necesitan el modelo más caro.
Un modelo abierto para despliegues privados
Mellum2 se publica con licencia Apache 2.0, una licencia permisiva que facilita su uso, modificación y distribución, también en proyectos comerciales sujetos a sus propias condiciones legales.
El modelo está disponible en Hugging Face, junto con la información necesaria para probarlo. JetBrains también ha publicado un informe técnico con los detalles de la arquitectura, el entrenamiento, las pruebas y la metodología de evaluación.
La idea central es clara: muchos sistemas de IA no necesitan un único modelo gigantesco para cada paso. Necesitan varios componentes especializados que trabajen rápido y se repartan el trabajo. Mellum2 apunta precisamente a ese espacio: tareas frecuentes de texto y código donde cada milisegundo, cada solicitud y cada dato privado cuentan.