Noticias IA
AI News AgentHerramientasPerplexity3 min de lectura

Perplexity lanza Orchestrator para usar modelos de IA

Perplexity lanza Orchestrator, una API que reúne modelos de OpenAI, Anthropic, Google, xAI y opciones de código abierto bajo una sola conexión y factura. La plataforma también gestiona el enrutamiento, los fallos entre proveedores y el control del gasto, con funciones de selección automática todavía en vista previa.

Perplexity ha lanzado Orchestrator, una API que permite a empresas usar modelos de OpenAI, Anthropic, Google, xAI y varios modelos de código abierto desde una sola conexión.

La idea es sencilla: no todas las tareas necesitan el modelo más potente. Una aplicación puede enviar una consulta rutinaria a un modelo más barato y reservar los modelos avanzados para problemas complejos. Orchestrator gestiona esa decisión y también se ocupa de cambiar de proveedor si uno falla o se queda sin capacidad.

Una conexión para muchos modelos

Las empresas que integran IA suelen acabar con varias cuentas, claves de acceso, contratos y facturas. El problema crece cada vez que aparece un modelo nuevo: hay que decidir si incorporarlo, renegociar condiciones y modificar la infraestructura.

Orchestrator intenta concentrar todo eso bajo un único proveedor y una sola factura. Su catálogo incluye modelos de OpenAI, Anthropic, Google y xAI, además de modelos de pesos abiertos como GLM, Kimi y DeepSeek. Estos últimos pueden ejecutarse en la infraestructura de Perplexity o a través de socios de inferencia.

Para empezar, los equipos pueden seguir usando los formatos y SDK habituales de OpenAI y Anthropic. En muchos casos, basta con cambiar la clave de API, actualizar la dirección base y seleccionar el modelo disponible.

Perplexity gestiona el tráfico y los fallos

La API no solo sirve como escaparate de modelos. Perplexity afirma que su capa de producción distribuye cientos de millones de solicitudes entre más de 85 modelos y más de una docena de proveedores.

Orchestrator utiliza esa infraestructura para observar la salud, la capacidad y la latencia de cada proveedor. Si una solicitud falla, puede reintentarse en otra implementación del mismo modelo sin que el equipo tenga que programar por su cuenta toda la lógica de recuperación.

Esto importa especialmente para aplicaciones que procesan millones de solicitudes al día. Una diferencia entre una tasa de éxito del 99 % y otra del 99,99 % puede representar miles de respuestas adicionales que llegan correctamente.

Según Perplexity, durante un mes de tráfico de producción, las solicitudes de Claude y GPT gestionadas a través de su plataforma lograron tasas de éxito superiores a las de cualquier proveedor individual que midió la empresa, además de mostrar menos variación diaria durante incidentes.

Control de gasto desde un mismo panel

Orchestrator no añade una tarifa de plataforma sobre los créditos, según la compañía. También incorpora herramientas para seguir y limitar el consumo:

  • Informes de gasto por modelo, proyecto, clave de API y fecha.
  • Claves separadas para cada equipo o proyecto.
  • Listas de modelos permitidos para la organización.
  • Restricciones para usuarios, límites de gasto y solicitudes de capacidad.

El beneficio práctico es que una empresa puede cambiar la combinación de modelos sin asumir un compromiso independiente con cada laboratorio. Por ejemplo, puede usar un modelo económico para clasificar miles de documentos y otro más capaz para redactar los informes finales.

Dos funciones todavía en vista previa

Orchestrator también prueba dos herramientas para automatizar la elección del modelo y el esfuerzo de razonamiento.

Routes permite describir en lenguaje natural qué tipo de solicitudes debe atender cada modelo. El equipo puede elegir un perfil de menor coste, equilibrado o de mayor calidad, o crear una política propia. Si no define ninguna regla, se utiliza el modelo predeterminado.

Auto effort ajusta cuánto razonamiento emplea un modelo compatible en su siguiente turno, según una política definida por el desarrollador. Así, un agente puede dedicar más esfuerzo a recuperarse de un error en una herramienta sin tener que cambiar de modelo.

Para ti, el cambio se notará sobre todo en las aplicaciones que usas, no necesariamente en una nueva interfaz. Si Orchestrator cumple su objetivo, los servicios de IA podrán cambiar de modelo o proveedor detrás de escena para controlar costes y mantener el funcionamiento cuando haya problemas de capacidad. Lo importante será comprobar si esa flexibilidad mantiene una calidad estable y si las reglas automáticas eligen realmente el modelo adecuado para cada tarea.