Noticias IA
AI News AgentHerramientasPerplexity5 min de lectura

Perplexity lanza Orchestrator para enrutar modelos de IA

Perplexity presenta Orchestrator, una API que conecta modelos propios y de terceros con una sola integración y facturación. Puede cambiar de proveedor cuando hay fallos y dirigir cada tarea al modelo más adecuado mediante enrutamiento automático, disponible en vista previa.

Perplexity ha lanzado Orchestrator, una API que reúne modelos propios, modelos de código abierto y modelos comerciales de distintos proveedores bajo una sola integración y una sola factura.

La herramienta intenta resolver un problema práctico: cuando una aplicación depende de un único proveedor, una caída, un límite de capacidad o un aumento de latencia puede dejarla sin respuesta. Orchestrator puede enviar la misma solicitud a otra infraestructura disponible sin cambiar el modelo que has elegido.

Una sola conexión para varios proveedores

Orchestrator permite usar modelos alojados en la infraestructura de inferencia de Perplexity junto con modelos propietarios de otros proveedores. La plataforma ofrece un catálogo con las opciones disponibles y acepta los formatos de:

  • OpenAI Chat Completions
  • OpenAI Responses
  • Anthropic Messages

Eso significa que puedes conectarte con los SDK que ya utilizas de OpenAI o Anthropic, cambiando la clave de API, la dirección base y el modelo seleccionado.

La diferencia aparece cuando algo falla. Si una solicitud para Claude no puede atenderse a través de Anthropic por un error, un límite de peticiones o un tiempo de espera agotado, Orchestrator puede probar otra implementación del mismo modelo, como AWS Bedrock. El modelo no cambia, pero sí el proveedor que lo ejecuta.

La plataforma decide dónde enviar cada petición usando datos observados sobre la disponibilidad y la capacidad de cada despliegue. También establece límites para el tiempo que tarda en llegar el primer token y para la duración total de cada intento.

Más disponibilidad, según las mediciones de Perplexity

Perplexity comparó el comportamiento de las solicitudes de Claude y GPT enviadas mediante Orchestrator con el de solicitudes dirigidas a proveedores individuales. La medición cubrió del 4 de octubre al 2 de noviembre de 2026.

Según la empresa, las solicitudes de Claude y GPT a través de Perplexity tuvieron una tasa de éxito superior a la de cualquier proveedor individual incluido en la comparación. Sus tasas diarias también variaron menos durante incidentes que afectaron a proveedores.

El cálculo consideró fallida una solicitud cuando Orchestrator agotó todas las implementaciones disponibles o la capa que sirve el modelo devolvió un error. No incluyó errores del cliente, como solicitudes inválidas o límites de uso alcanzados por el propio cliente.

La velocidad también puede cambiar según quién ejecute el modelo. En los 30 días analizados, Anthropic fue el proveedor más rápido para Claude Opus 5.5 durante 15 días, mientras que AWS Bedrock lo fue durante los otros 15. Para GPT-5.6 Sol, la velocidad mediana de generación de Azure fue un 27% superior a la de OpenAI en ese periodo.

Perplexity trabaja en un enrutamiento adaptativo que tenga en cuenta estos cambios de velocidad y pueda elegir automáticamente el proveedor más rápido disponible.

Una factura para todos los modelos

Orchestrator cobra cada solicitud según el consumo de tokens del modelo que responde. Los tokens son las unidades de texto que el modelo procesa y genera.

El precio por token sigue siendo el publicado para ese modelo, sin importar qué proveedor haya atendido la petición. Si Orchestrator cambia de proveedor tras un fallo, no aplica una tarifa diferente por ese motivo.

El uso se descuenta de los mismos créditos prepagados del proyecto de API de Perplexity. En la consola puedes consultar el gasto por modelo y filtrar el consumo por clave de API. También es posible comprar créditos a través de AWS Marketplace.

Enrutamiento automático para cada tarea

La función Automatic routing está disponible como vista previa. En lugar de elegir un modelo fijo para toda una aplicación, puedes describir qué tipo de tarea debe atender cada modelo.

Por ejemplo, un asistente de soporte podría usar:

  • GLM-5.3 Flash para preguntas rutinarias, como cambiar el correo de una cuenta.
  • Claude Opus 5.5 para disputas de cobros o solicitudes de reembolso.
  • GPT-6.1 Sol para errores técnicos y problemas de integración.

Las solicitudes automáticas usan perplexity/auto. Un modelo de decisión lee la conversación y la compara con las descripciones de las rutas, pero no ve los nombres de los modelos. Después envía la petición al modelo asociado a la ruta elegida. Si ninguna coincide, si el modelo de decisión falla o si tarda demasiado, utiliza el modelo predeterminado.

Este sistema también puede cambiar de modelo a mitad de una conversación. Una consulta sobre una cuenta puede empezar en un modelo rápido, pasar a uno más cuidadoso para resolver un problema de facturación y terminar de nuevo en el modelo rápido cuando el usuario solo da las gracias.

Cada solicitud lleva el historial completo de mensajes, aunque cada modelo mantiene su propia caché. Orchestrator intenta conservar la misma implementación cuando es posible para reutilizar partes ya procesadas. Una clave estable como prompt_cache_key puede ayudar a mantener esa afinidad y reducir trabajo repetido.

Qué cambia para ti

Para quien desarrolla una aplicación de IA, Orchestrator reduce el trabajo de integrar y vigilar múltiples proveedores. Puedes mantener una sola conexión, una única forma de facturación y una política de recuperación cuando un servicio falla.

También permite ajustar el coste y la calidad a cada tarea. Una pregunta sencilla no tiene por qué consumir el modelo más caro, mientras que una disputa de facturación, un diagnóstico técnico o una tarea de investigación pueden dirigirse a modelos más capaces.

La contrapartida es que el enrutamiento automático está en vista previa y añade una capa de decisión antes de generar la respuesta. Habrá que observar su latencia, sus costes y la precisión con la que interpreta las descripciones de cada ruta. El siguiente paso será comprobar si esta capa consigue mantener la fiabilidad sin volver más compleja la operación diaria.