Auto Router (enrutamiento inteligente de modelos)

Un solo model=auto y dejas en manos de la pasarela “qué modelo elegir”.

​

Casos de uso

• Aplicaciones de propósito general: cuando no sabes qué tipo de solicitudes te enviarán los usuarios, deja que auto las distribuya según el contenido.
• Optimización de costes: deja que las tareas sencillas vayan automáticamente a modelos más baratos y rápidos (auto prioriza el coste por defecto).
• Optimización de calidad: asegura que las solicitudes complejas se enruten a modelos más capaces (auto:quality_first).
• Escenarios de baja latencia: para voz en tiempo real o bucles multironda de un agente, prioriza el modelo de respuesta más rápida (auto:latency_critical).
• Entrada única, sin selección de modelo: distintos tipos de solicitudes se distribuyen automáticamente a su modelo óptimo, sin tener que mantener una tabla “tarea → modelo” ni seguir continuamente las iteraciones de los modelos, comparar precios y cambiar nombres a mano.

​

Inicio rápido

curl https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }'

​

Cómo confirmar el modelo realmente usado

• El campo model del cuerpo de la respuesta se rellena con el modelo realmente usado (p. ej. mimo-v2.5-pro), no con auto.
• Las cabeceras de respuesta ofrecen la información completa de la decisión:

Las cabeceras HTTP no distinguen mayúsculas y minúsculas: la tabla anterior usa mayúscula inicial por convención, pero en HTTP/2 se devuelven en minúsculas x-aihubmix-router-*; ambas formas son equivalentes.

curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }' | grep -i "^x-aihubmix-router"

x-aihubmix-router-decision-id: 05dbad09-33c5-42de-85b5-559fdb73eb4c
x-aihubmix-router-dimension: text.overall
x-aihubmix-router-policy: cost_optimized
x-aihubmix-router-reason: policy=cost_optimized dim=text.overall top=0.182 survivors=20/33
x-aihubmix-router-resolved-model: xiaomi-mimo-v2.5-pro

​

Políticas de enrutamiento

# calidad primero + tarea de código
curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto:quality_first",
    "messages": [
      { "role": "user", "content": "Write a Python function to reverse a linked list." }
    ]
  }' | grep -i "^x-aihubmix-router"

latency_critical eligió la versión sin -think: las variantes thinking tienen mayor latencia de razonamiento, y la política de baja latencia las evita activamente. Se ve que los pesos de la política actúan de verdad sobre el equilibrio “capacidad / coste / latencia”, y no solo sobre la capacidad.

El contenido también cambia el resultado: aplicando la misma auto:quality_first a una tarea de código (la solicitud del ejemplo anterior), la dimensión pasa de text.overall a text.coding y, en pruebas reales, se usa claude-opus-4-6-think; la política y el contenido de la solicitud determinan juntos el modelo final.

​

Cómo funciona

Fíjate en que claude-fable-5 tiene la puntuación de capacidad más alta (1510), pero por su mayor coste y latencia queda relegado al tercer puesto en la puntuación global. Ese es justo el sentido de la puntuación ponderada: no es “solo capacidad”, sino un equilibrio entre capacidad / coste / latencia según la política.

​

Fiabilidad y tolerancia a fallos

​

Facturación

​

Limitaciones

• El enrutamiento inteligente está orientado actualmente al endpoint de chat completions /v1/chat/completions (consulta FAQ: qué endpoints admite).
• ?router=off o la cabecera X-Router-Off hacen que model=auto devuelva directamente un 400: es un rechazo explícito del uso ambiguo de “querer auto pero a la vez desactivar el enrutamiento”, en lugar de ignorarlo silenciosamente:
  curl -i "https://aihubmix.com/v1/chat/completions?router=off" \
    -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
    -H "Content-Type: application/json" \
    -d '{"model":"auto","messages":[{"role":"user","content":"hi"}]}'
  # → HTTP/1.1 400 Bad Request
  # {"error":{"message":"auto requires router enabled; remove ?router=off / X-Router-Off", ...}}
  
• El conjunto de candidatos cambia dinámicamente con el catálogo de la plataforma: el mismo auto puede usar distintos modelos en momentos distintos (es por diseño y se puede reconstruir mediante las cabeceras de respuesta).

​

Diferencias con OpenRouter / LiteLLM

​

Preguntas frecuentes (FAQ)

​

Recursos relacionados

• Mapeo de modelos y fallback: alias fijo a nivel de Key + respaldo ante fallos, complementario al enrutamiento inteligente.
• Parámetros de inferencia unificados: parámetros de solicitud coherentes entre modelos.
• Página de modelos de AIHubMix: consulta nombres de modelo, precios e Input Modalities.