模型智能路由

一个 model=auto，把”选哪个模型”交给网关。

​

适用场景

• 通用应用：当你不确定用户会发来什么类型的请求时，交给 auto 按内容分发。
• 成本优化：让简单任务自动落到更便宜、更快的模型（auto 默认成本优先）。
• 质量优化：确保复杂请求被路由到能力更强的模型（auto:quality_first）。
• 低延迟场景：实时语音、agent 多轮循环优先选响应最快的模型（auto:latency_critical）。
• 统一入口、免选型：不同类型的请求自动分发到各自最优的模型——不必维护”任务 → 模型”映射表，也不必持续跟踪模型迭代、手动比价换名。

​

快速开始

curl https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }'

​

如何确认实际命中的模型

• 响应体的 model 字段回填的是真实命中模型（如 mimo-v2.5-pro），而不是 auto。
• 响应头给出完整的决策信息：

HTTP 响应头大小写不敏感：上表按惯例首字母大写，实际 HTTP/2 返回为小写 x-aihubmix-router-*，两者等价。

curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }' | grep -i "^x-aihubmix-router"

x-aihubmix-router-decision-id: 05dbad09-33c5-42de-85b5-559fdb73eb4c
x-aihubmix-router-dimension: text.overall
x-aihubmix-router-policy: cost_optimized
x-aihubmix-router-reason: policy=cost_optimized dim=text.overall top=0.182 survivors=20/33
x-aihubmix-router-resolved-model: xiaomi-mimo-v2.5-pro

​

路由策略

# 质量优先 + 代码任务
curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto:quality_first",
    "messages": [
      { "role": "user", "content": "Write a Python function to reverse a linked list." }
    ]
  }' | grep -i "^x-aihubmix-router"

latency_critical 选了非 -think 版本——thinking 变体推理延迟更高，低延迟策略会主动避开它。可见策略权重真实作用于”能力 / 成本 / 延迟”的权衡，而不是只看能力。

内容也会改变结果：把同样的 auto:quality_first 用在代码任务上（上面示例的请求），维度会从 text.overall 变为 text.coding、实测命中 claude-opus-4-6-think——策略与请求内容共同决定最终模型。

​

工作原理

注意 claude-fable-5 的能力分最高（1510），却因成本更高、延迟更大被综合得分压到第三。这正是加权评分的意义：不是”唯能力论”，而是按策略在能力 / 成本 / 延迟之间权衡。

​

可靠性与容错

​

计费说明

​

限制

• 智能路由目前面向对话补全接口 /v1/chat/completions（详见 FAQ：支持哪些接口）。
• ?router=off 或请求头 X-Router-Off 会让 model=auto 直接返回 400——这是明确拒绝”既要 auto 又要关掉路由”的歧义用法，而不是静默忽略：
  curl -i "https://aihubmix.com/v1/chat/completions?router=off" \
    -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
    -H "Content-Type: application/json" \
    -d '{"model":"auto","messages":[{"role":"user","content":"hi"}]}'
  # → HTTP/1.1 400 Bad Request
  # {"error":{"message":"auto requires router enabled; remove ?router=off / X-Router-Off", ...}}
  
• 候选集合随平台 catalog 动态变化：同一个 auto 在不同时间可能命中不同模型（这是设计使然，可通过响应头复盘）。

​

和 OpenRouter / LiteLLM 的区别

​

常见问题 FAQ

​

相关资源

• 模型映射与回退：Key 级固定别名 + 失败兜底，与智能路由互补。
• 统一推理参数：跨模型一致的请求参数。
• AIHubMix 模型页：查询模型名称、价格与 Input Modalities。