模型智慧路由

一個 model=auto，把「選哪個模型」交給閘道。

​

適用場景

• 通用應用：當你不確定使用者會發來什麼類型的請求時，交給 auto 依內容分發。
• 成本最佳化：讓簡單任務自動落到更便宜、更快的模型（auto 預設成本優先）。
• 品質最佳化：確保複雜請求被路由到能力更強的模型（auto:quality_first）。
• 低延遲場景：即時語音、agent 多輪迴圈優先選回應最快的模型（auto:latency_critical）。
• 統一入口、免選型：不同類型的請求自動分發到各自最適的模型——不必維護「任務 → 模型」對應表，也不必持續追蹤模型迭代、手動比價換名。

​

快速開始

curl https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }'

​

如何確認實際命中的模型

• 回應主體的 model 欄位回填的是真實命中模型（如 mimo-v2.5-pro），而不是 auto。
• 回應標頭給出完整的決策資訊：

HTTP 回應標頭大小寫不敏感：上表按慣例首字母大寫，實際 HTTP/2 回傳為小寫 x-aihubmix-router-*，兩者等價。

curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [
      { "role": "user", "content": "What is the meaning of life?" }
    ]
  }' | grep -i "^x-aihubmix-router"

x-aihubmix-router-decision-id: 05dbad09-33c5-42de-85b5-559fdb73eb4c
x-aihubmix-router-dimension: text.overall
x-aihubmix-router-policy: cost_optimized
x-aihubmix-router-reason: policy=cost_optimized dim=text.overall top=0.182 survivors=20/33
x-aihubmix-router-resolved-model: xiaomi-mimo-v2.5-pro

​

路由策略

# 品質優先 + 程式碼任務
curl -i https://aihubmix.com/v1/chat/completions \
  -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto:quality_first",
    "messages": [
      { "role": "user", "content": "Write a Python function to reverse a linked list." }
    ]
  }' | grep -i "^x-aihubmix-router"

latency_critical 選了非 -think 版本——thinking 變體推理延遲更高，低延遲策略會主動避開它。可見策略權重真實作用於「能力 / 成本 / 延遲」的權衡，而不是只看能力。

內容也會改變結果：把同樣的 auto:quality_first 用在程式碼任務上（上面範例的請求），維度會從 text.overall 變為 text.coding、實測命中 claude-opus-4-6-think——策略與請求內容共同決定最終模型。

​

工作原理

注意 claude-fable-5 的能力分最高（1510），卻因成本更高、延遲更大被綜合得分壓到第三。這正是加權評分的意義：不是「唯能力論」，而是依策略在能力 / 成本 / 延遲之間權衡。

​

可靠性與容錯

​

計費說明

​

限制

• 智慧路由目前面向對話補全介面 /v1/chat/completions（詳見 FAQ：支援哪些介面）。
• ?router=off 或請求標頭 X-Router-Off 會讓 model=auto 直接回傳 400——這是明確拒絕「既要 auto 又要關掉路由」的歧義用法，而不是靜默忽略：
  curl -i "https://aihubmix.com/v1/chat/completions?router=off" \
    -H "Authorization: Bearer <AIHUBMIX_API_KEY>" \
    -H "Content-Type: application/json" \
    -d '{"model":"auto","messages":[{"role":"user","content":"hi"}]}'
  # → HTTP/1.1 400 Bad Request
  # {"error":{"message":"auto requires router enabled; remove ?router=off / X-Router-Off", ...}}
  
• 候選集合隨平台 catalog 動態變化：同一個 auto 在不同時間可能命中不同模型（這是設計使然，可透過回應標頭複盤）。

​

和 OpenRouter / LiteLLM 的區別

​

常見問題 FAQ

​

相關資源

• 模型對應與回退：Key 級固定別名 + 失敗兜底，與智慧路由互補。
• 統一推理參數：跨模型一致的請求參數。
• AIHubMix 模型頁：查詢模型名稱、價格與 Input Modalities。