跳轉到主要內容
AnythingLLM 是一個開源 AI 工作區，可以把文件變成可對話、可檢索的知識庫。它支援 OpenAI 相容端點，因此可以透過 Generic OpenAI 接入 AIHubMix。

​
設定 AIHubMix

先從 AnythingLLM 官網下載並安裝桌面版。開啟應用後，點擊左下角頭像選單進入設定頁。 AnythingLLM 設定入口 在設定頁中開啟 LLM Provider 下拉選單，選擇 Generic OpenAI。這個選項用於接入 AIHubMix 這類 OpenAI 相容閘道。 選擇 Generic OpenAI 按以下方式填寫：
  • Base URL：
https://aihubmix.com/v1
如果目前 API 主網域不可用，可只把網域替換為 https://api.inferera.com，並保留 /v1 路徑。
  • API Key：在 AIHubMix 控制台建立的 Key。
  • Chat Model Name：要使用的模型 ID，例如 gpt-4o-mini、claude-haiku-4-5。建議從 AIHubMix 模型列表複製。
  • Token context window 和 Max Tokens：先保留預設值，確認可正常回覆後再按需調整。
填寫 Base URL 和 API Key 儲存設定後，回到聊天頁選擇剛設定的模型，傳送一則簡短訊息確認是否能正常回覆。 選擇模型 之後也可以在同一個模型選單中切換 AIHubMix 支援的其他模型。 驗證回覆

​
使用非 OpenAI 模型

模型服務商保持 Generic OpenAI 不變。若要使用 Claude、Gemini、DeepSeek、GLM 或其他 AIHubMix 模型，只需把 Chat Model Name 改成對應的模型 ID。建議直接從 AIHubMix 模型列表複製，避免輸入錯誤。

​
常見排查

401 或 model not found：確認已選擇 Generic OpenAI、Base URL 包含 /v1、Key 以 sk- 開頭，且模型 ID 與 AIHubMix 完全一致。 回答沒有引用上傳文件：檢查 Embedder 是否設定、文件是否已在目前 Workspace 中完成索引。 回覆速度慢：推理模型通常較慢。一般文件問答可先嘗試 gpt-4o-mini 或 claude-haiku-4-5。
最後更新：2026-07-03