> ## Documentation Index
> Fetch the complete documentation index at: https://docs.aihubmix.com/llms.txt
> Use this file to discover all available pages before exploring further.
# 在 AnythingLLM 中使用
> 在 AnythingLLM 中接入 AIHubMix，透過 OpenAI 相容端點使用對話與 Embedding 模型。
AnythingLLM 是一個開源 AI 工作區，可以把文件變成可對話、可檢索的知識庫。它支援 OpenAI 相容端點，因此可以透過 **Generic OpenAI** 接入 AIHubMix。
## 設定 AIHubMix
先從 [AnythingLLM 官網](https://anythingllm.com/)下載並安裝桌面版。開啟應用後，點擊左下角頭像選單進入設定頁。
在設定頁中開啟 **LLM Provider** 下拉選單，選擇 **Generic OpenAI**。這個選項用於接入 AIHubMix 這類 OpenAI 相容閘道。
按以下方式填寫：
* **Base URL**：
```text theme={null}
https://aihubmix.com/v1
```
如果目前 API 主網域不可用，可只把網域替換為 `https://api.inferera.com`，並保留 `/v1` 路徑。
* **API Key**：在 [AIHubMix 控制台](https://aihubmix.com/token)建立的 Key。
* **Chat Model Name**：要使用的模型 ID，例如 `gpt-4o-mini`、`claude-haiku-4-5`。建議從 AIHubMix 模型列表複製。
* **Token context window** 和 **Max Tokens**：先保留預設值，確認可正常回覆後再按需調整。
儲存設定後，回到聊天頁選擇剛設定的模型，傳送一則簡短訊息確認是否能正常回覆。
之後也可以在同一個模型選單中切換 AIHubMix 支援的其他模型。
## 使用非 OpenAI 模型
模型服務商保持 **Generic OpenAI** 不變。若要使用 Claude、Gemini、DeepSeek、GLM 或其他 AIHubMix 模型，只需把 **Chat Model Name** 改成對應的模型 ID。建議直接從 AIHubMix 模型列表複製，避免輸入錯誤。
## 常見排查
**401 或 model not found**：確認已選擇 **Generic OpenAI**、Base URL 包含 `/v1`、Key 以 `sk-` 開頭，且模型 ID 與 AIHubMix 完全一致。
**回答沒有引用上傳文件**：檢查 Embedder 是否設定、文件是否已在目前 Workspace 中完成索引。
**回覆速度慢**：推理模型通常較慢。一般文件問答可先嘗試 `gpt-4o-mini` 或 `claude-haiku-4-5`。
***
最後更新：2026-07-03