> ## Documentation Index
> Fetch the complete documentation index at: https://docs.aihubmix.com/llms.txt
> Use this file to discover all available pages before exploring further.

# AnythingLLM

> AIHubMix in AnythingLLM einrichten: Chat- und Embedding-Modelle über einen OpenAI-kompatiblen Endpunkt nutzen.

AnythingLLM ist ein Open-Source-Arbeitsbereich, mit dem Dokumente zu durchsuchbaren Chat-Wissensdatenbanken werden. Da OpenAI-kompatible Endpunkte unterstützt werden, kann AIHubMix über **Generic OpenAI** eingebunden werden.

## AIHubMix konfigurieren

Laden Sie die Desktop-App von der [AnythingLLM-Website](https://anythingllm.com/) herunter und installieren Sie sie. Öffnen Sie danach links unten das Avatar-Menü und wechseln Sie zu den Einstellungen.

<img src="https://mintcdn.com/aihubmix/j4q_-ouc8NkeJVBQ/public/cn/AnythingLLM-new-01.png?fit=max&auto=format&n=j4q_-ouc8NkeJVBQ&q=85&s=5c90934cf3ca0a233c94b189eacfa60e" alt="AnythingLLM Einstellungen" width="1920" height="1002" data-path="public/cn/AnythingLLM-new-01.png" />

Wählen Sie im Dropdown **LLM Provider** den Eintrag **Generic OpenAI**. Diese Option ist für OpenAI-kompatible Gateways wie AIHubMix gedacht.

<img src="https://mintcdn.com/aihubmix/j4q_-ouc8NkeJVBQ/public/cn/AnythingLLM-new-02.png?fit=max&auto=format&n=j4q_-ouc8NkeJVBQ&q=85&s=3c39d592689e6c72f7b430cced26ca0f" alt="AnythingLLM Generic OpenAI auswählen" width="1920" height="1001" data-path="public/cn/AnythingLLM-new-02.png" />

Tragen Sie die Verbindung wie folgt ein:

* **Base URL**:

```text theme={null}
https://aihubmix.com/v1
```

<Note>
  Wenn die primäre API-Domain nicht verfügbar ist, ersetzen Sie nur die Domain durch `https://api.inferera.com` und behalten Sie den Pfad `/v1` bei.
</Note>

* **API Key**: Ihr Key aus der [AIHubMix-Konsole](https://aihubmix.com/token).
* **Chat Model Name**: die gewünschte Modell-ID, zum Beispiel `gpt-4o-mini`, `claude-haiku-4-5` oder eine andere ID aus der AIHubMix-Modellliste.
* **Token context window** und **Max Tokens**: zunächst die Standardwerte verwenden und erst nach einem erfolgreichen Test anpassen.

<img src="https://mintcdn.com/aihubmix/j4q_-ouc8NkeJVBQ/public/cn/AnythingLLM-new-03.png?fit=max&auto=format&n=j4q_-ouc8NkeJVBQ&q=85&s=21e471c8cd64a6a8ce79fb41a576e81f" alt="AnythingLLM Base URL und API Key" width="1920" height="1002" data-path="public/cn/AnythingLLM-new-03.png" />

Speichern Sie die Konfiguration, kehren Sie zur Chat-Seite zurück, wählen Sie das konfigurierte Modell aus und senden Sie eine kurze Testnachricht.

<img src="https://mintcdn.com/aihubmix/j4q_-ouc8NkeJVBQ/public/cn/AnythingLLM-new-04.png?fit=max&auto=format&n=j4q_-ouc8NkeJVBQ&q=85&s=b3dbfddaeb7dc883b209f4806a2366ac" alt="AnythingLLM Modell auswählen" width="1920" height="1002" data-path="public/cn/AnythingLLM-new-04.png" />

Über dieselbe Modellauswahl können Sie später auch andere AIHubMix-Modelle verwenden.

<img src="https://mintcdn.com/aihubmix/j4q_-ouc8NkeJVBQ/public/cn/AnythingLLM-new-05.png?fit=max&auto=format&n=j4q_-ouc8NkeJVBQ&q=85&s=f44fbf4ba8bd59271ad6ac0133a8a6b7" alt="AnythingLLM Antwort prüfen" width="1920" height="1002" data-path="public/cn/AnythingLLM-new-05.png" />

## Nicht-OpenAI-Modelle verwenden

Lassen Sie **Generic OpenAI** ausgewählt. Für Claude, Gemini, DeepSeek, GLM oder andere AIHubMix-Modelle ersetzen Sie **Chat Model Name** durch die entsprechende AIHubMix-Modell-ID. Kopieren Sie die ID am besten direkt aus der AIHubMix-Modellliste.

## Fehlerbehebung

**401 oder model not found**: Prüfen Sie, ob **Generic OpenAI** ausgewählt ist, die Base URL `/v1` enthält, der Key mit `sk-` beginnt und die Modell-ID exakt stimmt.

**Antworten beziehen sich nicht auf hochgeladene Dokumente**: Prüfen Sie den Embedder, die Indexierung der Dokumente und den aktuell ausgewählten Workspace.

**Langsame Antworten**: Reasoning-Modelle können langsamer sein. Für einfache Dokumentfragen eignen sich schnellere Modelle wie `gpt-4o-mini` oder `claude-haiku-4-5`.

***

Zuletzt aktualisiert: 2026-07-03