Zum Hauptinhalt springen
AnythingLLM ist ein Open-Source-Arbeitsbereich, mit dem Dokumente zu durchsuchbaren Chat-Wissensdatenbanken werden. Da OpenAI-kompatible Endpunkte unterstützt werden, kann AIHubMix über Generic OpenAI eingebunden werden.

​
AIHubMix konfigurieren

Laden Sie die Desktop-App von der AnythingLLM-Website herunter und installieren Sie sie. Öffnen Sie danach links unten das Avatar-Menü und wechseln Sie zu den Einstellungen. AnythingLLM Einstellungen Wählen Sie im Dropdown LLM Provider den Eintrag Generic OpenAI. Diese Option ist für OpenAI-kompatible Gateways wie AIHubMix gedacht. AnythingLLM Generic OpenAI auswählen Tragen Sie die Verbindung wie folgt ein:
  • Base URL:
Wenn die primäre API-Domain nicht verfügbar ist, ersetzen Sie nur die Domain durch https://api.inferera.com und behalten Sie den Pfad /v1 bei.
  • API Key: Ihr Key aus der AIHubMix-Konsole.
  • Chat Model Name: die gewünschte Modell-ID, zum Beispiel gpt-4o-mini, claude-haiku-4-5 oder eine andere ID aus der AIHubMix-Modellliste.
  • Token context window und Max Tokens: zunächst die Standardwerte verwenden und erst nach einem erfolgreichen Test anpassen.
AnythingLLM Base URL und API Key Speichern Sie die Konfiguration, kehren Sie zur Chat-Seite zurück, wählen Sie das konfigurierte Modell aus und senden Sie eine kurze Testnachricht. AnythingLLM Modell auswählen Über dieselbe Modellauswahl können Sie später auch andere AIHubMix-Modelle verwenden. AnythingLLM Antwort prüfen

​
Nicht-OpenAI-Modelle verwenden

Lassen Sie Generic OpenAI ausgewählt. Für Claude, Gemini, DeepSeek, GLM oder andere AIHubMix-Modelle ersetzen Sie Chat Model Name durch die entsprechende AIHubMix-Modell-ID. Kopieren Sie die ID am besten direkt aus der AIHubMix-Modellliste.

​
Fehlerbehebung

401 oder model not found: Prüfen Sie, ob Generic OpenAI ausgewählt ist, die Base URL /v1 enthält, der Key mit sk- beginnt und die Modell-ID exakt stimmt. Antworten beziehen sich nicht auf hochgeladene Dokumente: Prüfen Sie den Embedder, die Indexierung der Dokumente und den aktuell ausgewählten Workspace. Langsame Antworten: Reasoning-Modelle können langsamer sein. Für einfache Dokumentfragen eignen sich schnellere Modelle wie gpt-4o-mini oder claude-haiku-4-5.
Zuletzt aktualisiert: 2026-07-03