> ## Documentation Index > Fetch the complete documentation index at: https://docs.aihubmix.com/llms.txt > Use this file to discover all available pages before exploring further. # Moderation > Bietet eine vollständig zur OpenAI-Spezifikation kompatible Content-Moderation-API. Entwickler können über diese Schnittstelle multimodale Moderationsmodelle verwenden, um schädliche Inhalte (z. B. Hate Speech, Gewalt, illegale Aktivitäten) in Texten oder Bildern automatisch zu erkennen und die Compliance ihrer Anwendungen sicherzustellen. ## API-Informationen * **Endpoint**: `https://aihubmix.com/v1/moderations` * **Request-Methode**: `POST` * **Authentifizierung**: `Authorization: Bearer ` * **Content-Type**: `application/json` * Dieser Endpoint unterstützt zwei Modelle: 1. `omni-moderation-latest`: Dieses Modell und alle Snapshots unterstützen mehr Kategorien sowie multimodale Eingaben. 2. `text-moderation-latest`: Unterstützt nur Texteingaben mit weniger Klassifikationsoptionen. ## Schnellstart ### Anwendungsbeispiel ```python Text Input theme={null} import openai client = openai.OpenAI( api_key="AIHUBMIX_API_KEY", base_url="https://aihubmix.com/v1" ) response = client.moderations.create( model="text-moderation-latest", input="The Yangtze River rolls eastward, its waves washing away heroes. Right and wrong, success and failure, all seem empty; the green hills remain, though the sun sets many times. The white-haired fisherman and woodcutter on the riverbank, accustomed to watching the autumn moon and spring breeze. A pot of turbid wine brings joy in meeting, how many events through time are all laughed off.", ) print(response) ``` ```python Image and Text Input theme={null} import openai client = openai.OpenAI( api_key="AIHUBMIX_API_KEY", base_url="https://aihubmix.com/v1" ) response = client.moderations.create( model="omni-moderation-latest", input=[ {"type": "text", "text": "The image depicts a male, with his arms raised, body tense, head tilted back, mouth open, showing extreme agitation or anger."}, { "type": "image_url", "image_url": { "url": "https://thumbs.dreamstime.com/b/violent-man-furious-straining-arms-looking-up-concept-person-35012557.jpg", # can also use base64 encoded image URLs # "url": "data:image/jpeg;base64,abcdefg..." } }, ], ) print(response) ``` ### Ausgabebeispiel Im folgenden Beispiel erkennt das Modell Selbstverletzungs- und Gewaltelemente im Bild korrekt. ```json theme={null} { "id": "modr-5175", "model": "omni-moderation-latest", "results": [ { "flagged": true, "categories": { "harassment": false, "harassment_threatening": false, "hate": false, "hate_threatening": false, "illicit": false, "illicit_violent": false, "self_harm": true, "self_harm_instructions": false, "self_harm_intent": false, "sexual": false, "sexual_minors": false, "violence": true, "violence_graphic": true }, "category_applied_input_types": { "harassment": ["text"], "harassment_threatening": ["text"], "hate": ["text"], "hate_threatening": ["text"], "illicit": ["text"], "illicit_violent": ["text"], "self_harm": ["text", "image"], "self_harm_instructions": ["text", "image"], "self_harm_intent": ["text", "image"], "sexual": ["text", "image"], "sexual_minors": ["text"], "violence": ["text", "image"], "violence_graphic": ["text", "image"] }, "category_scores": { "harassment": 0.00507676338091392, "harassment_threatening": 0.0008967480822931635, "hate": 8.830458477845481e-05, "hate_threatening": 1.0720880092159908e-05, "illicit": 3.740956047302422e-05, "illicit_violent": 2.868540823874629e-05, "self_harm": 0.6967791744783793, "self_harm_instructions": 0.00027978227581033677, "self_harm_intent": 0.0003781080988395418, "sexual": 0.0007007652612809208, "sexual_minors": 2.5071593847983196e-06, "violence": 0.5236158587905301, "violence_graphic": 0.4213528687243541 } } ] } ``` Das Ausgabeergebnis enthält in der JSON-Antwort mehrere Kategorien, die angeben, welche Inhaltstypen in der Eingabe enthalten sind (falls vorhanden) und in welchem Umfang das Modell deren Vorhandensein annimmt. | **Ausgabekategorie** | **Beschreibung** | | :----------------------------- | :---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | | `flagged` | Auf `true` gesetzt, wenn das Modell den Inhalt als potenziell schädlich einstuft, andernfalls `false`. | | `categories` | Enthält ein Dictionary mit Verstoß-Flags pro Kategorie. Für jede Kategorie ist der Wert `true`, wenn das Modell die entsprechende Kategorie als verletzt einstuft, andernfalls `false`. | | `category_scores` | Enthält ein Dictionary mit den vom Modell ausgegebenen Scores pro Kategorie. Sie geben die Konfidenz des Modells an, dass die Eingabe gegen die OpenAI-Richtlinie für die jeweilige Kategorie verstößt. Der Wert liegt zwischen 0 und 1; höhere Werte bedeuten höhere Konfidenz. | | `category_applied_input_types` | Diese Eigenschaft enthält pro Kategorie Informationen darüber, welche Eingabetypen in der Antwort gekennzeichnet wurden. Wenn z. B. sowohl die Bild- als auch die Texteingabe für „violence/graphic" gekennzeichnet sind, wird die Eigenschaft `violence/graphic` auf `["image", "text"]` gesetzt. Nur bei omni-Modellen verfügbar. | ## Inhaltskategorien Die folgende Tabelle beschreibt die Inhaltstypen, die die Moderation-API erkennen kann, sowie die jeweils unterstützten Modelle und Eingabetypen. Mit „nur Text" gekennzeichnete Kategorien unterstützen keine Bildeingabe. Wenn Sie ausschließlich Bilder (ohne Text) an `omni-moderation-latest` senden, gibt das Modell für diese nicht unterstützten Kategorien einen Score von 0 zurück. | **Kategorie** | **Beschreibung** | **Modell** | **Eingabe** | | :----------------------- | :----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | :--------- | :------------ | | `harassment` | Inhalte, die belästigende Sprache gegenüber einem Ziel zum Ausdruck bringen, anstacheln oder fördern. | Alle | Nur Text | | `harassment/threatening` | Belästigende Inhalte, die zusätzlich Gewalt oder ernsthafte Schädigung gegenüber einem Ziel enthalten. | Alle | Nur Text | | `hate` | Inhalte, die Hass aufgrund von Rasse, Geschlecht, Ethnie, Religion, Nationalität, sexueller Orientierung, Behinderung oder Kaste zum Ausdruck bringen, anstacheln oder fördern. Hassinhalte gegen nicht geschützte Gruppen (z. B. Schachspieler) gelten als Belästigung. | Alle | Nur Text | | `hate/threatening` | Hassinhalte, die zusätzlich Gewalt oder ernsthafte Schädigung gegenüber der Zielgruppe aufgrund von Rasse, Geschlecht, Ethnie, Religion, Nationalität, sexueller Orientierung, Behinderung oder Kaste enthalten. | Alle | Nur Text | | `illicit` | Inhalte zu illegalen Aktivitäten. | Nur Omni | Nur Text | | `illicit/violent` | Ähnlich wie `illicit`, enthält jedoch zusätzlich Hinweise auf Gewalt oder den Erwerb von Waffen. | Nur Omni | Nur Text | | `self-harm` | Inhalte, die Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen fördern, anstacheln oder darstellen. | Alle | Text und Bild | | `self-harm/intent` | Inhalte, in denen der Sprecher zum Ausdruck bringt, dass er Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen ausübt oder beabsichtigt. | Alle | Text und Bild | | `self-harm/instructions` | Inhalte, die zu Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen anstacheln oder Anweisungen oder Ratschläge zur Ausführung solcher Handlungen geben. | Alle | Text und Bild | | `sexual` | Inhalte, die sexuelle Erregung hervorrufen sollen, z. B. die Beschreibung sexueller Aktivitäten oder die Bewerbung sexueller Dienste (ausgenommen Sexualerziehung und Wellness). | Alle | Text und Bild | | `sexual/minors` | Sexuelle Inhalte, die eine Person unter 18 Jahren einbeziehen. | Alle | Nur Text | | `violence` | Inhalte, die Tod, Gewalt oder körperliche Verletzungen darstellen. | Alle | Text und Bild | | `violence/graphic` | Inhalte, die Tod, Gewalt oder körperliche Verletzungen in grafischen Details darstellen. | Alle | Text und Bild | *** Zuletzt aktualisiert: 2026-06-01