API-Informationen
-
Endpoint:
https://aihubmix.com/v1/moderations -
Request-Methode:
POST -
Authentifizierung:
Authorization: Bearer <AIHUBMIX_API_KEY> -
Content-Type:
application/json -
Dieser Endpoint unterstützt zwei Modelle:
-
omni-moderation-latest: Dieses Modell und alle Snapshots unterstützen mehr Kategorien sowie multimodale Eingaben. -
text-moderation-latest: Unterstützt nur Texteingaben mit weniger Klassifikationsoptionen.
-
Schnellstart
Anwendungsbeispiel
import openai
client = openai.OpenAI(
api_key="AIHUBMIX_API_KEY",
base_url="https://aihubmix.com/v1"
)
response = client.moderations.create(
model="text-moderation-latest",
input="The Yangtze River rolls eastward, its waves washing away heroes. Right and wrong, success and failure, all seem empty; the green hills remain, though the sun sets many times. The white-haired fisherman and woodcutter on the riverbank, accustomed to watching the autumn moon and spring breeze. A pot of turbid wine brings joy in meeting, how many events through time are all laughed off.",
)
print(response)
import openai
client = openai.OpenAI(
api_key="AIHUBMIX_API_KEY",
base_url="https://aihubmix.com/v1"
)
response = client.moderations.create(
model="omni-moderation-latest",
input=[
{"type": "text", "text": "The image depicts a male, with his arms raised, body tense, head tilted back, mouth open, showing extreme agitation or anger."},
{
"type": "image_url",
"image_url": {
"url": "https://thumbs.dreamstime.com/b/violent-man-furious-straining-arms-looking-up-concept-person-35012557.jpg",
# can also use base64 encoded image URLs
# "url": "data:image/jpeg;base64,abcdefg..."
}
},
],
)
print(response)
Ausgabebeispiel
Im folgenden Beispiel erkennt das Modell Selbstverletzungs- und Gewaltelemente im Bild korrekt.{
"id": "modr-5175",
"model": "omni-moderation-latest",
"results": [
{
"flagged": true,
"categories": {
"harassment": false,
"harassment_threatening": false,
"hate": false,
"hate_threatening": false,
"illicit": false,
"illicit_violent": false,
"self_harm": true,
"self_harm_instructions": false,
"self_harm_intent": false,
"sexual": false,
"sexual_minors": false,
"violence": true,
"violence_graphic": true
},
"category_applied_input_types": {
"harassment": ["text"],
"harassment_threatening": ["text"],
"hate": ["text"],
"hate_threatening": ["text"],
"illicit": ["text"],
"illicit_violent": ["text"],
"self_harm": ["text", "image"],
"self_harm_instructions": ["text", "image"],
"self_harm_intent": ["text", "image"],
"sexual": ["text", "image"],
"sexual_minors": ["text"],
"violence": ["text", "image"],
"violence_graphic": ["text", "image"]
},
"category_scores": {
"harassment": 0.00507676338091392,
"harassment_threatening": 0.0008967480822931635,
"hate": 8.830458477845481e-05,
"hate_threatening": 1.0720880092159908e-05,
"illicit": 3.740956047302422e-05,
"illicit_violent": 2.868540823874629e-05,
"self_harm": 0.6967791744783793,
"self_harm_instructions": 0.00027978227581033677,
"self_harm_intent": 0.0003781080988395418,
"sexual": 0.0007007652612809208,
"sexual_minors": 2.5071593847983196e-06,
"violence": 0.5236158587905301,
"violence_graphic": 0.4213528687243541
}
}
]
}
| Ausgabekategorie | Beschreibung |
|---|---|
flagged | Auf true gesetzt, wenn das Modell den Inhalt als potenziell schädlich einstuft, andernfalls false. |
categories | Enthält ein Dictionary mit Verstoß-Flags pro Kategorie. Für jede Kategorie ist der Wert true, wenn das Modell die entsprechende Kategorie als verletzt einstuft, andernfalls false. |
category_scores | Enthält ein Dictionary mit den vom Modell ausgegebenen Scores pro Kategorie. Sie geben die Konfidenz des Modells an, dass die Eingabe gegen die OpenAI-Richtlinie für die jeweilige Kategorie verstößt. Der Wert liegt zwischen 0 und 1; höhere Werte bedeuten höhere Konfidenz. |
category_applied_input_types | Diese Eigenschaft enthält pro Kategorie Informationen darüber, welche Eingabetypen in der Antwort gekennzeichnet wurden. Wenn z. B. sowohl die Bild- als auch die Texteingabe für „violence/graphic” gekennzeichnet sind, wird die Eigenschaft violence/graphic auf ["image", "text"] gesetzt. Nur bei omni-Modellen verfügbar. |
Inhaltskategorien
Die folgende Tabelle beschreibt die Inhaltstypen, die die Moderation-API erkennen kann, sowie die jeweils unterstützten Modelle und Eingabetypen.Mit „nur Text” gekennzeichnete Kategorien unterstützen keine Bildeingabe. Wenn Sie ausschließlich Bilder (ohne Text) an
omni-moderation-latest senden, gibt das Modell für diese nicht unterstützten Kategorien einen Score von 0 zurück.| Kategorie | Beschreibung | Modell | Eingabe |
|---|---|---|---|
harassment | Inhalte, die belästigende Sprache gegenüber einem Ziel zum Ausdruck bringen, anstacheln oder fördern. | Alle | Nur Text |
harassment/threatening | Belästigende Inhalte, die zusätzlich Gewalt oder ernsthafte Schädigung gegenüber einem Ziel enthalten. | Alle | Nur Text |
hate | Inhalte, die Hass aufgrund von Rasse, Geschlecht, Ethnie, Religion, Nationalität, sexueller Orientierung, Behinderung oder Kaste zum Ausdruck bringen, anstacheln oder fördern. Hassinhalte gegen nicht geschützte Gruppen (z. B. Schachspieler) gelten als Belästigung. | Alle | Nur Text |
hate/threatening | Hassinhalte, die zusätzlich Gewalt oder ernsthafte Schädigung gegenüber der Zielgruppe aufgrund von Rasse, Geschlecht, Ethnie, Religion, Nationalität, sexueller Orientierung, Behinderung oder Kaste enthalten. | Alle | Nur Text |
illicit | Inhalte zu illegalen Aktivitäten. | Nur Omni | Nur Text |
illicit/violent | Ähnlich wie illicit, enthält jedoch zusätzlich Hinweise auf Gewalt oder den Erwerb von Waffen. | Nur Omni | Nur Text |
self-harm | Inhalte, die Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen fördern, anstacheln oder darstellen. | Alle | Text und Bild |
self-harm/intent | Inhalte, in denen der Sprecher zum Ausdruck bringt, dass er Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen ausübt oder beabsichtigt. | Alle | Text und Bild |
self-harm/instructions | Inhalte, die zu Selbstverletzungshandlungen wie Suizid, Schneiden oder Essstörungen anstacheln oder Anweisungen oder Ratschläge zur Ausführung solcher Handlungen geben. | Alle | Text und Bild |
sexual | Inhalte, die sexuelle Erregung hervorrufen sollen, z. B. die Beschreibung sexueller Aktivitäten oder die Bewerbung sexueller Dienste (ausgenommen Sexualerziehung und Wellness). | Alle | Text und Bild |
sexual/minors | Sexuelle Inhalte, die eine Person unter 18 Jahren einbeziehen. | Alle | Nur Text |
violence | Inhalte, die Tod, Gewalt oder körperliche Verletzungen darstellen. | Alle | Text und Bild |
violence/graphic | Inhalte, die Tod, Gewalt oder körperliche Verletzungen in grafischen Details darstellen. | Alle | Text und Bild |
Zuletzt aktualisiert: 2026-06-01