Vergleich
Eine Alternative zur OpenAI Moderation API, die deine Regeln anwendet
Der Moderations-Endpunkt von OpenAI (omni-moderation-latest) ist kostenlos und prüft Text und Bilder auf 13 feste Kategorien. Er bewertet jede Nachricht für sich und kann die Regeln deiner Community nicht lernen. VigiMod liest die vorherigen Nachrichten, prüft Regeln in normalen Worten und ist während der Beta kostenlos.
Im Vergleich
| OpenAI Moderation | VigiMod | |
|---|---|---|
| Preis | Kostenlos | Kostenlos während der Beta |
| Kategorien | 13 feste Unterkategorien | 8 Kategorien, dazu Spam, Schimpfwortlisten und deine Regeln |
| Community-Regeln | Nein | Bis zu 10 Regeln in normalen Worten pro Anfrage, jede mit eigenem Wert |
| Gesprächskontext | Nein, jede Eingabe wird einzeln bewertet | Bis zu 10 vorherige Nachrichten |
| Schwellen | Feste Markierungen; die Werte nutzt du selbst | Standardschwellen, pro Anfrage änderbar |
| Spam und wiederholte Nachrichten | Nein | Spam-Wert pro Nutzer |
| Konto | OpenAI-Konto und API-Schlüssel | VigiMod-Konto und API-Schlüssel |
VigiMod moderiert Text: Chats, Kommentare, Forenbeiträge. Wenn du auch Bilder moderieren musst, nutze daneben einen Bilddienst. Für Text bringt VigiMod mit, was generische Endpoints nicht haben: die Regeln deiner Community und den Kontext des Gesprächs.
Von OpenAI-Kategorien zu VigiMod
| OpenAI | VigiMod | Hinweis |
|---|---|---|
| harassment | insult, toxic | insult für Angriffe auf eine Person, toxic für allgemeine Unhöflichkeit. |
| harassment/threatening | threat | Drohungen gegen eine Person. |
| hate, hate/threatening | hate (+ threat) | Angriffe auf Menschen wegen ihrer Identität. |
| self-harm, /intent, /instructions | self_harm | Eine Kategorie: Passe ihre Schwelle an dein Publikum an. |
| sexual | sexual | Sexuelle Inhalte. |
| sexual/minors | child_safety | Optional: zu categories hinzufügen. |
| violence, violence/graphic | threat | Abgedeckt sind nur Drohungen; für Gewaltbeschreibungen eine Regel hinzufügen. |
| illicit, illicit/violent | rules | Als Regel formulieren, zum Beispiel „Kein Verkauf von Drogen oder Waffen“. |
Derselbe Aufruf, vorher und nachher
OpenAI Moderation
from openai import OpenAI
client = OpenAI()
r = client.moderations.create(
model="omni-moderation-latest",
input=message,
)
result = r.results[0]
flagged = result.flagged
harassment = result.category_scores.harassmentVigiMod
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"context": previous_messages, # optional: the last messages, oldest first
"rules": {"no-spoilers": "No spoilers about films or series"},
},
)
result = r.json()
flagged = result["flagged"]
insult = result["scores"]["insult"]
spoiler = result["scores"]["rule:no-spoilers"]Was du gewinnst
- Die Regeln deiner Community, etwa „Keine Spoiler“ oder „Kein Verkauf von Accounts“, bewertet wie jede Kategorie.
- Die vorherigen Nachrichten als Kontext: Witze unter Freunden und Antworten werden richtig gelesen.
- Schwellen pro Anfrage: Jeder Server oder jedes Forum entscheidet, wie streng es ist.
- Ein Spam-Wert pro Nutzer, für wiederholte Nachrichten und Flooding.
- Nachrichten werden geprüft und verworfen: Nichts wird gespeichert oder zum Training genutzt.
In drei Schritten wechseln
- 1
Erstelle ein kostenloses Konto und einen API-Schlüssel.
- 2
Ersetze den moderations-Aufruf durch einen POST an /moderate und ergänze auf Wunsch die vorherigen Nachrichten und deine Regeln.
- 3
Ordne die Kategorien mit der Tabelle oben zu und prüfe die Schwellen an ein paar Tagen echter Nachrichten.
Fragen
Ist die OpenAI Moderation API kostenlos?
Ja, OpenAI berechnet nichts für seinen Moderations-Endpunkt. Auch VigiMod ist während der Beta kostenlos: Der Grund zu wechseln ist nicht der Preis, sondern Regeln, Kontext und Schwellen, die zu deiner Community passen.
Unterstützt die OpenAI Moderation API eigene Kategorien?
Nein. Ihre Kategorien sind fest. Um eine Community-Regel durchzusetzen, braucht man eine weitere Ebene, etwa einen Prompt an ein Sprachmodell oder eine API, die Regeln annimmt, wie VigiMod.
Kann ich beide nutzen?
Ja. Ein übliches Setup ist OpenAI für Bilder und VigiMod für den Chattext mit deinen Regeln und dem Kontext.
Versteht VigiMod andere Sprachen als Englisch?
Es wurde auf 26 Sprachen trainiert und funktioniert am besten auf Italienisch, Englisch, Spanisch, Französisch, Deutsch und Portugiesisch.
Wie lange dauert der Wechsel?
Meist weniger als eine Stunde: Ein HTTP-Aufruf ändert sich, und die Kategorien lassen sich wie in der Tabelle oben zuordnen.
Weiterlernen
Alle Leitfäden- Fortgeschritten · 7 Min. LesezeitZero-Shot-Klassifikation: wie ein Modell Regeln in normalen Worten verstehtWie setzt ein Modell „Keine Spoiler“ durch, ohne auf diese Regel trainiert zu sein? Natural Language Inference und eigene Moderationsregeln erklärt.
- Grundlagen · 5 Min. LesezeitWarum Kontext bei der Chat-Moderation zähltDerselbe Satz kann harmlos oder schädlich sein, je nachdem, was davor kam. Wie der Gesprächskontext die Moderation verändert, mit echten Beispielen.
- Grundlagen · 5 Min. LesezeitFalsch-Positive und Falsch-Negative in der Content-ModerationJedes Moderationssystem macht zwei Arten von Fehlern. Was sie sind, was jede eine Community kostet und wie man beide niedrig hält.
Teste deine eigenen Regeln
Erstelle einen kostenlosen Schlüssel und teste in wenigen Minuten eine Regel an deinen Nachrichten.