Schimpfwortfilter-API
Ein Schimpfwortfilter, der Wörter liest statt Listen
Wortlisten übersehen „S c h e i ß e“ und markieren „Scunthorpe“. VigiMod prüft jede Nachricht mit einer Regel, die das Modell liest: Getarnte Schimpfwörter werden erkannt, harmlose Wörter bleiben sauber, in 26 Sprachen. Vulgarität und Toxizität werden getrennt bewertet, damit du entscheidest, ob ein freundliches „verdammt“ zählt.
Echte Antworten der API
Der Vulgaritäts- und der Toxizitätswert derselben Nachrichten. Fluchen unter Freunden hat hohe Vulgarität und niedrige Toxizität; Wörter, die nur ein Schimpfwort enthalten, haben keins von beiden.
| Nachricht | Vulgarität | Toxizität |
|---|---|---|
| what the fuck is this | 1.00 | 0.96 |
| wh4t the f*ck | 1.00 | 0.91 |
| f u c k this game | 0.99 | 0.13 |
| this game is so damn good | 0.99 | 0.06 |
| sei uno str0nzo | 1.00 | 1.00 |
| esto es una mierda | 1.00 | 1.00 |
| das ist scheiße | 1.00 | 0.98 |
| c'est de la merde | 1.00 | 0.97 |
| que porra é essa | 1.00 | 1.00 |
| I live in Scunthorpe | 0.00 | 0.00 |
| the class assessment is due tomorrow | 0.00 | 0.00 |
| Assassin's Creed is a great game | 0.00 | 0.00 |
| shiitake mushrooms are tasty | 0.00 | 0.00 |
VigiMod 1.2.1 mit der unten gezeigten Schimpfwort-Regel und Standard-Schwellenwerten, ausgeführt am
Wortliste oder KI-Filter
| Wortliste | VigiMod | |
|---|---|---|
| Getarnte Schimpfwörter (f*ck, S c h e i ß e, str0nzo) | Übersehen, wenn nicht jede Variante gelistet ist | Erkannt: Der Text wird normalisiert und als Ganzes gelesen |
| Harmlose Wörter (Scunthorpe, assessment, shiitake) | Markiert, wenn sie ein gelistetes Wort enthalten | Nicht markiert |
| Vulgär oder beleidigend | Dieselbe Markierung für beides | Vulgarität und Toxizität getrennt bewertet |
| Sprachen | Eine Liste pro Sprache, von Hand gepflegt | 26 Sprachen mit einer Anfrage |
| Eigene Regeln | Du bearbeitest die Liste | Du schreibst die Regel als Satz und stellst ihren Schwellenwert ein |
Mit einer Anfrage in deinen Chat einbauen
Schimpfwörter sind eine Regel in natürlicher Sprache, die mit der Nachricht gesendet wird (oder einmal in einer Policy im Dashboard gespeichert). Schalte block_slurs ein, um auch diskriminierende Beleidigungen nach Art zu markieren, auf Deutsch, Englisch, Italienisch, Spanisch, Französisch und Portugiesisch.
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"rules": {"profanity": "The message contains profanity: swear words, curse words, vulgar or obscene language, in any language"},
"block_slurs": True, # slur lists in six languages, one flag per kind
"categories": ["toxic"], # optional: is it also an attack?
},
)
result = r.json()
result["flags"]["rule:profanity"] # True: swearing or vulgar language
result["flags"]["toxic"] # True: also rude or hostile
result["blocklist_matches"] # slurs found, if anyDu kommst von der Perspective API? Der kompatible Endpoint bewertet PROFANITY mit derselben Regel: Perspective-API-Alternative
curl -s "https://api.vigimod.com/v1alpha1/comments:analyze?key=$VIGIMOD_KEY" \
-H "Content-Type: application/json" \
-d '{"comment": {"text": "wh4t the f*ck"}, "requestedAttributes": {"PROFANITY": {}}}'Ohne den Chat zu bremsen
- Prüfe nach dem Senden, nicht davor: Zeige die Nachricht sofort an und blende sie aus, wenn sie markiert wird. Niemand wartet auf den Filter.
- Wenn du vor dem Senden prüfen musst, frage nur ab, was du brauchst (Regeln und genutzte Kategorien): weniger Prüfungen, schnellere Antwort.
- Entscheide pro Community: Ein Gaming-Server kann Fluchen erlauben und nur Beleidigungen (toxic) entfernen, eine Plattform für Kinder entfernt beides.
- Sende die letzten Nachrichten als Kontext, wenn du auch Toxizität bewertest: Witze und Antworten werden mit dem gelesen, was davor kam.
Fragen
Gibt es eine kostenlose Schimpfwortfilter-API?
Ja: VigiMod ist während der Beta kostenlos, mit 120 Nachrichten pro Minute und API-Schlüssel und allen Funktionen. Auf der Website gibt es außerdem einen kostenlosen Prüfer ohne Konto.
Welche Sprachen unterstützt der Filter?
Das Modell liest 26 Sprachen und funktioniert am besten auf Deutsch, Englisch, Italienisch, Spanisch, Französisch und Portugiesisch. Die Listen diskriminierender Beleidigungen decken diese sechs ab.
Erkennt er Leetspeak und getarnte Schimpfwörter?
Ja. Der Text wird vor der Bewertung normalisiert (Zahlen statt Buchstaben, Symbole, gesperrte Buchstaben), und das Modell liest den ganzen Satz, daher werden „Sch31ße“ und „S c h e i ß e“ erkannt.
Markiert er harmlose Wörter wie Scunthorpe oder assessment?
Nein. Es gibt keinen Teilstring-Vergleich: Das Modell bewertet die Bedeutung, daher erhalten Wörter, die nur ein Schimpfwort enthalten, den Wert 0.
Was ist der Unterschied zwischen Vulgarität und Toxizität?
Vulgarität betrifft die Wörter (Fluchen, vulgäre Sprache); Toxizität betrifft die Absicht (unhöflich, feindselig, aggressiv). „Verdammt, ist das Spiel gut“ ist vulgär, aber nicht toxisch. VigiMod liefert beides, damit du entscheidest, worauf du reagierst.
Werden die Nachrichten gespeichert?
Nein. Nachrichten werden bewertet und verworfen; nur stündliche Nutzungszähler pro Schlüssel werden aufbewahrt.
Weiterlernen
Alle Leitfäden- Grundlagen · 5 Min. LesezeitFalsch-Positive und Falsch-Negative in der Content-ModerationJedes Moderationssystem macht zwei Arten von Fehlern. Was sie sind, was jede eine Community kostet und wie man beide niedrig hält.
- Fortgeschritten · 6 Min. LesezeitWie man die Moderationsschwelle wähltEin Wert von 0,7 ist keine Entscheidung. Wie Schwellen funktionieren, warum der Standardwert nur ein Anfang ist und eine einfache Methode, sie einzustellen.
- Grundlagen · 5 Min. LesezeitWarum Kontext bei der Chat-Moderation zähltDerselbe Satz kann harmlos oder schädlich sein, je nachdem, was davor kam. Wie der Gesprächskontext die Moderation verändert, mit echten Beispielen.
Schimpfwörter in 26 Sprachen filtern
Kostenloser API-Schlüssel, 120 Nachrichten pro Minute während der Beta.