Kostenloses Tool · ohne Anmeldung
Toxizitäts- und Schimpfwortprüfer
Füge eine Nachricht ein und sieh, wie ein KI-Moderationsmodell sie liest: Toxizität, Beleidigungen, Hass, Drohungen, sexuelle Inhalte, Selbstverletzung, Werbung, Schimpfwörter und diskriminierende Beleidigungen. Funktioniert in 26 Sprachen, nimmt Gesprächskontext und eine eigene Regel an und speichert nichts.
Die Werte reichen von 0 bis 1. Eine Kategorie wird markiert, wenn ihr Wert die Schwelle überschreitet (der Strich auf jedem Balken); jeder Server kann eigene Schwellen setzen.
Was geprüft wird
Toxizität
Unhöfliche, respektlose oder aggressive Nachrichten, Beleidigungen und Drohungen eingeschlossen.
Beleidigungen, Hass und Drohungen
Angriffe auf eine Person, Angriffe auf Menschen für das, was sie sind, Drohungen mit Gewalt oder Schaden.
Schimpfwörter
Fluchen und vulgäre Sprache. Ein Schimpfwort unter Freunden ist vulgär, aber nicht unbedingt toxisch: Beides wird getrennt bewertet.
Diskriminierende Beleidigungen
Rassistische, fremdenfeindliche, antisemitische, homophobe, transphobe und ableistische Beleidigungen aus Wortlisten in sechs Sprachen, auch in freundlichen Sätzen erkannt.
Sexuelle Inhalte, Selbstverletzung und Werbung
Jeweils mit eigenem Score und Schwellenwert.
Deine eigene Regel
Schreib eine Regel in natürlicher Sprache, etwa „Keine Spoiler“, und sieh, welchen Score die Nachricht bekommt.
So funktioniert es
- Es ist dasselbe Modell wie die VigiMod-API: ein mehrsprachiges Modell, das jede Kategorie als Satz liest und beantwortet, ob die Nachricht darauf passt.
- Leetspeak, gesperrte Buchstaben und ähnlich aussehende Zeichen werden vor der Bewertung normalisiert („1d10t“, „i d i o t“).
- Eine Kategorie wird markiert, wenn ihr Score den Schwellenwert überschreitet, die Markierung auf jedem Balken. In der API kann jede Community eigene Schwellenwerte setzen.
- Nachrichten werden geprüft und verworfen: Nichts, was du eingibst, wird gespeichert oder zum Training von Modellen genutzt. Das Tool erlaubt wenige Prüfungen pro Minute.
Fragen
Ist der Toxizitätsprüfer kostenlos?
Ja, ohne Konto. Für mehr als ein paar Prüfungen pro Minute oder für Nachrichten aus deiner App erstellst du einen kostenlosen API-Schlüssel: 120 Nachrichten pro Minute während der Beta.
Welche Sprachen werden unterstützt?
Es wurde auf 26 Sprachen trainiert und funktioniert am besten auf Englisch, Italienisch, Spanisch, Französisch, Deutsch und Portugiesisch. Die Listen diskriminierender Beleidigungen decken diese sechs ab.
Was ist der Unterschied zwischen Toxizität und Schimpfwörtern?
Schimpfwörter betreffen die Wörter (Fluchen, Vulgarität); Toxizität betrifft die Absicht (unhöflich, feindselig, aggressiv). „Verdammt, ist das Spiel gut“ ist vulgär, aber freundlich; ein höflicher Satz kann trotzdem eine Beleidigung sein.
Kann ich damit die Perspective API ersetzen?
Ja: Die VigiMod-API beantwortet dieselben comments:analyze-Anfragen wie Perspective, mit TOXICITY, PROFANITY und den anderen Attributen. Siehe die Seite zur Perspective-API-Alternative.
Wird gespeichert, was ich eingebe?
Nein. Die Nachricht wird an das Modell gesendet, bewertet und verworfen. Nur eine anonyme Zahl der Prüfungen wird gezählt.
Weiterlernen
Alle Leitfäden- Grundlagen · 5 Min. LesezeitFalsch-Positive und Falsch-Negative in der Content-ModerationJedes Moderationssystem macht zwei Arten von Fehlern. Was sie sind, was jede eine Community kostet und wie man beide niedrig hält.
- Fortgeschritten · 6 Min. LesezeitWie man die Moderationsschwelle wähltEin Wert von 0,7 ist keine Entscheidung. Wie Schwellen funktionieren, warum der Standardwert nur ein Anfang ist und eine einfache Methode, sie einzustellen.
- Grundlagen · 5 Min. LesezeitWarum Kontext bei der Chat-Moderation zähltDerselbe Satz kann harmlos oder schädlich sein, je nachdem, was davor kam. Wie der Gesprächskontext die Moderation verändert, mit echten Beispielen.
Prüfe Nachrichten aus deiner eigenen App
Kostenloser API-Schlüssel, 120 Nachrichten pro Minute während der Beta.