# Wie man die Moderationsschwelle wählt

> Ein Wert von 0,7 ist keine Entscheidung. Wie Schwellen funktionieren, warum der Standardwert nur ein Anfang ist und eine einfache Methode, sie einzustellen.

Source: https://www.vigimod.com/de/learn/choosing-a-threshold · VigiMod (https://www.vigimod.com) · aktualisiert am 2026-11-11 · 6 min

## Kurz gesagt

- Die Schwelle ist der Wert, ab dem eine Nachricht markiert wird.
- Niedrigere Schwelle: mehr schädliche Nachrichten erkannt, mehr Fehlalarme. Höhere: das Gegenteil.
- Standardwerte sind auf allgemeinen Daten abgestimmt; deine Community ist nicht allgemein.
- Stelle sie an ein paar hundert echten Nachrichten ein, Kategorie für Kategorie, und nutze je nach Wert unterschiedliche Maßnahmen.

## Was eine Schwelle ist

Ein Klassifikator gibt einen Wert von 0 bis 1 (siehe [was ist ein Textklassifikator](https://www.vigimod.com/de/learn/what-is-a-text-classifier)). Die **Schwelle** ist die Linie, die du ziehst: Wert ≥ Schwelle → markiert. Bei einer Schwelle von 0,8 wird eine Nachricht mit 0,83 für „Beleidigung“ markiert, eine mit 0,79 nicht.

## Der Kompromiss

Wer die Schwelle verschiebt, bewegt sich entlang einer Kurve:

| Schwelle | Was passiert |
|---|---|
| Niedrig (z. B. 0,3) | erkennt fast alles (hoher **Recall**), aber viele Fehlalarme (niedrige **Precision**) |
| Mittel (z. B. 0,6) | ein Gleichgewicht |
| Hoch (z. B. 0,9) | markiert nur eindeutige Fälle (hohe Precision), lässt subtile durch (niedriger Recall) |

Es gibt keine Schwelle, die für alle richtig ist. [Precision und Recall](https://www.vigimod.com/de/learn/precision-recall-f1) erklären beide Seiten.

## Warum der Standardwert nur ein Anfang ist

API-Anbieter stimmen Standardschwellen auf Validierungsdaten ab, meist an dem Punkt mit dem besten F1. Diese Daten mischen viele Communities. Deine hat ihren eigenen Slang, ihre eigenen Witze und ihre eigene Toleranz: Ein kompetitiver Gaming-Server und ein Hilfeforum für Jugendliche sollten nicht dieselben Zahlen verwenden.

## Eine einfache Methode zum Einstellen

1. **Sammle** 300 bis 500 echte Nachrichten aus deiner Community (mit der Einwilligung, die deine Regeln verlangen), darunter einige, die du entfernen würdest.
2. **Beschrifte** sie selbst, nach Kategorie: Ist das eine Beleidigung? Eine Drohung?
3. **Bewerte** sie mit der API und speichere die Werte.
4. Probiere für jede Kategorie **einige Schwellen** aus (0,5, 0,6, 0,7, 0,8, 0,9) und zähle Fehlalarme und Übersehene.
5. **Wähle** die Schwelle, deren Fehler du in Kauf nehmen kannst, und schreibe auf, warum.

Mit VigiMod kannst du deine Schwellen dann in jeder Anfrage mitschicken (`"thresholds": {"toxic": 0.8, "insult": 0.7}`), ohne sonst etwas zu ändern. Siehe die [Dokumentation](https://www.vigimod.com/en/docs).

## Nutze mehr als eine Linie

Du musst nicht zwischen „blockieren“ und „erlauben“ wählen. Ein übliches Muster:

| Wert | Maßnahme |
|---|---|
| ≥ 0,95 | automatisch entfernen |
| 0,75 – 0,95 | ausblenden und an Moderatoren schicken |
| 0,5 – 0,75 | erlauben, aber protokollieren |
| < 0,5 | erlauben |

So bleiben automatische Maßnahmen für eindeutige Fälle, und Menschen urteilen dort, wo das Modell unsicher ist.

## Prüfe von Zeit zu Zeit nach

Sprache verändert sich, neuer Slang entsteht, ein Modell wird aktualisiert. Wiederhole die Prüfung alle paar Monate und immer, wenn du die Modellversion wechselst.

## Quiz

1. Du senkst die Schwelle von 0,8 auf 0,5. Was passiert meistens?
   Antwort: Mehr schädliche Nachrichten werden erkannt, aber auch mehr Fehlalarme. Eine niedrigere Schwelle erhöht den Recall und senkt die Precision.
2. Warum ist die Standardschwelle nur ein Anfang?
   Antwort: Sie ist auf allgemeine Daten abgestimmt, nicht auf deine Community. Jede Community hat ihren eigenen Slang und ihre eigene Toleranz.
3. Wie stellt man eine Schwelle gut ein?
   Antwort: Ein paar hundert eigene Nachrichten beschriften und vergleichen. Deine eigenen beschrifteten Nachrichten zeigen, welche Fehler jede Schwelle macht.
4. Wert 0,8 für „Drohung“ bei Schwellen von 0,75 (Prüfung) und 0,95 (Entfernen). Was passiert?
   Antwort: An Moderatoren geschickt. 0,8 liegt zwischen 0,75 und 0,95: Ein Mensch entscheidet.