Lerne, wie KI-Moderation funktioniert
Kurze Leitfäden dazu, wie KI Text versteht und wie Moderation funktioniert, von den Grundlagen bis hinter die Kulissen. Jeder endet mit einem Quiz.
11 Leitfäden
Wie KI Text liest
- Grundlagen6 Min. Lesezeit
Was ist ein Textklassifikator und wie entscheidet er?
Ein Textklassifikator liest einen Satz und gibt für jede Kategorie eine Wahrscheinlichkeit zurück. Wie er gebaut ist, was der Wert bedeutet und wo er sich irrt.
- Grundlagen7 Min. Lesezeit
Wie Sprachmodelle Text lesen: Tokens, Embeddings und Attention
Computer lesen keine Wörter. Wie ein Sprachmodell einen Satz in Tokens und Zahlen verwandelt und wie Attention ihm hilft, die Bedeutung zu verstehen.
- Fortgeschritten6 Min. Lesezeit
Trainingsdaten und Labels: Ein Modell ist nur so gut wie seine Beispiele
Woher Trainingsdaten für Moderation kommen, warum Labels oft falsch sind, was synthetische Daten und Lehrer-Modelle sind und warum Lizenzen wichtig sind.
Ein Modell messen
- Grundlagen5 Min. Lesezeit
Falsch-Positive und Falsch-Negative in der Content-Moderation
Jedes Moderationssystem macht zwei Arten von Fehlern. Was sie sind, was jede eine Community kostet und wie man beide niedrig hält.
- Fortgeschritten7 Min. Lesezeit
Precision, Recall und F1, erklärt mit Beispielen aus der Moderation
Die Genauigkeit verdeckt das Problem. Was Precision, Recall und F1 messen, wie man sie in 30 Sekunden berechnet und welche für deine Community zählt.
- Fortgeschritten6 Min. Lesezeit
Wie man die Moderationsschwelle wählt
Ein Wert von 0,7 ist keine Entscheidung. Wie Schwellen funktionieren, warum der Standardwert nur ein Anfang ist und eine einfache Methode, sie einzustellen.
KI-Moderation in der Praxis
- Grundlagen5 Min. Lesezeit
Warum Kontext bei der Chat-Moderation zählt
Derselbe Satz kann harmlos oder schädlich sein, je nachdem, was davor kam. Wie der Gesprächskontext die Moderation verändert, mit echten Beispielen.
- Fortgeschritten7 Min. Lesezeit
Zero-Shot-Klassifikation: wie ein Modell Regeln in normalen Worten versteht
Wie setzt ein Modell „Keine Spoiler“ durch, ohne auf diese Regel trainiert zu sein? Natural Language Inference und eigene Moderationsregeln erklärt.
- Fortgeschritten6 Min. Lesezeit
Bias in Moderationsmodellen: warum harmlose Nachrichten mit ausländischen Namen markiert werden
Moderationsmodelle markieren mitunter „Mohammed hat den Zug verpasst“ als Hass. Woher der Bias kommt, wie man ihn misst und wie man ihn beseitigt.
- Grundlagen5 Min. Lesezeit
Human in the Loop: wie KI und Moderatoren am besten zusammenarbeiten
Automatische Moderation ist schnell, Menschen verstehen Feinheiten. Wie man die Arbeit zwischen KI und Moderatoren aufteilt.