Warum Kontext bei der Chat-Moderation zählt

Ein Satz, zwei Bedeutungen

Vorherige Nachrichten	Nachricht	Ohne Kontext	Mit Kontext
„hat jemand das Finale gesehen?“ – „noch nicht, heute Abend!“	„lol er stirbt am Ende“	harmlos	Spoiler
„mein Goldfisch ist alt, ich mach mir Sorgen“	„ich glaube, er stirbt am Ende, tut mir leid“	Spoiler?	harmlos
„du hast schon wieder verloren 😂“ – „Revanche?“	„du bist fällig“	Drohung?	freundschaftliche Stichelei
„hör auf, mir zu schreiben“ – „ich hab gesagt, hör auf“	„ich weiß, wo du wohnst“	mehrdeutig	Drohung

Die Nachricht allein entscheidet nicht. Das Gespräch entscheidet.

Was Kontext behebt

• Fehlalarme bei Witzen unter Freunden, Sticheleien beim Zocken, Antworten, die jemanden zitieren.
• Regeln, die vom Thema abhängen: Spoiler, Off-Topic-Nachrichten, Verkäufe im falschen Kanal.
• Eskalation: eine Nachricht, die für sich mild ist, aber schon der dritte unerwünschte Kontakt in Folge.

Was Kontext nicht tun darf

Der Wert betrifft die letzte Nachricht. Hat dich jemand zwei Nachrichten vorher beleidigt, darf deine höfliche Antwort nicht als Beleidigung markiert werden. Ein gutes Modell nutzt den Kontext, um die Nachricht zu verstehen, nicht um ihr das Schädliche der vorherigen Nachrichten zuzuschreiben.

Wie viel Kontext?

Im Chat hängt die Bedeutung meist von den letzten Nachrichten ab. 5–10 vorherige Nachrichten, die älteste zuerst, decken fast jeden Fall ab und halten die Anfragen schnell. Sehr lange Verläufe kosten mehr und ändern das Ergebnis selten.

Warum es für Modelle schwer ist

Trainingsdaten mit Kontext sind selten: Die meisten öffentlichen Datensätze enthalten einzelne Nachrichten. Modelle müssen viele Beispiele sehen, in denen das Gespräch die richtige Antwort ändert, in beide Richtungen, um ihn nutzen zu lernen. Das ist eines der Hauptziele der nächsten VigiMod-Version.

In VigiMod

Schicke die vorherigen Nachrichten in context mit, die älteste zuerst, bis zu 10. Die Werte beziehen sich weiterhin auf text; der Kontext hilft nur beim Lesen. Siehe die Dokumentation und den Discord-Leitfaden mit einem Beispiel, das die letzten Nachrichten des Kanals abruft.