# Human in the Loop: wie KI und Moderatoren am besten zusammenarbeiten

> Automatische Moderation ist schnell, Menschen verstehen Feinheiten. Wie man die Arbeit zwischen KI und Moderatoren aufteilt.

Source: https://www.vigimod.com/de/learn/human-in-the-loop-moderation · VigiMod (https://www.vigimod.com) · aktualisiert am 2026-11-11 · 5 min

## Kurz gesagt

- KI ist schnell und gleichbleibend; Menschen verstehen Ironie, Vorgeschichte und Absicht.
- Automatisiere eindeutige, risikoarme Maßnahmen; Sperren und Einsprüche bleiben bei Menschen.
- Schicke unsichere Fälle in eine Prüfwarteschlange, statt zu raten.
- Jede menschliche Entscheidung ist eine Rückmeldung, die das System verbessert.

## Unterschiedliche Stärken

| | KI | Menschliche Moderatoren |
|---|---|---|
| Tempo | Millisekunden, rund um die Uhr | Minuten oder Stunden |
| Gleichmäßigkeit | immer dieselbe Antwort | hängt von Person und Tag ab |
| Feinheiten | wird besser, aber begrenzt | Ironie, Vorgeschichte zwischen Nutzern, Absicht |
| Menge | Tausende Nachrichten pro Minute | einige Hundert pro Schicht |
| Kosten eines Fehlers | kann ihn überall wiederholen | meist ein Einzelfall |

Keines reicht allein. Ziel ist, jedem die Arbeit zu geben, die es am besten kann.

## Eine praktische Aufteilung

1. **Automatische, umkehrbare Maßnahmen** für eindeutige Fälle mit hohen Werten: Nachricht ausblenden, Nutzer verlangsamen, um eine andere Formulierung bitten.
2. **Prüfwarteschlange** für unsichere Werte: Ein Moderator sieht die Nachricht, ihre Werte und das Gespräch und entscheidet.
3. **Nur Menschen** für ernste, schwer umkehrbare Maßnahmen: Sperren, Meldungen an Behörden, Entscheidungen über Minderjährige.
4. **Einsprüche** bearbeitet eine Person, die nicht die erste Entscheidung getroffen hat.

Wie man die Wertebereiche festlegt, steht in [die Moderationsschwelle wählen](https://www.vigimod.com/de/learn/choosing-a-threshold).

## Gib Moderatoren den Kontext

Eine Nachricht allein kann einen Menschen genauso täuschen wie ein Modell. Zeige die vorherigen Nachrichten, den Verlauf des Nutzers und warum die Nachricht markiert wurde (welche Kategorie, welche Regel, welcher Wert). [Kontext](https://www.vigimod.com/de/learn/context-in-moderation) hilft auch Menschen.

## Schließe den Kreis

Jede menschliche Entscheidung ist ein Label: „das war ein Fehlalarm“, „das ist durchgerutscht“. Über die Zeit gesammelt, sind diese Entscheidungen die wertvollsten Daten, um Schwellen anzupassen und die nächste Modellversion zu verbessern.

## Sei transparent gegenüber den Nutzern

Sag deiner Community, dass Nachrichten automatisch geprüft werden, was passiert, wenn eine Nachricht markiert wird, und wie man Einspruch einlegt. Regeln, die man versteht, werden eher befolgt, und Fehler werden leichter verziehen, wenn man sie korrigieren kann.

## Schütze die Moderatoren

Moderatoren sehen die schlimmsten Inhalte. Automatisches Filtern der eindeutigsten Fälle, unscharfe Vorschauen und begrenzte Belastung schützen ihr Wohlbefinden: ein weiterer Grund, der KI den ersten Durchgang zu überlassen.

## Quiz

1. Welche Maßnahme sollte ein Mensch übernehmen?
   Antwort: Eine dauerhafte Sperre. Ernste, schwer umkehrbare Maßnahmen brauchen menschliches Urteil.
2. Was soll mit Nachrichten mit unsicheren Werten passieren?
   Antwort: In eine Prüfwarteschlange schicken. Ein Mensch entscheidet dort, wo das Modell unsicher ist.
3. Warum sind die Entscheidungen der Moderatoren wertvolle Daten?
   Antwort: Sie zeigen die Fehler des Systems und helfen, Schwellen anzupassen und das nächste Modell zu trainieren. Jede Entscheidung ist ein Label aus der echten Community.
4. Was hilft einem Moderator, gut zu entscheiden?
   Antwort: Die Nachricht, das Gespräch und den Grund der Markierung zu sehen. Kontext hilft Menschen genauso wie Modellen.