Anwendungsfall

KI-Moderation für Foren, mit dem Thread als Kontext

Forenmoderatoren verbringen Stunden mit Meldungen, Off-Topic-Beiträgen und eskalierten Diskussionen. VigiMod prüft jeden neuen Beitrag vor der Veröffentlichung, liest die vorherigen Beiträge des Threads und die Regeln des Forums: Klare Fälle werden erledigt, nur die unklaren landen bei einem Menschen.

Kostenlosen API-Schlüssel holenDokumentation lesen

Was es schwierig macht

Antworten ergeben nur im Thread Sinn

„Du hast es offensichtlich nicht gelesen“ ist je nach Vorgeschichte normal oder unhöflich. VigiMod liest bis zu zehn vorherige Beiträge.

Off-Topic und Verkäufe

Viele Foren verbieten Verkäufe, Politik oder andere Themen. Regeln in normalen Worten erkennen sie wie jede Kategorie.

Zu viele Meldungen

Markierte Beiträge zur Prüfung zurückzuhalten heißt: Moderatoren sehen eine kurze Warteschlange statt des ganzen Forums.

So funktioniert es mit VigiMod

  1. 1

    Bevor ein neuer Beitrag gespeichert wird, sendet dein Forum ihn mit den letzten Beiträgen des Threads und deinen Regeln an VigiMod.

  2. 2

    Ist nichts markiert, wird der Beitrag wie gewohnt veröffentlicht.

  3. 3

    Ist etwas markiert, wartet der Beitrag in der Moderationswarteschlange, mit der Kategorie, die ihn ausgelöst hat.

Regeln zum Kopieren

Sende sie im Feld rules: Jede kommt mit einer eigenen Bewertung zurück, wie eine eingebaute Kategorie.

{
  "rules": {
    "no-selling": "Kein Kaufen oder Verkaufen von Gegenständen",
    "no-politics": "Keine Diskussionen über Politik oder Wahlen",
    "on-topic": "Hier geht es nur um Fotografie",
    "no-personal-attacks": "Keine Kommentare über andere Mitglieder statt über ihre Argumente"
  }
}

Beispiel

Eine Python-Funktion, die vor dem Speichern eines Beitrags aufgerufen wird: Markierte Beiträge warten auf einen Moderator, statt online zu gehen.

Python

# pip install requests
# Call this before saving a new post: flagged posts wait for a moderator instead of going live.
import os
import requests

RULES = {
    "no-selling": "No buying or selling items",
    "on-topic": "Only photography talk here",
}

def check_post(text: str, author_id: str, thread: list[str]) -> dict:
    r = requests.post(
        "https://api.vigimod.com/moderate",
        headers={"X-API-Key": os.environ["VIGIMOD_KEY"]},
        json={
            "text": text[:2000],
            "context": [p[:2000] for p in thread[-10:]],   # the previous posts of the thread
            "rules": RULES,
            "user_id": author_id,
            "scope": "forum",
        },
        timeout=5,
    )
    r.raise_for_status()
    return r.json()

# in your "new post" handler
result = check_post(post.body, str(post.author_id), [p.body for p in thread.posts])
post.status = "pending_review" if result["flagged"] else "published"
post.flagged_by = [name for name, hit in result["flags"].items() if hit]

Tipps

  • Halte markierte Beiträge zur Prüfung zurück, statt sie zu löschen: Das letzte Wort behalten die Moderatoren.
  • Eine Nachricht darf bis zu 2.000 Zeichen haben: Prüfe bei längeren Beiträgen den ersten und den letzten Teil.
  • Nutze je Bereich andere Regeln: Der Marktplatz erlaubt Verkäufe, der allgemeine Bereich nicht.

Fragen

Funktioniert es mit Discourse, phpBB, Flarum oder NodeBB?
Ja, mit einem kleinen Plugin oder Webhook: Jedes Forum, das beim Erstellen eines Beitrags einen HTTP-Aufruf machen kann, kann VigiMod nutzen.
Was ist mit langen Beiträgen?
Jede Nachricht darf bis zu 2.000 Zeichen haben. Prüfe längere Beiträge in Teilen oder Anfang und Ende.
Kann jeder Bereich eigene Regeln haben?
Ja. Regeln werden mit jeder Anfrage gesendet, also kann jeder Bereich, jede Kategorie oder jedes Tag eigene senden.
Ist es kostenlos?
Während der Beta ja: 120 Nachrichten pro Minute und API-Schlüssel, alle Funktionen inklusive.

Weitere Anwendungsfälle

Weiterlernen

Alle Leitfäden

Anwendungsfälle

Du kommst von einer anderen API?

Teste es in deiner Community

Erstelle in zwei Minuten einen kostenlosen API-Schlüssel. Keine Karte, keine Testphase.

Kostenlosen API-Schlüssel holenDokumentation lesen