Caso d'uso

Moderazione AI per forum, con la discussione come contesto

I moderatori di un forum passano ore su segnalazioni, post fuori tema e litigi sfuggiti di mano. VigiMod controlla ogni nuovo post prima che venga pubblicato, leggendo i post precedenti della discussione e le regole del forum: i casi chiari sono gestiti e solo quelli dubbi arrivano a una persona.

Ottieni una chiave API gratuitaLeggi la documentazione

Cosa lo rende difficile

Le risposte hanno senso solo nella discussione

«Si vede che non l'hai letto» è normale o scortese a seconda di cosa c'era prima. VigiMod legge fino a dieci post precedenti.

Fuori tema e vendite

Molti forum vietano le vendite, la politica o altri argomenti. Le regole scritte a parole li riconoscono, come qualsiasi categoria.

Troppe segnalazioni

Mettere in attesa i post segnalati significa che i moderatori guardano una coda corta invece di tutto il forum.

Come funziona con VigiMod

  1. 1

    Prima di salvare un nuovo post, il forum lo invia a VigiMod con gli ultimi post della discussione e le tue regole.

  2. 2

    Se niente è segnalato, il post viene pubblicato come sempre.

  3. 3

    Se qualcosa è segnalato, il post aspetta nella coda di moderazione con la categoria che l'ha fatto scattare.

Regole da copiare

Inviale nel campo rules: ognuna torna con il suo punteggio, come una categoria predefinita.

{
  "rules": {
    "no-selling": "Niente compravendita di oggetti",
    "no-politics": "Niente discussioni su politica o elezioni",
    "on-topic": "Qui si parla solo di fotografia",
    "no-personal-attacks": "Niente commenti sugli altri utenti invece che sui loro argomenti"
  }
}

Esempio

Una funzione Python da chiamare prima di salvare un post: i post segnalati aspettano un moderatore invece di andare online.

Python

# pip install requests
# Call this before saving a new post: flagged posts wait for a moderator instead of going live.
import os
import requests

RULES = {
    "no-selling": "No buying or selling items",
    "on-topic": "Only photography talk here",
}

def check_post(text: str, author_id: str, thread: list[str]) -> dict:
    r = requests.post(
        "https://api.vigimod.com/moderate",
        headers={"X-API-Key": os.environ["VIGIMOD_KEY"]},
        json={
            "text": text[:2000],
            "context": [p[:2000] for p in thread[-10:]],   # the previous posts of the thread
            "rules": RULES,
            "user_id": author_id,
            "scope": "forum",
        },
        timeout=5,
    )
    r.raise_for_status()
    return r.json()

# in your "new post" handler
result = check_post(post.body, str(post.author_id), [p.body for p in thread.posts])
post.status = "pending_review" if result["flagged"] else "published"
post.flagged_by = [name for name, hit in result["flags"].items() if hit]

Consigli

  • Metti in attesa i post segnalati invece di cancellarli: l'ultima parola resta ai moderatori.
  • Un messaggio può avere fino a 2.000 caratteri: per i post più lunghi controlla la prima e l'ultima parte.
  • Usa regole diverse per sezione: il mercatino permette le vendite, la sezione generale no.

Domande

Funziona con Discourse, phpBB, Flarum o NodeBB?
Sì, con un piccolo plugin o un webhook: qualsiasi forum che può fare una chiamata HTTP quando viene creato un post può usare VigiMod.
E i post lunghi?
Ogni messaggio può avere fino a 2.000 caratteri. Controlla i post più lunghi a pezzi, o l'inizio e la fine.
Ogni sezione può avere le sue regole?
Sì. Le regole si inviano con ogni richiesta, quindi ogni sezione, categoria o tag può mandarne di diverse.
È gratis?
Durante la beta sì: 120 messaggi al minuto per chiave API e tutte le funzioni incluse.

Altri casi d'uso

Continua a imparare

Tutte le guide

Casi d'uso

Arrivi da un'altra API?

Provalo sulla tua community

Crea una chiave API gratuita in due minuti. Niente carta, niente periodo di prova.

Ottieni una chiave API gratuitaLeggi la documentazione