Cas d'usage

Modération par IA pour forums, avec la discussion comme contexte

Les modérateurs de forum passent des heures sur les signalements, les messages hors sujet et les disputes qui dérapent. VigiMod vérifie chaque nouveau message avant publication, en lisant les messages précédents de la discussion et les règles du forum : les cas clairs sont traités et seuls les cas douteux arrivent à une personne.

Obtenir une clé API gratuiteLire la documentation

Ce qui rend la tâche difficile

Les réponses n'ont de sens que dans la discussion

« Tu ne l'as clairement pas lu » est normal ou impoli selon ce qui précède. VigiMod lit jusqu'à dix messages précédents.

Hors-sujet et ventes

Beaucoup de forums interdisent la vente, la politique ou d'autres sujets. Les règles en langage courant les repèrent comme n'importe quelle catégorie.

Trop de signalements

Retenir les messages signalés pour relecture permet aux modérateurs de voir une file courte au lieu de tout le forum.

Comment ça marche avec VigiMod

  1. 1

    Avant d'enregistrer un nouveau message, votre forum l'envoie à VigiMod avec les derniers messages de la discussion et vos règles.

  2. 2

    Si rien n'est signalé, le message est publié comme d'habitude.

  3. 3

    Si quelque chose est signalé, le message attend dans la file de modération avec la catégorie qui l'a déclenché.

Des règles à copier

Envoyez-les dans le champ rules : chacune revient avec son propre score, comme une catégorie intégrée.

{
  "rules": {
    "no-selling": "Pas d'achat ni de vente d'objets",
    "no-politics": "Pas de discussions sur la politique ou les élections",
    "on-topic": "Ici on ne parle que de photographie",
    "no-personal-attacks": "Pas de commentaires sur les autres membres au lieu de leurs arguments"
  }
}

Exemple

Une fonction Python à appeler avant d'enregistrer un message : les messages signalés attendent un modérateur au lieu d'être publiés.

Python

# pip install requests
# Call this before saving a new post: flagged posts wait for a moderator instead of going live.
import os
import requests

RULES = {
    "no-selling": "No buying or selling items",
    "on-topic": "Only photography talk here",
}

def check_post(text: str, author_id: str, thread: list[str]) -> dict:
    r = requests.post(
        "https://api.vigimod.com/moderate",
        headers={"X-API-Key": os.environ["VIGIMOD_KEY"]},
        json={
            "text": text[:2000],
            "context": [p[:2000] for p in thread[-10:]],   # the previous posts of the thread
            "rules": RULES,
            "user_id": author_id,
            "scope": "forum",
        },
        timeout=5,
    )
    r.raise_for_status()
    return r.json()

# in your "new post" handler
result = check_post(post.body, str(post.author_id), [p.body for p in thread.posts])
post.status = "pending_review" if result["flagged"] else "published"
post.flagged_by = [name for name, hit in result["flags"].items() if hit]

Conseils

  • Retenez les messages signalés pour relecture au lieu de les supprimer : les modérateurs gardent le dernier mot.
  • Un message peut faire jusqu'à 2 000 caractères : pour les messages plus longs, vérifiez la première et la dernière partie.
  • Utilisez des règles différentes par section : la section petites annonces autorise la vente, la section générale non.

Questions

Ça marche avec Discourse, phpBB, Flarum ou NodeBB ?
Oui, avec un petit plugin ou un webhook : tout forum capable de faire un appel HTTP à la création d'un message peut utiliser VigiMod.
Et les messages longs ?
Chaque message peut faire jusqu'à 2 000 caractères. Vérifiez les messages plus longs par morceaux, ou le début et la fin.
Chaque section peut-elle avoir ses règles ?
Oui. Les règles sont envoyées avec chaque requête, donc chaque section, catégorie ou étiquette peut envoyer les siennes.
C'est gratuit ?
Pendant la bêta, oui : 120 messages par minute et par clé API, toutes les fonctions incluses.

Autres cas d'usage

Continuer à apprendre

Tous les guides

Cas d'usage

Vous venez d'une autre API ?

Essayez-le sur votre communauté

Créez une clé API gratuite en deux minutes. Sans carte, sans période d'essai.

Obtenir une clé API gratuiteLire la documentation