Pourquoi le contexte compte dans la modération des discussions

Une phrase, deux sens

Messages précédents	Message	Sans contexte	Avec contexte
« quelqu'un a vu le final ? » – « pas encore, ce soir ! »	« mdr il meurt à la fin »	anodin	spoiler
« mon poisson rouge est vieux, je m'inquiète »	« je crois qu'il meurt à la fin, désolé »	spoiler ?	anodin
« t'as encore perdu 😂 » – « revanche ? »	« tu vas tomber »	menace ?	chambrage amical
« arrête de m'écrire » – « j'ai dit stop »	« je sais où tu habites »	ambigu	menace

Le message seul ne décide pas. C'est la conversation qui décide.

Ce que le contexte corrige

• Les fausses alertes sur les blagues entre amis, le chambrage entre joueurs, les réponses qui citent quelqu'un.
• Les règles qui dépendent du sujet : spoilers, messages hors sujet, ventes dans le mauvais salon.
• L'escalade : un message anodin en lui-même, mais qui est le troisième contact non désiré d'affilée.

Ce que le contexte ne doit pas faire

Le score porte sur le dernier message. Si quelqu'un vous a insulté deux messages plus tôt, votre réponse polie ne doit pas être signalée comme une insulte. Un bon modèle utilise le contexte pour comprendre le message, pas pour lui transférer le tort des messages précédents.

Combien de contexte ?

Dans une discussion, le sens dépend en général des derniers messages. Envoyer les 5 à 10 messages précédents, du plus ancien au plus récent, couvre presque tous les cas tout en gardant des requêtes rapides. Les historiques très longs coûtent plus cher et changent rarement le verdict.

Pourquoi c'est difficile pour les modèles

Les données d'entraînement avec contexte sont rares : la plupart des jeux de données publics contiennent des messages isolés. Les modèles doivent voir de nombreux exemples où la conversation change la bonne réponse, dans les deux sens, pour apprendre à s'en servir. C'est l'un des principaux objectifs de la prochaine version de VigiMod.

Dans VigiMod

Envoyez les messages précédents dans context, du plus ancien au plus récent, jusqu'à 10. Les scores portent toujours sur text ; le contexte aide seulement à le lire. Voir la documentation et le guide Discord, avec un exemple qui récupère les derniers messages du salon.