# Faux positifs et faux négatifs dans la modération de contenu

> Tout système de modération fait deux sortes d'erreurs. Ce qu'elles sont, ce que chacune coûte à une communauté et comment les garder basses toutes les deux.

Source: https://www.vigimod.com/fr/learn/false-positives-and-false-negatives · VigiMod (https://www.vigimod.com) · mis à jour le 2026-11-11 · 5 min

## En bref

- Faux positif : un message innocent signalé par erreur.
- Faux négatif : un message nuisible qui passe.
- Réduire l'un augmente en général l'autre ; le seuil décide de l'équilibre.
- Le contexte, de meilleures données et la relecture humaine réduisent les deux à la fois.

## Deux façons de se tromper

Un système de modération peut faire exactement deux sortes d'erreurs :

- Un **faux positif** signale quelque chose d'innocent : « je vais tuer l'examen demain » traité comme une menace, la citation d'une insulte traitée comme une insulte.
- Un **faux négatif** laisse passer quelque chose de nuisible : une menace voilée, une insulte à l'orthographe créative, un message haineux écrit poliment.

## Ce qu'elles coûtent

| Erreur | Coût pour la communauté |
|---|---|
| Faux positif | utilisateurs agacés, impression d'être surveillé, temps des modérateurs, parfois des départs |
| Faux négatif | tort causé à la personne visée, ambiance toxique, risque juridique et d'image |

Les coûts ne sont pas symétriques et dépendent de la communauté. Dans un espace pour mineurs, une tentative de pédopiégeage qui passe est bien pire que dix fausses alertes. Sur un serveur de jeu, signaler chaque chambrage amical tue l'ambiance.

## Pourquoi on ne supprime pas les deux en tournant un seul bouton

Le [seuil](https://www.vigimod.com/fr/learn/choosing-a-threshold) déplace les erreurs d'une colonne à l'autre : en le baissant, des faux négatifs deviennent des vrais positifs, mais davantage de faux positifs apparaissent. Avec un modèle donné, il y a toujours un compromis.

## D'où viennent les faux positifs courants

- **Le contexte manquant :** blagues entre amis, réponses, spoilers (voir [le contexte dans la modération](https://www.vigimod.com/fr/learn/context-in-moderation)).
- **L'hyperbole :** « j'ai envie de mourir, j'ai trois contrôles demain 😭 » c'est du stress, pas de l'automutilation.
- **Les citations et le contre-discours :** dénoncer ou condamner une insulte contient l'insulte.
- **Les mots d'identité :** des noms, nationalités ou religions rares dans les exemples innocents d'entraînement ([biais](https://www.vigimod.com/fr/learn/bias-in-moderation-models)).

## D'où viennent les faux négatifs courants

- **L'obfuscation :** « 1d10t », des espaces en trop, des emojis à la place des mots.
- **Le tort indirect :** des menaces sans mots violents, un harcèlement réparti sur de nombreux messages polis.
- **Un argot nouveau** et des langues que le modèle a peu vues.

## Comment garder les deux bas

1. **Un meilleur modèle** sur les bonnes données : le seul moyen d'améliorer les deux à la fois.
2. **Le contexte :** envoyez les messages précédents, pas seulement le dernier.
3. **Des actions graduées :** ne supprimez automatiquement que les cas clairs, envoyez les cas douteux à une personne.
4. **Le retour d'expérience :** gardez des exemples d'erreurs ; ce sont les données les plus précieuses pour la version suivante.

## Quiz

1. « Je vais tuer l'examen demain » signalé comme menace, c'est un…
   Réponse: Faux positif. Un message innocent signalé par erreur.
2. Une menace écrite « tu3r » qui n'est pas signalée, c'est un…
   Réponse: Faux négatif. Un message nuisible qui est passé.
3. Baisser le seuil en général…
   Réponse: réduit les faux négatifs et augmente les faux positifs. Le seuil ne fait que déplacer les erreurs d'un côté à l'autre.
4. Qu'est-ce qui réduit les deux sortes d'erreurs à la fois ?
   Réponse: Un meilleur modèle avec le contexte. Seul un modèle qui comprend mieux fait moins d'erreurs des deux sortes.