# L'humain dans la boucle : comment l'IA et les modérateurs travaillent le mieux ensemble

> La modération automatique est rapide, les personnes saisissent les nuances. Comment répartir le travail entre l'IA et les modérateurs.

Source: https://www.vigimod.com/fr/learn/human-in-the-loop-moderation · VigiMod (https://www.vigimod.com) · mis à jour le 2026-11-11 · 5 min

## En bref

- L'IA est rapide et constante ; les personnes comprennent l'ironie, l'historique et l'intention.
- Automatisez les actions claires et peu risquées ; laissez les bannissements et les recours aux personnes.
- Envoyez les cas incertains dans une file de relecture au lieu de deviner.
- Chaque décision humaine est un retour qui améliore le système.

## Des forces différentes

| | IA | Modérateurs humains |
|---|---|---|
| Vitesse | millisecondes, 24 h/24 | minutes ou heures |
| Constance | la même réponse à chaque fois | dépend de la personne et du jour |
| Nuances | en progrès, mais limitées | ironie, historique entre utilisateurs, intention |
| Échelle | des milliers de messages par minute | quelques centaines par service |
| Coût d'une erreur | peut la répéter partout | en général isolée |

Aucun des deux ne suffit seul. Le but est de confier à chacun le travail qu'il fait le mieux.

## Une répartition pratique

1. **Des actions automatiques et réversibles** pour les cas clairs aux scores élevés : masquer le message, ralentir l'utilisateur, lui demander de reformuler.
2. **Une file de relecture** pour les scores incertains : un modérateur voit le message, ses scores et la conversation, puis décide.
3. **Des personnes uniquement** pour les actions graves et difficiles à annuler : bannissements, signalements aux autorités, décisions concernant des mineurs.
4. **Des recours** traités par une personne qui n'a pas pris la première décision.

Comment fixer les tranches de score est expliqué dans [comment choisir le seuil](https://www.vigimod.com/fr/learn/choosing-a-threshold).

## Donnez du contexte aux modérateurs

Un message isolé peut tromper une personne autant qu'un modèle. Montrez les messages précédents, l'historique de l'utilisateur et la raison du signalement (quelle catégorie, quelle règle, quel score). Le [contexte](https://www.vigimod.com/fr/learn/context-in-moderation) aide aussi les personnes.

## Bouclez la boucle

Chaque décision humaine est une étiquette : « c'était une fausse alerte », « celui-là est passé ». Accumulées au fil du temps, ces décisions sont les données les plus précieuses pour régler les seuils et améliorer la version suivante du modèle.

## Soyez transparent avec les utilisateurs

Dites à votre communauté que les messages sont vérifiés automatiquement, ce qui se passe quand un message est signalé et comment faire un recours. Les règles que les gens comprennent sont mieux respectées, et les erreurs sont plus facilement pardonnées quand on peut les corriger.

## Protégez les modérateurs

Les modérateurs voient le pire contenu. Le filtrage automatique des cas les plus clairs, des aperçus floutés et une exposition limitée protègent leur bien-être : une raison de plus de laisser l'IA faire le premier tri.

## Quiz

1. Quelle action faut-il laisser à une personne ?
   Réponse: Un bannissement définitif. Les actions graves et difficiles à annuler demandent un jugement humain.
2. Que faire des messages aux scores incertains ?
   Réponse: Les envoyer dans une file de relecture. Une personne décide là où le modèle hésite.
3. Pourquoi les décisions des modérateurs sont-elles des données précieuses ?
   Réponse: Elles montrent les erreurs du système et servent à régler les seuils et à entraîner le modèle suivant. Chaque décision est une étiquette venant de la vraie communauté.
4. Qu'est-ce qui aide un modérateur à bien décider ?
   Réponse: Voir le message, la conversation et la raison du signalement. Le contexte aide les personnes autant que les modèles.