# Données d'entraînement et étiquettes : un modèle ne vaut que ses exemples

> D'où viennent les données d'entraînement de la modération, pourquoi les étiquettes se trompent, les données synthétiques et l'importance des licences.

Source: https://www.vigimod.com/fr/learn/training-data-and-labels · VigiMod (https://www.vigimod.com) · mis à jour le 2026-11-11 · 6 min

## En bref

- Un modèle apprend à partir d'exemples étiquetés : les étiquettes définissent pour lui ce qui est « toxique ».
- Les personnes ne sont pas d'accord sur les étiquettes, surtout pour la haine et l'ironie ; certaines étiquettes sont tout simplement fausses.
- Les grands modèles peuvent écrire et étiqueter des exemples (professeur → élève), mais il faut les vérifier.
- Chaque jeu de données a une licence : tous ne peuvent pas servir à un produit commercial.

## Les étiquettes sont la définition

Quand on entraîne un modèle, il ne voit jamais la définition du dictionnaire du mot « insulte ». Il voit des milliers de messages que des personnes ont marqués comme insultes ou non. **Les étiquettes sont la définition.** Si elles sont incohérentes, le modèle apprend une idée incohérente.

## Les personnes ne sont pas d'accord

Sur les cas clairs, tout le monde est d'accord. Sur le discours de haine, l'ironie, les insultes réappropriées ou les insultes politiques, les annotateurs se divisent souvent. Les études sur les jeux de données de discours haineux trouvent régulièrement un accord seulement partiel entre personnes qui étiquettent les mêmes messages. Solutions courantes :

- plusieurs annotateurs par message et un vote à la majorité ;
- des consignes détaillées avec des exemples ;
- mettre de côté les cas « disputés » au lieu de forcer une étiquette.

## Certaines étiquettes sont fausses

Dans les grands jeux de données, une partie des étiquettes est simplement une erreur : une phrase clairement toxique marquée comme saine, une blague marquée comme menace. En vérifiant les messages que notre propre modèle signalait dans un jeu de test étiqueté par des personnes, environ la moitié des « fausses alertes » étaient en réalité des messages mal étiquetés dans le jeu de données. Deux conséquences :

1. **Entraînement :** le modèle apprend certaines erreurs.
2. **Mesure :** même un modèle parfait paraît moins bon qu'il ne l'est. Les évaluations sérieuses construisent un jeu de test « de référence » (gold) vérifié.

## Données réelles, données synthétiques, professeurs

- Les **messages réels** écrits par des personnes sont les plus précieux : vrai argot, vraies fautes, vrai contexte.
- Les **données synthétiques** sont écrites exprès par un grand modèle de langage pour couvrir ce qui manque : des conversations où le contexte change le sens, des langues rares, des règles délicates.
- **Professeur → élève :** un grand modèle (le professeur) étiquette ou écrit des exemples, un petit modèle rapide (l'élève) apprend à partir d'eux. L'élève peut devenir presque aussi bon que le professeur sur cette tâche tout en coûtant des centaines de fois moins cher à faire tourner. Il hérite aussi des erreurs du professeur : des personnes doivent donc vérifier des échantillons.

## Les licences comptent

Les jeux de données publics ont une licence. Certaines autorisent l'usage commercial (CC0, CC-BY, MIT, Apache), d'autres l'interdisent (« non commercial »), et certaines imposent que les œuvres dérivées gardent la même licence (« partage dans les mêmes conditions »). Les sorties d'un modèle peuvent aussi avoir des conditions d'utilisation. Un produit de modération doit vérifier chaque source avant de s'entraîner dessus.

## L'oubli

Quand un modèle est réentraîné uniquement sur de nouvelles données, il peut **oublier** ce qu'il savait. La solution habituelle est le **replay** : mélanger une part des anciennes données d'entraînement aux nouvelles. C'est ainsi qu'un modèle peut apprendre quelque chose de nouveau (par exemple [ne pas signaler des phrases innocentes contenant des noms étrangers](https://www.vigimod.com/fr/learn/bias-in-moderation-models)) sans se dégrader sur tout le reste.

## Quiz

1. Pour un modèle, qu'est-ce qui définit le sens d'« insulte » ?
   Réponse: Les étiquettes de ses données d'entraînement. Le modèle ne voit que des exemples étiquetés.
2. Qu'est-ce qu'un jeu de test « gold » ?
   Réponse: Un jeu de test dont les étiquettes ont été soigneusement revérifiées. Des étiquettes revérifiées rendent les mesures fiables.
3. Dans l'entraînement professeur → élève…
   Réponse: un petit modèle apprend à partir d'exemples écrits ou étiquetés par un grand. L'élève devient rapide et bon marché, mais hérite des erreurs du professeur.
4. À quoi sert le « replay » ?
   Réponse: À éviter que le modèle oublie ce qu'il savait quand on l'entraîne sur de nouvelles données. Mélanger anciennes et nouvelles données évite l'oubli.