Données d'entraînement et étiquettes : un modèle ne vaut que ses exemples

Les étiquettes sont la définition

Quand on entraîne un modèle, il ne voit jamais la définition du dictionnaire du mot « insulte ». Il voit des milliers de messages que des personnes ont marqués comme insultes ou non. Les étiquettes sont la définition. Si elles sont incohérentes, le modèle apprend une idée incohérente.

Les personnes ne sont pas d'accord

Sur les cas clairs, tout le monde est d'accord. Sur le discours de haine, l'ironie, les insultes réappropriées ou les insultes politiques, les annotateurs se divisent souvent. Les études sur les jeux de données de discours haineux trouvent régulièrement un accord seulement partiel entre personnes qui étiquettent les mêmes messages. Solutions courantes :

• plusieurs annotateurs par message et un vote à la majorité ;
• des consignes détaillées avec des exemples ;
• mettre de côté les cas « disputés » au lieu de forcer une étiquette.

Certaines étiquettes sont fausses

Dans les grands jeux de données, une partie des étiquettes est simplement une erreur : une phrase clairement toxique marquée comme saine, une blague marquée comme menace. En vérifiant les messages que notre propre modèle signalait dans un jeu de test étiqueté par des personnes, environ la moitié des « fausses alertes » étaient en réalité des messages mal étiquetés dans le jeu de données. Deux conséquences :

1. Entraînement : le modèle apprend certaines erreurs.
2. Mesure : même un modèle parfait paraît moins bon qu'il ne l'est. Les évaluations sérieuses construisent un jeu de test « de référence » (gold) vérifié.

Données réelles, données synthétiques, professeurs

• Les messages réels écrits par des personnes sont les plus précieux : vrai argot, vraies fautes, vrai contexte.
• Les données synthétiques sont écrites exprès par un grand modèle de langage pour couvrir ce qui manque : des conversations où le contexte change le sens, des langues rares, des règles délicates.
• Professeur → élève : un grand modèle (le professeur) étiquette ou écrit des exemples, un petit modèle rapide (l'élève) apprend à partir d'eux. L'élève peut devenir presque aussi bon que le professeur sur cette tâche tout en coûtant des centaines de fois moins cher à faire tourner. Il hérite aussi des erreurs du professeur : des personnes doivent donc vérifier des échantillons.

Les licences comptent

Les jeux de données publics ont une licence. Certaines autorisent l'usage commercial (CC0, CC-BY, MIT, Apache), d'autres l'interdisent (« non commercial »), et certaines imposent que les œuvres dérivées gardent la même licence (« partage dans les mêmes conditions »). Les sorties d'un modèle peuvent aussi avoir des conditions d'utilisation. Un produit de modération doit vérifier chaque source avant de s'entraîner dessus.

L'oubli

Quand un modèle est réentraîné uniquement sur de nouvelles données, il peut oublier ce qu'il savait. La solution habituelle est le replay : mélanger une part des anciennes données d'entraînement aux nouvelles. C'est ainsi qu'un modèle peut apprendre quelque chose de nouveau (par exemple ne pas signaler des phrases innocentes contenant des noms étrangers) sans se dégrader sur tout le reste.