Comprendre la modération par l'IA
Des guides courts sur la façon dont l'IA comprend le texte et dont fonctionne la modération, des bases à ce qui se passe en coulisses. Chacun se termine par un quiz.
11 guides
Comment l'IA lit le texte
- Débutant6 min de lecture
Qu'est-ce qu'un classificateur de texte et comment décide-t-il ?
Un classificateur de texte lit une phrase et donne une probabilité par catégorie. Comment il est construit, ce que veut dire le score et où il se trompe.
- Débutant7 min de lecture
Comment les modèles de langage lisent le texte : tokens, embeddings et attention
Les ordinateurs ne lisent pas des mots. Comment un modèle de langage change une phrase en tokens et en nombres, et comment l'attention en saisit le sens.
- Intermédiaire6 min de lecture
Données d'entraînement et étiquettes : un modèle ne vaut que ses exemples
D'où viennent les données d'entraînement de la modération, pourquoi les étiquettes se trompent, les données synthétiques et l'importance des licences.
Mesurer un modèle
- Débutant5 min de lecture
Faux positifs et faux négatifs dans la modération de contenu
Tout système de modération fait deux sortes d'erreurs. Ce qu'elles sont, ce que chacune coûte à une communauté et comment les garder basses toutes les deux.
- Intermédiaire7 min de lecture
Précision, rappel et F1 expliqués avec des exemples de modération
L'exactitude cache le problème. Ce que mesurent la précision, le rappel et le F1, comment les calculer en 30 secondes et lequel compte pour votre communauté.
- Intermédiaire6 min de lecture
Comment choisir le seuil de modération
Un score de 0,7 n'est pas une décision. Comment marchent les seuils, pourquoi la valeur par défaut n'est qu'un départ et comment les régler simplement.
La modération par IA en pratique
- Débutant5 min de lecture
Pourquoi le contexte compte dans la modération des discussions
La même phrase peut être anodine ou nuisible selon ce qui précède. Comment le contexte de la conversation change la modération, avec de vrais exemples.
- Intermédiaire7 min de lecture
Classification zero-shot : comment un modèle comprend des règles écrites en toutes lettres
Comment un modèle applique-t-il « Pas de spoilers » sans avoir appris cette règle ? Inférence en langage naturel et règles de modération sur mesure.
- Intermédiaire6 min de lecture
Les biais des modèles de modération : pourquoi des messages innocents avec des noms étrangers sont signalés
Un modèle peut signaler « Mohammed a raté le train » comme haineux. D'où vient ce biais, comment le mesurer et comment le corriger.
- Débutant5 min de lecture
L'humain dans la boucle : comment l'IA et les modérateurs travaillent le mieux ensemble
La modération automatique est rapide, les personnes saisissent les nuances. Comment répartir le travail entre l'IA et les modérateurs.