Outil gratuit · sans inscription
Détecteur de toxicité et de grossièretés
Collez un message et voyez comment un modèle de modération IA le lit : toxicité, insultes, haine, menaces, contenu sexuel, automutilation, publicité, grossièretés et injures discriminatoires. Il fonctionne en 26 langues, accepte le contexte de la conversation et votre propre règle, et ne garde rien.
Les scores vont de 0 à 1. Une catégorie est signalée quand son score dépasse le seuil (le trait sur chaque barre) ; chaque serveur peut fixer ses propres seuils.
Ce qu'il vérifie
Toxicité
Messages grossiers, irrespectueux ou agressifs, insultes et menaces compris.
Insultes, haine et menaces
Attaques contre une personne, attaques contre des personnes pour ce qu'elles sont, menaces de violence ou de préjudice.
Grossièretés
Jurons et langage vulgaire. Un juron entre amis est grossier, mais pas forcément toxique : les deux scores sont séparés.
Injures discriminatoires
Injures racistes, xénophobes, antisémites, homophobes, transphobes et validistes issues de listes de mots en six langues, trouvées même dans des phrases amicales.
Contenu sexuel, automutilation et publicité
Chacun avec son score et son seuil.
Votre propre règle
Écrivez une règle en langage naturel, comme « Pas de spoilers », et voyez le score du message.
Comment ça marche
- C'est le même modèle que l'API VigiMod : un modèle multilingue qui lit chaque catégorie comme une phrase et répond si le message y correspond.
- Le leetspeak, les lettres espacées et les caractères ressemblants sont normalisés avant l'analyse (« 1d10t », « i d i o t »).
- Une catégorie est signalée quand son score dépasse son seuil, le trait sur chaque barre. Dans l'API, chaque communauté peut régler ses seuils.
- Les messages sont vérifiés puis supprimés : rien de ce que vous tapez n'est gardé ni utilisé pour entraîner des modèles. L'outil permet quelques vérifications par minute.
Questions
Le détecteur de toxicité est-il gratuit ?
Oui, sans compte. Pour plus de quelques vérifications par minute, ou pour analyser les messages de votre application, créez une clé API gratuite : 120 messages par minute pendant la bêta.
Quelles langues sont prises en charge ?
Il a été entraîné sur 26 langues et fonctionne le mieux en anglais, italien, espagnol, français, allemand et portugais. Les listes d'injures couvrent ces six langues.
Quelle différence entre toxicité et grossièretés ?
Les grossièretés concernent les mots (jurons, vulgarité) ; la toxicité concerne l'intention (grossière, hostile, agressive). « Putain, ce jeu est génial » est grossier mais amical ; une phrase polie peut quand même être une insulte.
Puis-je l'utiliser pour remplacer Perspective API ?
Oui : l'API VigiMod répond aux mêmes requêtes comments:analyze que Perspective, avec TOXICITY, PROFANITY et les autres attributs. Voir la page sur l'alternative à Perspective API.
Ce que je tape est-il enregistré ?
Non. Le message est envoyé au modèle, analysé puis supprimé. Seul un compte anonyme des vérifications est gardé.
Continuer à apprendre
Tous les guides- Débutant · 5 min de lectureFaux positifs et faux négatifs dans la modération de contenuTout système de modération fait deux sortes d'erreurs. Ce qu'elles sont, ce que chacune coûte à une communauté et comment les garder basses toutes les deux.
- Intermédiaire · 6 min de lectureComment choisir le seuil de modérationUn score de 0,7 n'est pas une décision. Comment marchent les seuils, pourquoi la valeur par défaut n'est qu'un départ et comment les régler simplement.
- Débutant · 5 min de lecturePourquoi le contexte compte dans la modération des discussionsLa même phrase peut être anodine ou nuisible selon ce qui précède. Comment le contexte de la conversation change la modération, avec de vrais exemples.
Cas d'usage
Vous venez d'une autre API ?
Analysez les messages de votre application
Clé API gratuite, 120 messages par minute pendant la bêta.