API filtre de grossièretés
Un filtre à gros mots qui lit les mots, pas des listes
Les listes de mots ne voient pas « m e r d e » et signalent « Scunthorpe ». VigiMod vérifie chaque message avec une règle que le modèle lit : les jurons déguisés sont repérés et les mots innocents restent propres, en 26 langues. Grossièretés et toxicité ont des scores séparés, vous décidez donc si un « putain » entre amis compte.
Vraies réponses de l'API
Le score de grossièreté et le score de toxicité des mêmes messages. Les jurons entre amis ont une grossièreté élevée et une toxicité faible ; les mots qui contiennent seulement un gros mot n'ont ni l'un ni l'autre.
| Message | Grossièreté | Toxicité |
|---|---|---|
| what the fuck is this | 1.00 | 0.96 |
| wh4t the f*ck | 1.00 | 0.91 |
| f u c k this game | 0.99 | 0.13 |
| this game is so damn good | 0.99 | 0.06 |
| sei uno str0nzo | 1.00 | 1.00 |
| esto es una mierda | 1.00 | 1.00 |
| das ist scheiße | 1.00 | 0.98 |
| c'est de la merde | 1.00 | 0.97 |
| que porra é essa | 1.00 | 1.00 |
| I live in Scunthorpe | 0.00 | 0.00 |
| the class assessment is due tomorrow | 0.00 | 0.00 |
| Assassin's Creed is a great game | 0.00 | 0.00 |
| shiitake mushrooms are tasty | 0.00 | 0.00 |
VigiMod 1.2.1 avec la règle de grossièretés ci-dessous et les seuils par défaut, exécuté le
Liste de mots ou filtre IA
| Liste de mots | VigiMod | |
|---|---|---|
| Jurons déguisés (f*ck, m e r d e, str0nzo) | Ratés si chaque variante n'est pas listée | Repérés : le texte est normalisé et lu en entier |
| Mots innocents (Scunthorpe, assessment, shiitake) | Signalés s'ils contiennent un mot de la liste | Non signalés |
| Vulgaire ou insultant | Le même signalement pour les deux | Grossièreté et toxicité notées séparément |
| Langues | Une liste par langue, tenue à la main | 26 langues en une seule requête |
| Vos propres règles | Vous modifiez la liste | Vous écrivez la règle en une phrase et réglez son seuil |
Ajoutez-le à votre chat en une requête
Les grossièretés sont une règle en langage naturel, envoyée avec le message (ou enregistrée une fois dans une politique du tableau de bord). Activez block_slurs pour signaler aussi les injures discriminatoires par type, en français, anglais, italien, espagnol, allemand et portugais.
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"rules": {"profanity": "The message contains profanity: swear words, curse words, vulgar or obscene language, in any language"},
"block_slurs": True, # slur lists in six languages, one flag per kind
"categories": ["toxic"], # optional: is it also an attack?
},
)
result = r.json()
result["flags"]["rule:profanity"] # True: swearing or vulgar language
result["flags"]["toxic"] # True: also rude or hostile
result["blocklist_matches"] # slurs found, if anyVous venez de Perspective API ? L'endpoint compatible calcule PROFANITY avec la même règle : Alternative à Perspective API
curl -s "https://api.vigimod.com/v1alpha1/comments:analyze?key=$VIGIMOD_KEY" \
-H "Content-Type: application/json" \
-d '{"comment": {"text": "wh4t the f*ck"}, "requestedAttributes": {"PROFANITY": {}}}'Sans ralentir votre chat
- Vérifiez après la publication, pas avant : affichez le message tout de suite et masquez-le s'il est signalé. Les utilisateurs n'attendent jamais le filtre.
- Si vous devez vérifier avant la publication, ne demandez que ce dont vous avez besoin (règles et catégories utilisées) : moins de vérifications, réponse plus rapide.
- Décidez par communauté : un serveur de jeu peut tolérer les jurons et ne retirer que les insultes (toxic), une plateforme pour enfants peut retirer les deux.
- Envoyez les derniers messages comme contexte quand vous notez aussi la toxicité : blagues et réponses sont lues avec ce qui précède.
Questions
Existe-t-il une API gratuite pour filtrer les gros mots ?
Oui : VigiMod est gratuit pendant la bêta, avec 120 messages par minute et par clé API et toutes les fonctions incluses. Le site propose aussi un détecteur gratuit sans compte.
Quelles langues le filtre prend-il en charge ?
Le modèle lit 26 langues et fonctionne le mieux en français, anglais, italien, espagnol, allemand et portugais. Les listes d'injures discriminatoires couvrent ces six langues.
Repère-t-il le leetspeak et les jurons déguisés ?
Oui. Le texte est normalisé avant l'analyse (chiffres à la place des lettres, symboles, lettres espacées) et le modèle lit la phrase entière, donc « m3rde » et « m e r d e » sont repérés.
Signale-t-il des mots innocents comme Scunthorpe ou assessment ?
Non. Il n'y a pas de correspondance de sous-chaînes : le modèle juge le sens, donc les mots qui contiennent seulement un gros mot ont un score de 0.
Quelle différence entre grossièreté et toxicité ?
La grossièreté concerne les mots (jurons, langage vulgaire) ; la toxicité concerne l'intention (grossière, hostile, agressive). « Putain, ce jeu est génial » est grossier mais pas toxique. VigiMod renvoie les deux, vous choisissez sur quoi agir.
Les messages sont-ils conservés ?
Non. Les messages sont notés puis supprimés ; seuls des compteurs d'utilisation horaires par clé sont gardés.
Continuer à apprendre
Tous les guides- Débutant · 5 min de lectureFaux positifs et faux négatifs dans la modération de contenuTout système de modération fait deux sortes d'erreurs. Ce qu'elles sont, ce que chacune coûte à une communauté et comment les garder basses toutes les deux.
- Intermédiaire · 6 min de lectureComment choisir le seuil de modérationUn score de 0,7 n'est pas une décision. Comment marchent les seuils, pourquoi la valeur par défaut n'est qu'un départ et comment les régler simplement.
- Débutant · 5 min de lecturePourquoi le contexte compte dans la modération des discussionsLa même phrase peut être anodine ou nuisible selon ce qui précède. Comment le contexte de la conversation change la modération, avec de vrais exemples.
Cas d'usage
Vous venez d'une autre API ?
Filtrez les grossièretés en 26 langues
Clé API gratuite, 120 messages par minute pendant la bêta.