API filtro parolacce
Un filtro parolacce che legge le parole, non le liste
Le liste di parole non vedono "c a z z o" e segnalano "Scunthorpe". VigiMod controlla ogni messaggio con una regola che il modello legge: le parolacce camuffate vengono prese e le parole innocenti restano pulite, in 26 lingue. Parolacce e tossicità hanno punteggi separati, così decidi tu se un "cavolo" tra amici conta.
Risposte vere dell'API
Il punteggio di volgarità e quello di tossicità degli stessi messaggi. Le parolacce tra amici hanno volgarità alta e tossicità bassa; le parole che contengono soltanto una parolaccia non hanno né l'una né l'altra.
| Messaggio | Volgarità | Tossicità |
|---|---|---|
| what the fuck is this | 1.00 | 0.96 |
| wh4t the f*ck | 1.00 | 0.91 |
| f u c k this game | 0.99 | 0.13 |
| this game is so damn good | 0.99 | 0.06 |
| sei uno str0nzo | 1.00 | 1.00 |
| esto es una mierda | 1.00 | 1.00 |
| das ist scheiße | 1.00 | 0.98 |
| c'est de la merde | 1.00 | 0.97 |
| que porra é essa | 1.00 | 1.00 |
| I live in Scunthorpe | 0.00 | 0.00 |
| the class assessment is due tomorrow | 0.00 | 0.00 |
| Assassin's Creed is a great game | 0.00 | 0.00 |
| shiitake mushrooms are tasty | 0.00 | 0.00 |
VigiMod 1.2.1 con la regola sulle parolacce mostrata sotto e soglie predefinite, eseguito il
Lista di parole o filtro AI
| Lista di parole | VigiMod | |
|---|---|---|
| Parolacce camuffate (f*ck, c a z z o, str0nzo) | Sfuggono se non c'è ogni variante in lista | Prese: il testo viene normalizzato e letto per intero |
| Parole innocenti (Scunthorpe, assessment, shiitake) | Segnalate se contengono una parola della lista | Non segnalate |
| Volgare o offensivo | Stessa segnalazione per entrambi | Volgarità e tossicità con punteggi separati |
| Lingue | Una lista per lingua, da aggiornare a mano | 26 lingue con una sola richiesta |
| Le tue regole | Modifichi la lista | Scrivi la regola come una frase e ne regoli la soglia |
Aggiungilo alla tua chat con una richiesta
Le parolacce sono una regola in linguaggio naturale, inviata con il messaggio (o salvata una volta in una policy nella dashboard). Attiva block_slurs per segnalare anche gli insulti discriminatori per tipo, in italiano, inglese, spagnolo, francese, tedesco e portoghese.
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"rules": {"profanity": "The message contains profanity: swear words, curse words, vulgar or obscene language, in any language"},
"block_slurs": True, # slur lists in six languages, one flag per kind
"categories": ["toxic"], # optional: is it also an attack?
},
)
result = r.json()
result["flags"]["rule:profanity"] # True: swearing or vulgar language
result["flags"]["toxic"] # True: also rude or hostile
result["blocklist_matches"] # slurs found, if anyArrivi da Perspective API? L'endpoint compatibile calcola PROFANITY con la stessa regola: Alternativa a Perspective API
curl -s "https://api.vigimod.com/v1alpha1/comments:analyze?key=$VIGIMOD_KEY" \
-H "Content-Type: application/json" \
-d '{"comment": {"text": "wh4t the f*ck"}, "requestedAttributes": {"PROFANITY": {}}}'Senza rallentare la chat
- Controlla dopo l'invio, non prima: mostra subito il messaggio e nascondilo se viene segnalato. Gli utenti non aspettano mai il filtro.
- Se devi controllare prima dell'invio, chiedi solo ciò che ti serve (regole e categorie che usi): meno controlli, risposta più veloce.
- Decidi per community: un server di gaming può permettere le parolacce e togliere solo gli insulti (toxic), una piattaforma per ragazzi può togliere entrambi.
- Invia gli ultimi messaggi come contesto quando calcoli anche la tossicità: battute e risposte vengono lette con ciò che le precede.
Domande
Esiste un'API gratuita per filtrare le parolacce?
Sì: VigiMod è gratis durante la beta, con 120 messaggi al minuto per chiave API e tutte le funzioni incluse. Sul sito c'è anche una verifica gratuita che non richiede account.
Quali lingue supporta il filtro parolacce?
Il modello legge 26 lingue e funziona meglio in italiano, inglese, spagnolo, francese, tedesco e portoghese. Le liste di insulti discriminatori coprono queste sei.
Riconosce il leetspeak e le parolacce camuffate?
Sì. Il testo viene normalizzato prima del punteggio (numeri al posto delle lettere, simboli, lettere spaziate) e il modello legge l'intera frase, quindi "str0nzo" e "c a z z o" vengono presi.
Segnala parole innocenti come Scunthorpe o assessment?
No. Non c'è un confronto di sottostringhe: il modello giudica il significato, quindi le parole che contengono soltanto una parolaccia hanno punteggio 0.
Che differenza c'è tra volgarità e tossicità?
La volgarità riguarda le parole (imprecazioni, linguaggio volgare); la tossicità riguarda l'intenzione (maleducata, ostile, aggressiva). "Che figata di gioco, cazzo" è volgare ma non tossico. VigiMod restituisce entrambi, così scegli tu su cosa intervenire.
I messaggi vengono salvati?
No. I messaggi vengono valutati e scartati; restano solo contatori orari di utilizzo per chiave.
Continua a imparare
Tutte le guide- Base · 5 min di letturaFalsi positivi e falsi negativi nella moderazione dei contenutiOgni sistema di moderazione fa due tipi di errore. Cosa sono, quanto costa ciascuno a una community e come tenerli bassi entrambi.
- Intermedio · 6 min di letturaCome scegliere la soglia di moderazioneUn punteggio di 0,7 non è una decisione. Come funzionano le soglie, perché quella predefinita è solo un punto di partenza e un metodo semplice per regolarle.
- Base · 5 min di letturaPerché il contesto conta nella moderazione delle chatLa stessa frase può essere innocua o dannosa a seconda di cosa c'era prima. Come il contesto della conversazione cambia la moderazione, con esempi reali.
Filtra le parolacce in 26 lingue
Chiave API gratuita, 120 messaggi al minuto durante la beta.