Strumento gratuito · senza registrazione
Verifica tossicità e parolacce
Incolla un messaggio e guarda come lo legge un modello di moderazione AI: tossicità, insulti, odio, minacce, contenuti sessuali, autolesionismo, pubblicità, parolacce e insulti discriminatori. Funziona in 26 lingue, accetta il contesto della conversazione e una tua regola, e non salva nulla.
I punteggi vanno da 0 a 1. Una categoria è segnalata quando il punteggio supera la soglia (la tacca su ogni barra); ogni server può impostare le proprie soglie.
Cosa controlla
Tossicità
Messaggi maleducati, irrispettosi o aggressivi, insulti e minacce compresi.
Insulti, odio e minacce
Attacchi a una persona, attacchi alle persone per quello che sono, minacce di violenza o di danno.
Parolacce
Imprecazioni e linguaggio volgare. Una parolaccia tra amici è volgare ma non per forza tossica: i due punteggi sono separati.
Insulti discriminatori
Insulti razzisti, xenofobi, antisemiti, omofobi, transfobici e abilisti da liste di parole in sei lingue, trovati anche dentro frasi amichevoli.
Contenuti sessuali, autolesionismo e pubblicità
Ognuno con il suo punteggio e la sua soglia.
Una tua regola
Scrivi una regola in linguaggio naturale, come “Niente spoiler”, e guarda che punteggio dà il messaggio.
Come funziona
- È lo stesso modello dell'API di VigiMod: un modello multilingue che legge ogni categoria come una frase e risponde se il messaggio ci rientra.
- Leetspeak, lettere spaziate e caratteri simili vengono normalizzati prima del punteggio (“1d10ta”, “i d i o t a”).
- Una categoria viene segnalata quando il punteggio supera la soglia, il trattino su ogni barra. Nell'API ogni community può impostare le sue soglie.
- I messaggi vengono controllati e scartati: niente di quello che scrivi viene salvato o usato per addestrare modelli. Lo strumento consente pochi controlli al minuto.
Domande
La verifica della tossicità è gratis?
Sì, senza account. Per più di qualche controllo al minuto, o per controllare i messaggi della tua app, crea una chiave API gratuita: 120 messaggi al minuto durante la beta.
Quali lingue supporta?
È addestrato su 26 lingue e funziona meglio in inglese, italiano, spagnolo, francese, tedesco e portoghese. Le liste di insulti discriminatori coprono queste sei.
Che differenza c'è tra tossicità e parolacce?
Le parolacce riguardano le parole (imprecazioni, volgarità); la tossicità riguarda l'intenzione (maleducata, ostile, aggressiva). “Che figata di gioco, cazzo” è volgare ma amichevole; una frase educata può comunque essere un insulto.
Posso usarlo al posto di Perspective API?
Sì: l'API di VigiMod risponde alle stesse richieste comments:analyze di Perspective, con TOXICITY, PROFANITY e gli altri attributi. Vedi la pagina sull'alternativa a Perspective API.
Quello che scrivo viene salvato?
No. Il messaggio viene inviato al modello, valutato e scartato. Resta solo un conteggio anonimo dei controlli.
Continua a imparare
Tutte le guide- Base · 5 min di letturaFalsi positivi e falsi negativi nella moderazione dei contenutiOgni sistema di moderazione fa due tipi di errore. Cosa sono, quanto costa ciascuno a una community e come tenerli bassi entrambi.
- Intermedio · 6 min di letturaCome scegliere la soglia di moderazioneUn punteggio di 0,7 non è una decisione. Come funzionano le soglie, perché quella predefinita è solo un punto di partenza e un metodo semplice per regolarle.
- Base · 5 min di letturaPerché il contesto conta nella moderazione delle chatLa stessa frase può essere innocua o dannosa a seconda di cosa c'era prima. Come il contesto della conversazione cambia la moderazione, con esempi reali.
Controlla i messaggi della tua app
Chiave API gratuita, 120 messaggi al minuto durante la beta.