Ferramenta grátis · sem cadastro
Verificador de toxicidade e palavrões
Cole uma mensagem e veja como um modelo de moderação com IA a lê: toxicidade, insultos, ódio, ameaças, conteúdo sexual, automutilação, publicidade, palavrões e ofensas discriminatórias. Funciona em 26 idiomas, aceita o contexto da conversa e a sua própria regra, e não guarda nada.
As pontuações vão de 0 a 1. Uma categoria é sinalizada quando a pontuação passa o limiar (o traço em cada barra); cada servidor pode definir os seus próprios limiares.
O que ele verifica
Toxicidade
Mensagens grosseiras, desrespeitosas ou agressivas, incluindo insultos e ameaças.
Insultos, ódio e ameaças
Ataques a uma pessoa, ataques a pessoas pelo que elas são, ameaças de violência ou dano.
Palavrões
Palavrões e linguagem vulgar. Um palavrão entre amigos é vulgar, mas não necessariamente tóxico: as duas pontuações são separadas.
Ofensas discriminatórias
Ofensas racistas, xenófobas, antissemitas, homofóbicas, transfóbicas e capacitistas de listas de palavras em seis idiomas, encontradas até em frases amigáveis.
Conteúdo sexual, automutilação e publicidade
Cada um com a sua pontuação e o seu limiar.
A sua própria regra
Escreva uma regra em linguagem natural, como “Sem spoilers”, e veja a pontuação da mensagem.
Como funciona
- É o mesmo modelo da API do VigiMod: um modelo multilíngue que lê cada categoria como uma frase e responde se a mensagem se encaixa.
- Leetspeak, letras espaçadas e caracteres parecidos são normalizados antes da pontuação (“1d10ta”, “i d i o t a”).
- Uma categoria é sinalizada quando a pontuação passa do limiar, a marca em cada barra. Na API, cada comunidade pode definir os seus limiares.
- As mensagens são verificadas e descartadas: nada do que você digita é guardado ou usado para treinar modelos. A ferramenta permite poucas verificações por minuto.
Perguntas
O verificador de toxicidade é grátis?
Sim, sem conta. Para mais do que algumas verificações por minuto, ou para verificar mensagens do seu app, crie uma chave de API gratuita: 120 mensagens por minuto durante o beta.
Quais idiomas são suportados?
Foi treinado em 26 idiomas e funciona melhor em inglês, italiano, espanhol, francês, alemão e português. As listas de ofensas cobrem esses seis.
Qual a diferença entre toxicidade e palavrões?
Palavrões têm a ver com as palavras (xingamentos, vulgaridade); toxicidade tem a ver com a intenção (grosseira, hostil, agressiva). “Caramba, que jogo foda” é vulgar mas amigável; uma frase educada ainda pode ser um insulto.
Posso usá-lo para substituir a Perspective API?
Sim: a API do VigiMod responde às mesmas requisições comments:analyze da Perspective, com TOXICITY, PROFANITY e os outros atributos. Veja a página da alternativa à Perspective API.
O que eu digito é salvo?
Não. A mensagem é enviada ao modelo, pontuada e descartada. Só fica uma contagem anônima de verificações.
Continue a aprender
Todos os guias- Básico · 5 min de leituraFalsos positivos e falsos negativos na moderação de conteúdosQualquer sistema de moderação comete dois tipos de erros. O que são, quanto custa cada um a uma comunidade e como manter ambos baixos.
- Intermédio · 6 min de leituraComo escolher o limiar de moderaçãoUma pontuação de 0,7 não é uma decisão. Como funcionam os limiares, porque o valor predefinido é só um ponto de partida e como afiná-los.
- Básico · 5 min de leituraPorque é que o contexto importa na moderação de chatsA mesma frase pode ser inofensiva ou nociva conforme o que veio antes. Como o contexto da conversa muda a moderação, com exemplos reais.
Casos de uso
Verifique as mensagens do seu próprio app
Chave de API gratuita, 120 mensagens por minuto durante o beta.