Comparação
Uma alternativa à OpenAI Moderation API que aplica as tuas regras
O endpoint de moderação da OpenAI (omni-moderation-latest) é gratuito e verifica texto e imagens em 13 categorias fixas. Pontua cada mensagem isoladamente e não consegue aprender as regras da tua comunidade. A VigiMod lê as mensagens anteriores, aplica regras escritas por palavras e é grátis durante a beta.
Lado a lado
| OpenAI Moderation | VigiMod | |
|---|---|---|
| Preço | Grátis | Grátis durante a beta |
| Categorias | 13 subcategorias fixas | 8 categorias, mais spam, listas de insultos e as tuas regras |
| Regras da comunidade | Não | Até 10 regras escritas por palavras por pedido, cada uma com a sua pontuação |
| Contexto da conversa | Não, cada mensagem é pontuada sozinha | Até 10 mensagens anteriores |
| Limiares | Alertas fixos; as pontuações usas tu | Limiares predefinidos que podes mudar em cada pedido |
| Spam e mensagens repetidas | Não | Pontuação de spam por utilizador |
| Conta | Conta OpenAI e chave API | Conta VigiMod e chave API |
O VigiMod modera texto: chats, comentários, posts de fórum. Se também precisa moderar imagens, use um serviço de imagens ao lado dele. Para o texto, o VigiMod traz o que os endpoints genéricos não têm: as regras da sua comunidade e o contexto da conversa.
Das categorias da OpenAI para a VigiMod
| OpenAI | VigiMod | Nota |
|---|---|---|
| harassment | insult, toxic | insult para ataques a uma pessoa, toxic para a grosseria em geral. |
| harassment/threatening | threat | Ameaças contra uma pessoa. |
| hate, hate/threatening | hate (+ threat) | Ataques a pessoas por aquilo que são. |
| self-harm, /intent, /instructions | self_harm | Uma só categoria: afina o limiar conforme o teu público. |
| sexual | sexual | Conteúdo sexual. |
| sexual/minors | child_safety | Opcional: adicione-a a categories. |
| violence, violence/graphic | threat | Só as ameaças estão cobertas; para descrições violentas junta uma regra. |
| illicit, illicit/violent | rules | Escreve-o como regra, por exemplo «Proibido vender drogas ou armas». |
A mesma chamada, antes e depois
OpenAI Moderation
from openai import OpenAI
client = OpenAI()
r = client.moderations.create(
model="omni-moderation-latest",
input=message,
)
result = r.results[0]
flagged = result.flagged
harassment = result.category_scores.harassmentVigiMod
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"context": previous_messages, # optional: the last messages, oldest first
"rules": {"no-spoilers": "No spoilers about films or series"},
},
)
result = r.json()
flagged = result["flagged"]
insult = result["scores"]["insult"]
spoiler = result["scores"]["rule:no-spoilers"]O que ganhas
- As regras da tua comunidade, como «Sem spoilers» ou «Proibido vender contas», pontuadas como qualquer categoria.
- As mensagens anteriores como contexto: piadas entre amigos e respostas são lidas corretamente.
- Limiares por pedido: cada servidor ou fórum decide o quão rigoroso quer ser.
- Uma pontuação de spam por utilizador, para mensagens repetidas e flood.
- As mensagens são verificadas e descartadas: nada é guardado nem usado para treinar.
Muda em três passos
- 1
Cria uma conta gratuita e uma chave API.
- 2
Substitui a chamada moderations por um POST para /moderate, juntando se quiseres as mensagens anteriores e as tuas regras.
- 3
Faz corresponder as categorias com a tabela acima e verifica os limiares com alguns dias de mensagens reais.
Perguntas
A OpenAI Moderation API é grátis?
Sim, a OpenAI não cobra pelo seu endpoint de moderação. A VigiMod também é grátis durante a beta: a razão para mudar não é o preço, mas as regras, o contexto e limiares adaptados à tua comunidade.
A OpenAI Moderation API aceita categorias personalizadas?
Não. As suas categorias são fixas. Para aplicar uma regra da comunidade é preciso outra camada, como um prompt a um modelo de linguagem ou uma API que aceite regras, como a VigiMod.
Posso usar as duas?
Sim. Uma configuração comum é a OpenAI para imagens e a VigiMod para o texto do chat, com as tuas regras e o contexto.
A VigiMod percebe outras línguas além do inglês?
Foi treinada em 26 línguas e funciona melhor em italiano, inglês, espanhol, francês, alemão e português.
Quanto tempo demora a mudança?
Normalmente menos de uma hora: muda uma chamada HTTP e as categorias correspondem como na tabela acima.
Continue a aprender
Todos os guias- Intermédio · 7 min de leituraClassificação zero-shot: como um modelo percebe regras escritas por palavrasComo aplica um modelo «Nada de spoilers» sem ter sido treinado com essa regra? Inferência em linguagem natural e regras de moderação personalizadas.
- Básico · 5 min de leituraPorque é que o contexto importa na moderação de chatsA mesma frase pode ser inofensiva ou nociva conforme o que veio antes. Como o contexto da conversa muda a moderação, com exemplos reais.
- Básico · 5 min de leituraFalsos positivos e falsos negativos na moderação de conteúdosQualquer sistema de moderação comete dois tipos de erros. O que são, quanto custa cada um a uma comunidade e como manter ambos baixos.
Experimenta as tuas regras
Cria uma chave gratuita e testa uma regra nas tuas mensagens em poucos minutos.