# Falsos positivos e falsos negativos na moderação de conteúdos

> Qualquer sistema de moderação comete dois tipos de erros. O que são, quanto custa cada um a uma comunidade e como manter ambos baixos.

Source: https://www.vigimod.com/pt/learn/false-positives-and-false-negatives · VigiMod (https://www.vigimod.com) · atualizado em 2026-11-11 · 5 min

## Em resumo

- Falso positivo: uma mensagem inocente assinalada por engano.
- Falso negativo: uma mensagem nociva que passa.
- Reduzir um costuma aumentar o outro; o limiar decide o equilíbrio.
- O contexto, melhores dados e a revisão humana reduzem os dois ao mesmo tempo.

## Duas formas de errar

Um sistema de moderação pode cometer exatamente dois tipos de erros:

- Um **falso positivo** assinala algo inocente: «amanhã vou arrasar o exame» tratado como ameaça, a citação de um insulto tratada como insulto.
- Um **falso negativo** deixa passar algo nocivo: uma ameaça velada, um insulto com ortografia criativa, uma mensagem de ódio escrita com educação.

## O que custam

| Erro | Custo para a comunidade |
|---|---|
| Falso positivo | utilizadores irritados, sensação de estar a ser vigiado, tempo dos moderadores, às vezes pessoas que saem |
| Falso negativo | dano para a pessoa visada, ambiente tóxico, risco legal e de reputação |

Os custos não são simétricos e dependem da comunidade. Num espaço para menores, uma tentativa de aliciamento que escapa é muito pior do que dez falsos alarmes. Num servidor de jogos, assinalar todas as provocações entre amigos acaba com a diversão.

## Porque é que não se eliminam os dois rodando um só botão

O [limiar](https://www.vigimod.com/pt/learn/choosing-a-threshold) move os erros de uma coluna para a outra: ao baixá-lo, os falsos negativos passam a acertos, mas aparecem mais falsos positivos. Com um dado modelo, há sempre um compromisso.

## De onde vêm os falsos positivos habituais

- **Falta de contexto:** piadas entre amigos, respostas, spoilers (ver [o contexto na moderação](https://www.vigimod.com/pt/learn/context-in-moderation)).
- **Hipérboles:** «quero morrer, amanhã tenho três testes 😭» é stress, não automutilação.
- **Citações e contradiscurso:** denunciar ou condenar um insulto contém o insulto.
- **Palavras de identidade:** nomes, nacionalidades ou religiões que eram raros nos exemplos inocentes de treino ([enviesamento](https://www.vigimod.com/pt/learn/bias-in-moderation-models)).

## De onde vêm os falsos negativos habituais

- **Ofuscação:** «1d10ta», espaços a mais, emojis em vez de palavras.
- **Dano indireto:** ameaças sem palavras violentas, assédio repartido por muitas mensagens educadas.
- **Calão novo** e línguas que o modelo viu pouco.

## Como manter ambos baixos

1. **Um modelo melhor** com os dados certos: a única forma de melhorar os dois ao mesmo tempo.
2. **Contexto:** envia as mensagens anteriores, não só a última.
3. **Ações graduais:** remove automaticamente só os casos claros e passa os duvidosos a uma pessoa.
4. **Feedback:** guarda exemplos de erros; são os dados mais valiosos para a próxima versão.

## Quiz

1. «Amanhã vou arrasar o exame» assinalado como ameaça é um…
   Resposta: Falso positivo. Uma mensagem inocente assinalada por engano.
2. Uma ameaça escrita com «m4tar» que não é assinalada é um…
   Resposta: Falso negativo. Uma mensagem nociva que passou.
3. Baixar o limiar normalmente…
   Resposta: reduz os falsos negativos e aumenta os falsos positivos. O limiar só move os erros de um lado para o outro.
4. O que reduz os dois tipos de erros ao mesmo tempo?
   Resposta: Um modelo melhor com contexto. Só um modelo que compreende mais comete menos erros dos dois tipos.