Caso de uso
Moderação de comentários com IA para sites e blogs
As secções de comentários de sites de notícias, blogs e lojas enchem-se de insultos, ódio e anúncios, muitas vezes em mais de um idioma. A VigiMod verifica cada comentário antes de ser publicado e retém os que quebram as suas regras para uma pessoa rever.
O que torna difícil
Ódio debaixo de artigos sensíveis
Notícias sobre migração, religião ou política atraem ataques a grupos de pessoas. A categoria hate foi feita para isso.
Anúncios e links
Os comentários spam empurram lojas e burlas. A categoria advertising e as suas regras retêm-nos.
Leitores em muitos idiomas
Os sites internacionais recebem comentários em muitos idiomas; o modelo foi treinado em 26.
Como funciona com a VigiMod
- 1
Quando chega um comentário, o seu site envia o texto à VigiMod com as suas regras.
- 2
Os comentários limpos são publicados como antes.
- 3
Os comentários assinalados vão para a fila de moderação em vez da página.
Regras para copiar
Envie-as no campo rules: cada uma volta com a sua própria pontuação, como uma categoria integrada.
{
"rules": {
"no-ads": "Sem publicidade nem links para lojas",
"no-personal-attacks": "Sem ataques ao autor ou a outros leitores",
"no-medical-claims": "Não afirmar que um produto cura uma doença",
"on-topic": "Os comentários devem ser sobre o artigo"
}
}Exemplo
Um filtro do WordPress (functions.php ou um pequeno plugin): os comentários assinalados esperam aprovação em vez de serem publicados. Defina VIGIMOD_KEY no wp-config.php.
PHP (WordPress)
<?php
// WordPress: functions.php or a small plugin. In wp-config.php: define('VIGIMOD_KEY', 'vm_live_...');
// A flagged comment waits for approval instead of going live.
add_filter('pre_comment_approved', function ($approved, $comment) {
if ($approved === 'spam' || $approved === 'trash') {
return $approved;
}
$response = wp_remote_post('https://api.vigimod.com/moderate', [
'timeout' => 3,
'headers' => ['X-API-Key' => VIGIMOD_KEY, 'Content-Type' => 'application/json'],
'body' => wp_json_encode([
'text' => mb_substr($comment['comment_content'], 0, 2000),
'rules' => ['no-ads' => 'No advertising or links to shops'],
]),
]);
if (is_wp_error($response) || wp_remote_retrieve_response_code($response) !== 200) {
return $approved; // VigiMod not reachable: keep WordPress's own decision
}
$result = json_decode(wp_remote_retrieve_body($response), true);
return empty($result['flagged']) ? $approved : 0; // 0 = held for moderation
}, 10, 2);Dicas
- Mantenha o seu plugin antispam (por exemplo o Akismet): conhece as redes de spam; a VigiMod acrescenta toxicidade, ódio e as suas regras.
- Se a VigiMod não responder, mantenha a decisão do WordPress, como no exemplo.
- Envie o título do artigo como contexto para as regras de tema: o comentário é lido com aquilo a que responde.
Perguntas
- Funciona com WordPress?
- Sim, com o filtro pre_comment_approved do exemplo. Outras plataformas podem fazer o mesmo quando chega um comentário.
- Vão ser bloqueados comentários legítimos?
- Os comentários assinalados ficam retidos para aprovação, não são apagados, por isso uma pessoa tem sempre a última palavra.
- Cumpre o RGPD?
- Os comentários são verificados e descartados, nunca guardados nem usados para treino. A VigiMod é gerida a partir de Itália, na UE, e oferece um acordo de tratamento de dados.
- Quanto custa?
- Grátis durante a beta, com 120 comentários por minuto por chave API.
Continue a aprender
Todos os guias- Básico · 5 min de leituraFalsos positivos e falsos negativos na moderação de conteúdosQualquer sistema de moderação comete dois tipos de erros. O que são, quanto custa cada um a uma comunidade e como manter ambos baixos.
- Intermédio · 6 min de leituraComo escolher o limiar de moderaçãoUma pontuação de 0,7 não é uma decisão. Como funcionam os limiares, porque o valor predefinido é só um ponto de partida e como afiná-los.
- Intermédio · 6 min de leituraO enviesamento nos modelos de moderação: porque são assinaladas mensagens inocentes com nomes estrangeirosUm modelo pode assinalar «O Mohammed perdeu o comboio» como ódio. De onde vem este enviesamento, como medi-lo e como corrigi-lo.
Experimente na sua comunidade
Crie uma chave API gratuita em dois minutos. Sem cartão, sem período de teste.