Porque é que o contexto importa na moderação de chats

Uma frase, dois significados

Mensagens anteriores	Mensagem	Sem contexto	Com contexto
«alguém já viu o final?» – «ainda não, hoje à noite!»	«lol ele morre no fim»	inofensiva	spoiler
«o meu peixinho está velho, estou preocupado»	«acho que ele morre no fim, desculpa»	spoiler?	inofensiva
«perdeste outra vez 😂» – «desforra?»	«vais cair»	ameaça?	provocação amigável
«para de me escrever» – «eu disse para parares»	«sei onde moras»	ambígua	ameaça

A mensagem sozinha não decide. Decide a conversa.

O que o contexto resolve

• Falsos alarmes em piadas entre amigos, provocações entre jogadores, respostas que citam alguém.
• Regras que dependem do tema: spoilers, mensagens fora do tema, vendas no canal errado.
• Escalada: uma mensagem suave por si só, mas que é o terceiro contacto indesejado seguido.

O que o contexto não deve fazer

A pontuação é sobre a última mensagem. Se outra pessoa te insultou duas mensagens antes, a tua resposta educada não deve ser assinalada como insulto. Um bom modelo usa o contexto para compreender a mensagem, não para lhe passar o que havia de nocivo nas anteriores.

Quanto contexto?

Num chat, o significado costuma depender das últimas mensagens. Enviar as 5–10 mensagens anteriores, da mais antiga para a mais recente, cobre quase todos os casos e mantém os pedidos rápidos. Históricos muito longos custam mais e raramente mudam o veredicto.

Porque é difícil para os modelos

Os dados de treino com contexto são raros: a maioria dos conjuntos públicos tem mensagens soltas. Os modelos têm de ver muitos exemplos em que a conversa muda a resposta certa, nos dois sentidos, para aprenderem a usá-la. É um dos principais objetivos da próxima versão da VigiMod.

Na VigiMod

Envia as mensagens anteriores em context, da mais antiga para a mais recente, até 10. As pontuações continuam a ser sobre text; o contexto só ajuda a lê-lo. Vê a documentação e o guia para Discord, com um exemplo que vai buscar as últimas mensagens do canal.