Perché il contesto conta nella moderazione delle chat

Una frase, due significati

Messaggi precedenti	Messaggio	Senza contesto	Con il contesto
«qualcuno ha visto il finale?» – «non ancora, stasera!»	«ahah alla fine muore lui»	innocuo	spoiler
«il mio pesce rosso è vecchio, sono preoccupato»	«credo che alla fine muoia, mi spiace»	spoiler?	innocuo
«hai perso di nuovo 😂» – «rivincita?»	«ti distruggo»	minaccia?	sfottò tra amici
«smettila di scrivermi» – «ho detto basta»	«so dove abiti»	ambiguo	minaccia

Non decide il messaggio da solo. Decide la conversazione.

Cosa sistema il contesto

• Falsi allarmi su scherzi tra amici, sfottò nei giochi, risposte che citano qualcuno.
• Regole che dipendono dall'argomento: spoiler, messaggi fuori tema, vendite nel canale sbagliato.
• Escalation: un messaggio leggero da solo, ma che è il terzo contatto non voluto di fila.

Cosa il contesto non deve fare

Il punteggio riguarda l'ultimo messaggio. Se qualcun altro ti ha insultato due messaggi fa, la tua risposta educata non deve essere segnalata come insulto. Un buon modello usa il contesto per capire il messaggio, non per trasferirgli la gravità dei messaggi precedenti.

Quanto contesto?

In chat il significato dipende di solito dagli ultimi messaggi. Mandarne 5-10, dal più vecchio, copre quasi tutti i casi e tiene le richieste veloci. Cronologie molto lunghe costano di più e cambiano raramente il verdetto.

Perché è difficile per i modelli

I dati di addestramento con il contesto sono rari: quasi tutti i dataset pubblici contengono messaggi singoli. I modelli devono vedere molti esempi in cui la conversazione cambia la risposta giusta, nei due sensi, per imparare a usarla. È uno degli obiettivi principali della prossima versione di VigiMod.

In VigiMod

Manda i messaggi precedenti in context, dal più vecchio, fino a 10. I punteggi restano su text; il contesto aiuta solo a leggerlo. Vedi la documentazione e la guida per Discord con un esempio che prende gli ultimi messaggi del canale.