Come scegliere la soglia di moderazione

Cos'è una soglia

Un classificatore dà un punteggio da 0 a 1 (vedi cos'è un classificatore di testo). La soglia è la linea che tracci: punteggio ≥ soglia → segnalato. Con una soglia di 0,8, un messaggio con 0,83 di «insulto» viene segnalato, uno con 0,79 no.

Il compromesso

Spostare la soglia vuol dire muoversi lungo una curva:

Soglia	Cosa succede
Bassa (es. 0,3)	prende quasi tutto (recall alto), ma con tanti falsi allarmi (precisione bassa)
Media (es. 0,6)	un equilibrio
Alta (es. 0,9)	segnala solo i casi chiari (precisione alta), lascia passare quelli sottili (recall basso)

Non esiste una soglia giusta per tutti. Precisione e recall spiegano i due lati.

Perché quella predefinita è solo un inizio

Chi fornisce l'API tara le soglie predefinite su dati di validazione, di solito nel punto con l'F1 migliore. Quei dati mescolano tante community. La tua ha il suo slang, i suoi scherzi e la sua tolleranza: un server di gaming competitivo e un forum di supporto per adolescenti non dovrebbero usare gli stessi numeri.

Un metodo semplice per regolarle

1. Raccogli 300-500 messaggi veri della tua community (con il consenso richiesto dalle tue regole), compresi alcuni che rimuoveresti.
2. Etichettali tu, per categoria: è un insulto? Una minaccia?
3. Valutali con l'API e salva i punteggi.
4. Per ogni categoria prova alcune soglie (0,5, 0,6, 0,7, 0,8, 0,9) e conta falsi allarmi e messaggi sfuggiti.
5. Scegli la soglia con gli errori che puoi accettare, e scrivi il perché.

Con VigiMod puoi poi mandare le tue soglie in ogni richiesta ("thresholds": {"toxic": 0.8, "insult": 0.7}) senza cambiare nient'altro. Vedi la documentazione.

Usa più di una linea

Non devi scegliere solo tra «blocca» e «lascia passare». Uno schema comune:

Punteggio	Azione
≥ 0,95	rimuovi automaticamente
0,75 – 0,95	nascondi e manda a un moderatore
0,5 – 0,75	lascia passare, ma registralo
< 0,5	lascia passare

Così le azioni automatiche restano per i casi chiari e il giudizio umano va dove il modello è incerto.

Ricontrolla ogni tanto

Il linguaggio cambia, nasce slang nuovo, un modello viene aggiornato. Ripeti il controllo ogni qualche mese e ogni volta che cambi versione del modello.