# L'umano nel ciclo: come IA e moderatori lavorano meglio insieme

> La moderazione automatica è veloce, le persone capiscono le sfumature. Come dividere il lavoro, quali azioni automatizzare e quali lasciare a una persona.

Source: https://www.vigimod.com/it/learn/human-in-the-loop-moderation · VigiMod (https://www.vigimod.com) · aggiornato il 2026-11-11 · 5 min

## In breve

- L'IA è veloce e coerente; le persone capiscono ironia, storia e intenzioni.
- Automatizza le azioni chiare e a basso rischio; lascia ban e ricorsi alle persone.
- Manda i casi incerti in una coda di revisione invece di tirare a indovinare.
- Ogni decisione umana è un feedback che migliora il sistema.

## Punti di forza diversi

| | IA | Moderatori umani |
|---|---|---|
| Velocità | millisecondi, sempre attiva | minuti od ore |
| Coerenza | stessa risposta ogni volta | dipende dalla persona e dalla giornata |
| Sfumature | migliorano, ma limitate | ironia, storia tra gli utenti, intenzioni |
| Volume | migliaia di messaggi al minuto | qualche centinaio per turno |
| Costo di un errore | può ripeterlo ovunque | di solito isolato |

Nessuno dei due basta da solo. L'obiettivo è dare a ciascuno il lavoro che fa meglio.

## Una divisione pratica

1. **Azioni automatiche e reversibili** per i casi chiari con punteggi alti: nascondere il messaggio, rallentare l'utente, chiedergli di riformulare.
2. **Coda di revisione** per i punteggi incerti: un moderatore vede il messaggio, i punteggi e la conversazione, e decide.
3. **Solo persone** per le azioni gravi e difficili da annullare: ban, segnalazioni alle autorità, decisioni sui minori.
4. **Ricorsi** gestiti da una persona diversa da chi ha preso la prima decisione.

Come impostare le fasce di punteggio è spiegato in [come scegliere la soglia](https://www.vigimod.com/it/learn/choosing-a-threshold).

## Dai il contesto ai moderatori

Un messaggio da solo può ingannare una persona quanto un modello. Mostra i messaggi precedenti, la storia dell'utente e perché il messaggio è stato segnalato (quale categoria, quale regola, quale punteggio). Il [contesto](https://www.vigimod.com/it/learn/context-in-moderation) aiuta anche le persone.

## Chiudi il ciclo

Ogni decisione umana è un'etichetta: «questo era un falso allarme», «questo è sfuggito». Raccolte nel tempo, queste decisioni sono i dati più preziosi per regolare le soglie e migliorare la versione successiva del modello.

## Sii trasparente con gli utenti

Di' alla tua community che i messaggi vengono controllati automaticamente, cosa succede quando un messaggio viene segnalato e come fare ricorso. Le regole che le persone capiscono vengono rispettate di più, e gli errori si perdonano più facilmente quando si possono correggere.

## Proteggi i moderatori

I moderatori vedono i contenuti peggiori. Filtrare automaticamente i casi più chiari, sfocare le anteprime e limitare l'esposizione proteggono il loro benessere: un motivo in più per lasciare all'IA il primo passaggio.

## Quiz

1. Quale azione va lasciata a una persona?
   Risposta: Un ban permanente. Le azioni gravi e difficili da annullare richiedono un giudizio umano.
2. Cosa fare dei messaggi con punteggi incerti?
   Risposta: Mandarli in una coda di revisione. Decide una persona dove il modello è incerto.
3. Perché le decisioni dei moderatori sono dati preziosi?
   Risposta: Mostrano gli errori del sistema e servono per regolare le soglie e addestrare il modello successivo. Ogni decisione è un'etichetta della community vera.
4. Cosa aiuta un moderatore a decidere bene?
   Risposta: Vedere il messaggio, la conversazione e il motivo della segnalazione. Il contesto aiuta le persone quanto i modelli.