Impara come funziona la moderazione con l'IA
Guide brevi su come l'intelligenza artificiale capisce il testo e come funziona la moderazione, dalle basi a quello che succede dietro le quinte. Ognuna finisce con un quiz.
11 guide
Come l'IA legge il testo
- Base6 min di lettura
Cos'è un classificatore di testo e come decide?
Un classificatore legge una frase e restituisce una probabilità per ogni categoria. Come è fatto, cosa significa il punteggio e dove sbaglia.
- Base7 min di lettura
Come leggono il testo i modelli linguistici: token, embedding e attenzione
I computer non leggono parole. Come un modello linguistico trasforma una frase in token e numeri, e come l'attenzione gli fa capire il significato.
- Intermedio6 min di lettura
Dati di addestramento ed etichette: un modello vale quanto i suoi esempi
Da dove vengono i dati per addestrare la moderazione, perché le etichette spesso sono sbagliate, cosa sono i dati sintetici e i modelli insegnanti, e perché le licenze contano.
Misurare un modello
- Base5 min di lettura
Falsi positivi e falsi negativi nella moderazione dei contenuti
Ogni sistema di moderazione fa due tipi di errore. Cosa sono, quanto costa ciascuno a una community e come tenerli bassi entrambi.
- Intermedio7 min di lettura
Precisione, recall e F1 spiegati con esempi di moderazione
L'accuratezza nasconde il problema. Cosa misurano precisione, recall e F1, come calcolarli in 30 secondi e quale conta per la tua community.
- Intermedio6 min di lettura
Come scegliere la soglia di moderazione
Un punteggio di 0,7 non è una decisione. Come funzionano le soglie, perché quella predefinita è solo un punto di partenza e un metodo semplice per regolarle.
La moderazione con l'IA in pratica
- Base5 min di lettura
Perché il contesto conta nella moderazione delle chat
La stessa frase può essere innocua o dannosa a seconda di cosa c'era prima. Come il contesto della conversazione cambia la moderazione, con esempi reali.
- Intermedio7 min di lettura
Classificazione zero-shot: come un modello capisce regole scritte a parole
Come fa un modello a far rispettare «Niente spoiler» se non è mai stato addestrato su quella regola? Inferenza in linguaggio naturale e regole personalizzate.
- Intermedio6 min di lettura
Il bias nei modelli di moderazione: perché i messaggi innocenti con nomi stranieri vengono segnalati
Un modello può segnalare «Mohammed ha perso il treno» come odio. Da dove nasce questo bias, come si misura e come si elimina.
- Base5 min di lettura
L'umano nel ciclo: come IA e moderatori lavorano meglio insieme
La moderazione automatica è veloce, le persone capiscono le sfumature. Come dividere il lavoro, quali azioni automatizzare e quali lasciare a una persona.