Dati di addestramento ed etichette: un modello vale quanto i suoi esempi

Le etichette sono la definizione

Quando un modello viene addestrato non vede mai la definizione di «insulto» del vocabolario. Vede migliaia di messaggi che delle persone hanno marcato come insulti o no. Le etichette sono la definizione. Se sono incoerenti, il modello impara un'idea incoerente.

Le persone non sono d'accordo

Sui casi chiari sono tutti d'accordo. Su odio, ironia, insulti riappropriati o insulti politici, chi etichetta spesso si divide. Gli studi sui dataset di hate speech trovano regolarmente un accordo solo parziale tra le persone che etichettano gli stessi messaggi. Le soluzioni più comuni:

• più persone per ogni messaggio e voto a maggioranza;
• linee guida dettagliate con esempi;
• tenere da parte i casi «contesi» invece di forzare un'etichetta.

Alcune etichette sono proprio sbagliate

Nei dataset grandi una parte delle etichette è semplicemente un errore: una frase chiaramente tossica marcata come pulita, uno scherzo marcato come minaccia. Quando abbiamo controllato i messaggi che il nostro modello segnalava in un test etichettato da persone, circa metà dei «falsi allarmi» erano in realtà messaggi etichettati male nel dataset. Due conseguenze:

1. Addestramento: il modello impara alcuni errori.
2. Misura: anche un modello perfetto sembra peggiore di quello che è. Le valutazioni serie costruiscono un test «gold» ripulito.

Dati reali, dati sintetici, insegnanti

• I messaggi reali scritti da persone sono i più preziosi: slang vero, errori veri, contesto vero.
• I dati sintetici sono scritti apposta da un grande modello linguistico per coprire quello che manca: conversazioni in cui il contesto cambia il senso, lingue rare, regole difficili.
• Insegnante → studente: un modello grande (l'insegnante) etichetta o scrive esempi, uno piccolo e veloce (lo studente) impara da quelli. Lo studente può diventare bravo quasi come l'insegnante su quel compito, costando centinaia di volte meno. Ne eredita però anche gli errori, quindi servono controlli a campione fatti da persone.

Le licenze contano

I dataset pubblici hanno una licenza. Alcune permettono l'uso commerciale (CC0, CC-BY, MIT, Apache), altre lo vietano («non commerciale»), altre ancora obbligano a usare la stessa licenza per quello che ne deriva («share-alike»). Anche le risposte di un modello possono avere condizioni d'uso. Un prodotto di moderazione deve controllare ogni fonte prima di usarla per addestrare.

Dimenticare

Quando un modello viene riaddestrato solo su dati nuovi, può dimenticare quello che sapeva. La soluzione abituale è il ripasso (replay): mescolare una parte dei dati vecchi con quelli nuovi. È così che un modello può imparare una cosa nuova (per esempio non segnalare frasi innocenti con nomi stranieri) senza peggiorare in tutto il resto.