Datos de entrenamiento y etiquetas: un modelo vale lo que sus ejemplos

Las etiquetas son la definición

Cuando se entrena un modelo, nunca ve la definición de diccionario de «insulto». Ve miles de mensajes que las personas marcaron como insultos o no. Las etiquetas son la definición. Si son incoherentes, el modelo aprende una idea incoherente.

Las personas no están de acuerdo

En los casos claros todos coinciden. En el discurso de odio, la ironía, los insultos reapropiados o los insultos políticos, los anotadores a menudo se dividen. Los estudios sobre conjuntos de datos de odio encuentran con frecuencia un acuerdo solo parcial entre personas que etiquetan los mismos mensajes. Soluciones habituales:

• varios anotadores por mensaje y voto por mayoría;
• instrucciones detalladas con ejemplos;
• apartar los casos «discutidos» en lugar de forzar una etiqueta.

Algunas etiquetas están mal

En los conjuntos grandes, una parte de las etiquetas es simplemente un error: una frase claramente tóxica marcada como limpia, una broma marcada como amenaza. Cuando revisamos los mensajes que nuestro propio modelo marcaba en un conjunto de prueba etiquetado por personas, cerca de la mitad de las «falsas alarmas» eran en realidad mensajes mal etiquetados en el conjunto. Dos consecuencias:

1. Entrenamiento: el modelo aprende algunos errores.
2. Medición: incluso un modelo perfecto parece peor de lo que es. Las evaluaciones serias construyen un conjunto de prueba «de referencia» (gold) revisado.

Datos reales, datos sintéticos, profesores

• Los mensajes reales escritos por personas son los más valiosos: jerga real, errores reales, contexto real.
• Los datos sintéticos los escribe a propósito un gran modelo de lenguaje, para cubrir lo que falta: conversaciones en las que el contexto cambia el significado, idiomas poco comunes, reglas difíciles.
• Profesor → alumno: un modelo grande (el profesor) etiqueta o escribe ejemplos y un modelo pequeño y rápido (el alumno) aprende de ellos. El alumno puede llegar a ser casi tan bueno como el profesor en esa tarea y cientos de veces más barato de ejecutar. También hereda los errores del profesor, así que las personas deben revisar muestras.

Las licencias importan

Los conjuntos de datos públicos tienen licencia. Algunas permiten el uso comercial (CC0, CC-BY, MIT, Apache), otras lo prohíben («no comercial») y otras exigen que las obras derivadas usen la misma licencia («compartir igual»). Las salidas de un modelo también pueden tener condiciones de uso. Un producto de moderación debe revisar cada fuente antes de entrenar con ella.

El olvido

Cuando un modelo se vuelve a entrenar solo con datos nuevos, puede olvidar lo que sabía. La solución habitual es el replay: mezclar una parte de los datos de entrenamiento antiguos con los nuevos. Así un modelo puede aprender algo nuevo (por ejemplo, no marcar frases inocentes con nombres extranjeros) sin empeorar en todo lo demás.