Por qué el contexto importa en la moderación de chats

Una frase, dos significados

Mensajes anteriores	Mensaje	Sin contexto	Con contexto
«¿alguien ha visto el final?» – «¡todavía no, esta noche!»	«jaja muere al final»	inofensivo	spoiler
«mi pez es viejo, estoy preocupado»	«creo que al final se muere, lo siento»	¿spoiler?	inofensivo
«has vuelto a perder 😂» – «¿revancha?»	«vas a caer»	¿amenaza?	pique amistoso
«deja de escribirme» – «te he dicho que pares»	«sé dónde vives»	ambiguo	amenaza

El mensaje solo no decide. Decide la conversación.

Lo que el contexto arregla

• Falsas alarmas en bromas entre amigos, piques entre jugadores, respuestas que citan a alguien.
• Reglas que dependen del tema: spoilers, mensajes fuera de tema, ventas en el canal equivocado.
• Escalada: un mensaje suave por sí solo, pero que es el tercer contacto no deseado seguido.

Lo que el contexto no debe hacer

La puntuación es sobre el último mensaje. Si otra persona te insultó dos mensajes antes, tu respuesta educada no debe marcarse como insulto. Un buen modelo usa el contexto para entender el mensaje, no para trasladarle lo dañino de los mensajes anteriores.

¿Cuánto contexto?

En un chat, el significado suele depender de los últimos mensajes. Enviar los 5–10 mensajes anteriores, del más antiguo al más reciente, cubre casi todos los casos y mantiene las peticiones rápidas. Historiales muy largos cuestan más y rara vez cambian el veredicto.

Por qué es difícil para los modelos

Los datos de entrenamiento con contexto son escasos: la mayoría de los conjuntos públicos contienen mensajes sueltos. Los modelos tienen que ver muchos ejemplos en los que la conversación cambia la respuesta correcta, en los dos sentidos, para aprender a usarla. Es uno de los objetivos principales de la próxima versión de VigiMod.

En VigiMod

Envía los mensajes anteriores en context, del más antiguo al más reciente, hasta 10. Las puntuaciones siguen siendo sobre text; el contexto solo ayuda a leerlo. Consulta la documentación y la guía para Discord, con un ejemplo que recoge los últimos mensajes del canal.