Humano en el proceso: cómo trabajan mejor juntos la IA y los moderadores

Puntos fuertes distintos

	IA	Moderadores humanos
Velocidad	milisegundos, 24/7	minutos u horas
Coherencia	la misma respuesta siempre	depende de la persona y del día
Matices	mejorando, pero limitados	ironía, historia entre usuarios, intención
Escala	miles de mensajes por minuto	unos cientos por turno
Coste de un error	puede repetirlo en todas partes	normalmente aislado

Ninguno basta por sí solo. El objetivo es dar a cada uno el trabajo que mejor hace.

Un reparto práctico

1. Acciones automáticas y reversibles para los casos claros con puntuaciones altas: ocultar el mensaje, ralentizar al usuario, pedirle que lo reformule.
2. Cola de revisión para las puntuaciones dudosas: un moderador ve el mensaje, sus puntuaciones y la conversación, y decide.
3. Solo personas para las acciones graves y difíciles de deshacer: expulsiones, denuncias a las autoridades, decisiones sobre menores.
4. Apelaciones gestionadas por una persona distinta de la que tomó la primera decisión.

Cómo fijar las franjas de puntuación se explica en cómo elegir el umbral.

Da contexto a los moderadores

Un mensaje solo puede engañar tanto a una persona como a un modelo. Muestra los mensajes anteriores, el historial del usuario y por qué se marcó el mensaje (qué categoría, qué regla, qué puntuación). El contexto también ayuda a las personas.

Cierra el círculo

Cada decisión humana es una etiqueta: «esto era una falsa alarma», «esto se escapó». Reunidas con el tiempo, estas decisiones son los datos más valiosos para ajustar los umbrales y mejorar la siguiente versión del modelo.

Sé transparente con los usuarios

Explica a tu comunidad que los mensajes se revisan automáticamente, qué pasa cuando se marca un mensaje y cómo apelar. Las normas que la gente entiende se respetan más, y los errores se perdonan con más facilidad cuando se pueden corregir.

Protege a los moderadores

Los moderadores ven el peor contenido. Filtrar automáticamente los casos más claros, mostrar vistas previas difuminadas y limitar la exposición protege su bienestar: otra razón para dejar la primera pasada a la IA.