# Humano en el proceso: cómo trabajan mejor juntos la IA y los moderadores

> La moderación automática es rápida; las personas entienden los matices. Cómo repartir el trabajo, qué acciones automatizar y cuáles dejar a una persona.

Source: https://www.vigimod.com/es/learn/human-in-the-loop-moderation · VigiMod (https://www.vigimod.com) · actualizado el 2026-11-11 · 5 min

## En resumen

- La IA es rápida y coherente; las personas entienden la ironía, la historia y la intención.
- Automatiza las acciones claras y de bajo riesgo; deja las expulsiones y las apelaciones a las personas.
- Envía los casos dudosos a una cola de revisión en lugar de adivinar.
- Cada decisión humana es información que mejora el sistema.

## Puntos fuertes distintos

| | IA | Moderadores humanos |
|---|---|---|
| Velocidad | milisegundos, 24/7 | minutos u horas |
| Coherencia | la misma respuesta siempre | depende de la persona y del día |
| Matices | mejorando, pero limitados | ironía, historia entre usuarios, intención |
| Escala | miles de mensajes por minuto | unos cientos por turno |
| Coste de un error | puede repetirlo en todas partes | normalmente aislado |

Ninguno basta por sí solo. El objetivo es dar a cada uno el trabajo que mejor hace.

## Un reparto práctico

1. **Acciones automáticas y reversibles** para los casos claros con puntuaciones altas: ocultar el mensaje, ralentizar al usuario, pedirle que lo reformule.
2. **Cola de revisión** para las puntuaciones dudosas: un moderador ve el mensaje, sus puntuaciones y la conversación, y decide.
3. **Solo personas** para las acciones graves y difíciles de deshacer: expulsiones, denuncias a las autoridades, decisiones sobre menores.
4. **Apelaciones** gestionadas por una persona distinta de la que tomó la primera decisión.

Cómo fijar las franjas de puntuación se explica en [cómo elegir el umbral](https://www.vigimod.com/es/learn/choosing-a-threshold).

## Da contexto a los moderadores

Un mensaje solo puede engañar tanto a una persona como a un modelo. Muestra los mensajes anteriores, el historial del usuario y por qué se marcó el mensaje (qué categoría, qué regla, qué puntuación). El [contexto](https://www.vigimod.com/es/learn/context-in-moderation) también ayuda a las personas.

## Cierra el círculo

Cada decisión humana es una etiqueta: «esto era una falsa alarma», «esto se escapó». Reunidas con el tiempo, estas decisiones son los datos más valiosos para ajustar los umbrales y mejorar la siguiente versión del modelo.

## Sé transparente con los usuarios

Explica a tu comunidad que los mensajes se revisan automáticamente, qué pasa cuando se marca un mensaje y cómo apelar. Las normas que la gente entiende se respetan más, y los errores se perdonan con más facilidad cuando se pueden corregir.

## Protege a los moderadores

Los moderadores ven el peor contenido. Filtrar automáticamente los casos más claros, mostrar vistas previas difuminadas y limitar la exposición protege su bienestar: otra razón para dejar la primera pasada a la IA.

## Cuestionario

1. ¿Qué acción debería dejarse a una persona?
   Respuesta: Una expulsión permanente. Las acciones graves y difíciles de deshacer necesitan el juicio de una persona.
2. ¿Qué debe pasar con los mensajes con puntuaciones dudosas?
   Respuesta: Enviarlos a una cola de revisión. Una persona decide donde el modelo duda.
3. ¿Por qué las decisiones de los moderadores son datos valiosos?
   Respuesta: Muestran los errores del sistema y sirven para ajustar umbrales y entrenar el siguiente modelo. Cada decisión es una etiqueta de la comunidad real.
4. ¿Qué ayuda a un moderador a decidir bien?
   Respuesta: Ver el mensaje, la conversación y por qué se marcó. El contexto ayuda tanto a las personas como a los modelos.