Uma pessoa no processo: como a IA e os moderadores trabalham melhor juntos

Pontos fortes diferentes

	IA	Moderadores humanos
Velocidade	milissegundos, 24/7	minutos ou horas
Coerência	sempre a mesma resposta	depende da pessoa e do dia
Nuances	a melhorar, mas limitadas	ironia, história entre utilizadores, intenção
Escala	milhares de mensagens por minuto	algumas centenas por turno
Custo de um erro	pode repeti-lo em todo o lado	normalmente isolado

Nenhum chega sozinho. O objetivo é dar a cada um o trabalho que faz melhor.

Uma divisão prática

1. Ações automáticas e reversíveis para casos claros com pontuações altas: esconder a mensagem, abrandar o utilizador, pedir-lhe que reformule.
2. Fila de revisão para pontuações duvidosas: um moderador vê a mensagem, as pontuações e a conversa, e decide.
3. Só pessoas para ações graves e difíceis de reverter: banimentos, denúncias às autoridades, decisões sobre menores.
4. Recursos tratados por uma pessoa que não tomou a primeira decisão.

Como definir as faixas de pontuação é explicado em como escolher o limiar.

Dá contexto aos moderadores

Uma mensagem sozinha pode enganar uma pessoa tanto como um modelo. Mostra as mensagens anteriores, o histórico do utilizador e porque é que a mensagem foi assinalada (que categoria, que regra, que pontuação). O contexto também ajuda as pessoas.

Fecha o ciclo

Cada decisão humana é um rótulo: «isto foi um falso alarme», «isto escapou». Juntas ao longo do tempo, estas decisões são os dados mais valiosos para afinar os limiares e melhorar a próxima versão do modelo.

Sê transparente com os utilizadores

Diz à tua comunidade que as mensagens são verificadas automaticamente, o que acontece quando uma mensagem é assinalada e como recorrer. As regras que as pessoas compreendem são mais respeitadas, e os erros são mais facilmente perdoados quando podem ser corrigidos.

Protege os moderadores

Os moderadores veem o pior conteúdo. Filtrar automaticamente os casos mais claros, mostrar pré-visualizações desfocadas e limitar a exposição protege o seu bem-estar: mais uma razão para deixar a primeira passagem à IA.