Aprende como funciona a moderação com IA
Guias curtos sobre como a IA entende o texto e como funciona a moderação, do básico ao que acontece nos bastidores. Cada um termina com um quiz.
11 guias
Como a IA lê o texto
- Básico6 min de leitura
O que é um classificador de texto e como decide?
Um classificador de texto lê uma frase e devolve uma probabilidade para cada categoria. Como é construído, o que significa a pontuação e onde erra.
- Básico7 min de leitura
Como os modelos de linguagem leem o texto: tokens, embeddings e atenção
Os computadores não leem palavras. Como um modelo de linguagem transforma uma frase em tokens e números, e como a atenção lhe permite compreender o significado.
- Intermédio6 min de leitura
Dados de treino e rótulos: um modelo vale o que valem os seus exemplos
De onde vêm os dados de treino da moderação, porque é que os rótulos estão muitas vezes errados, o que são dados sintéticos e porque é que as licenças importam.
Medir um modelo
- Básico5 min de leitura
Falsos positivos e falsos negativos na moderação de conteúdos
Qualquer sistema de moderação comete dois tipos de erros. O que são, quanto custa cada um a uma comunidade e como manter ambos baixos.
- Intermédio7 min de leitura
Precisão, recall e F1 explicados com exemplos de moderação
A exatidão esconde o problema. O que medem a precisão, o recall e o F1, como calculá-los em 30 segundos e qual importa para a tua comunidade.
- Intermédio6 min de leitura
Como escolher o limiar de moderação
Uma pontuação de 0,7 não é uma decisão. Como funcionam os limiares, porque o valor predefinido é só um ponto de partida e como afiná-los.
Moderação com IA na prática
- Básico5 min de leitura
Porque é que o contexto importa na moderação de chats
A mesma frase pode ser inofensiva ou nociva conforme o que veio antes. Como o contexto da conversa muda a moderação, com exemplos reais.
- Intermédio7 min de leitura
Classificação zero-shot: como um modelo percebe regras escritas por palavras
Como aplica um modelo «Nada de spoilers» sem ter sido treinado com essa regra? Inferência em linguagem natural e regras de moderação personalizadas.
- Intermédio6 min de leitura
O enviesamento nos modelos de moderação: porque são assinaladas mensagens inocentes com nomes estrangeiros
Um modelo pode assinalar «O Mohammed perdeu o comboio» como ódio. De onde vem este enviesamento, como medi-lo e como corrigi-lo.
- Básico5 min de leitura
Uma pessoa no processo: como a IA e os moderadores trabalham melhor juntos
A moderação automática é rápida, as pessoas percebem as nuances. Como dividir o trabalho, que ações automatizar e quais deixar a uma pessoa.