Aprende cómo funciona la moderación con IA
Guías breves sobre cómo la IA entiende el texto y cómo funciona la moderación, desde lo básico hasta lo que pasa por dentro. Cada una termina con un test.
11 guías
Cómo lee el texto la IA
- Básico6 min de lectura
Qué es un clasificador de texto y cómo decide
Un clasificador de texto lee una frase y devuelve una probabilidad para cada categoría. Cómo se construye, qué significa la puntuación y dónde se equivoca.
- Básico7 min de lectura
Cómo leen el texto los modelos de lenguaje: tokens, embeddings y atención
Los ordenadores no leen palabras. Cómo un modelo de lenguaje convierte una frase en tokens y números, y cómo la atención le permite entender el significado.
- Intermedio6 min de lectura
Datos de entrenamiento y etiquetas: un modelo vale lo que sus ejemplos
De dónde salen los datos de entrenamiento de la moderación, por qué fallan las etiquetas, qué son los datos sintéticos y por qué importan las licencias.
Medir un modelo
- Básico5 min de lectura
Falsos positivos y falsos negativos en la moderación de contenido
Todo sistema de moderación comete dos tipos de errores. Qué son, cuánto le cuesta cada uno a una comunidad y cómo mantener bajos los dos.
- Intermedio7 min de lectura
Precisión, recall y F1 explicados con ejemplos de moderación
La exactitud esconde el problema. Qué miden la precisión, el recall y el F1, cómo calcularlos en 30 segundos y cuál importa para tu comunidad.
- Intermedio6 min de lectura
Cómo elegir el umbral de moderación
Una puntuación de 0,7 no es una decisión. Cómo funcionan los umbrales, por qué el valor por defecto es solo un punto de partida y cómo ajustarlos.
La moderación con IA en la práctica
- Básico5 min de lectura
Por qué el contexto importa en la moderación de chats
La misma frase puede ser inofensiva o dañina según lo que se dijo antes. Cómo el contexto de la conversación cambia la moderación, con ejemplos reales.
- Intermedio7 min de lectura
Clasificación zero-shot: cómo un modelo entiende reglas escritas con palabras
¿Cómo aplica un modelo «Nada de spoilers» sin haberse entrenado con esa regla? Inferencia de lenguaje natural y reglas de moderación personalizadas.
- Intermedio6 min de lectura
El sesgo en los modelos de moderación: por qué se marcan mensajes inocentes con nombres extranjeros
Los modelos de moderación pueden marcar «Mohammed ha perdido el tren» como odio. De dónde viene este sesgo, cómo medirlo y cómo eliminarlo.
- Básico5 min de lectura
Humano en el proceso: cómo trabajan mejor juntos la IA y los moderadores
La moderación automática es rápida; las personas entienden los matices. Cómo repartir el trabajo, qué acciones automatizar y cuáles dejar a una persona.