API filtro de groserías
Un filtro de groserías que lee palabras, no listas
Las listas de palabras no ven "m i e r d a" y marcan "Scunthorpe". VigiMod revisa cada mensaje con una regla que el modelo lee: las palabrotas disfrazadas se detectan y las palabras inocentes quedan limpias, en 26 idiomas. Groserías y toxicidad tienen puntuaciones separadas, así decides tú si un "joder" entre amigos importa.
Respuestas reales de la API
La puntuación de groserías y la de toxicidad de los mismos mensajes. Las palabrotas entre amigos tienen groserías alta y toxicidad baja; las palabras que solo contienen una palabrota no tienen ninguna de las dos.
| Mensaje | Groserías | Toxicidad |
|---|---|---|
| what the fuck is this | 1.00 | 0.96 |
| wh4t the f*ck | 1.00 | 0.91 |
| f u c k this game | 0.99 | 0.13 |
| this game is so damn good | 0.99 | 0.06 |
| sei uno str0nzo | 1.00 | 1.00 |
| esto es una mierda | 1.00 | 1.00 |
| das ist scheiße | 1.00 | 0.98 |
| c'est de la merde | 1.00 | 0.97 |
| que porra é essa | 1.00 | 1.00 |
| I live in Scunthorpe | 0.00 | 0.00 |
| the class assessment is due tomorrow | 0.00 | 0.00 |
| Assassin's Creed is a great game | 0.00 | 0.00 |
| shiitake mushrooms are tasty | 0.00 | 0.00 |
VigiMod 1.2.1 con la regla de groserías que se muestra abajo y umbrales predeterminados, ejecutado el
Lista de palabras o filtro con IA
| Lista de palabras | VigiMod | |
|---|---|---|
| Palabrotas disfrazadas (f*ck, m i e r d a, str0nzo) | Se escapan si no está cada variante en la lista | Detectadas: el texto se normaliza y se lee entero |
| Palabras inocentes (Scunthorpe, assessment, shiitake) | Marcadas si contienen una palabra de la lista | No marcadas |
| Grosero u ofensivo | La misma marca para ambos | Groserías y toxicidad con puntuaciones separadas |
| Idiomas | Una lista por idioma, mantenida a mano | 26 idiomas con una sola petición |
| Tus propias reglas | Editas la lista | Escribes la regla como una frase y ajustas su umbral |
Añádelo a tu chat con una petición
Las groserías son una regla en lenguaje natural, enviada con el mensaje (o guardada una vez en una política del panel). Activa block_slurs para marcar también los insultos discriminatorios por tipo, en español, inglés, italiano, francés, alemán y portugués.
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"rules": {"profanity": "The message contains profanity: swear words, curse words, vulgar or obscene language, in any language"},
"block_slurs": True, # slur lists in six languages, one flag per kind
"categories": ["toxic"], # optional: is it also an attack?
},
)
result = r.json()
result["flags"]["rule:profanity"] # True: swearing or vulgar language
result["flags"]["toxic"] # True: also rude or hostile
result["blocklist_matches"] # slurs found, if any¿Vienes de Perspective API? El endpoint compatible calcula PROFANITY con la misma regla: Alternativa a Perspective API
curl -s "https://api.vigimod.com/v1alpha1/comments:analyze?key=$VIGIMOD_KEY" \
-H "Content-Type: application/json" \
-d '{"comment": {"text": "wh4t the f*ck"}, "requestedAttributes": {"PROFANITY": {}}}'Sin ralentizar tu chat
- Revisa después de publicar, no antes: muestra el mensaje enseguida y ocúltalo si se marca. Los usuarios nunca esperan al filtro.
- Si tienes que revisar antes de publicar, pide solo lo que necesitas (reglas y categorías que usas): menos comprobaciones, respuesta más rápida.
- Decide por comunidad: un servidor de juegos puede permitir palabrotas y quitar solo los insultos (toxic); una plataforma para niños puede quitar ambos.
- Envía los últimos mensajes como contexto cuando también puntúes la toxicidad: bromas y respuestas se leen con lo que vino antes.
Preguntas
¿Hay una API gratuita para filtrar groserías?
Sí: VigiMod es gratis durante la beta, con 120 mensajes por minuto por clave de API y todas las funciones incluidas. En la web también hay un detector gratuito que no necesita cuenta.
¿Qué idiomas admite el filtro de groserías?
El modelo lee 26 idiomas y funciona mejor en español, inglés, italiano, francés, alemán y portugués. Las listas de insultos discriminatorios cubren esos seis.
¿Detecta el leetspeak y las palabrotas disfrazadas?
Sí. El texto se normaliza antes de puntuar (números en lugar de letras, símbolos, letras separadas) y el modelo lee la frase entera, así que "m1erda" y "m i e r d a" se detectan.
¿Marca palabras inocentes como Scunthorpe o assessment?
No. No hay coincidencia de subcadenas: el modelo juzga el significado, así que las palabras que solo contienen una palabrota puntúan 0.
¿Qué diferencia hay entre groserías y toxicidad?
Las groserías tienen que ver con las palabras (palabrotas, lenguaje vulgar); la toxicidad, con la intención (grosera, hostil, agresiva). "Este juego está de puta madre" es grosero pero no tóxico. VigiMod devuelve ambas, así eliges sobre cuál actuar.
¿Se guardan los mensajes?
No. Los mensajes se puntúan y se descartan; solo se guardan contadores horarios de uso por clave.
Sigue aprendiendo
Todas las guías- Básico · 5 min de lecturaFalsos positivos y falsos negativos en la moderación de contenidoTodo sistema de moderación comete dos tipos de errores. Qué son, cuánto le cuesta cada uno a una comunidad y cómo mantener bajos los dos.
- Intermedio · 6 min de lecturaCómo elegir el umbral de moderaciónUna puntuación de 0,7 no es una decisión. Cómo funcionan los umbrales, por qué el valor por defecto es solo un punto de partida y cómo ajustarlos.
- Básico · 5 min de lecturaPor qué el contexto importa en la moderación de chatsLa misma frase puede ser inofensiva o dañina según lo que se dijo antes. Cómo el contexto de la conversación cambia la moderación, con ejemplos reales.
Casos de uso
Filtra groserías en 26 idiomas
Clave de API gratuita, 120 mensajes por minuto durante la beta.