Herramienta gratuita · sin registro
Detector de toxicidad y groserías
Pega un mensaje y mira cómo lo lee un modelo de moderación con IA: toxicidad, insultos, odio, amenazas, contenido sexual, autolesión, publicidad, groserías e insultos discriminatorios. Funciona en 26 idiomas, acepta el contexto de la conversación y tu propia regla, y no guarda nada.
Las puntuaciones van de 0 a 1. Una categoría se marca cuando su puntuación supera el umbral (la marca de cada barra); cada servidor puede fijar sus propios umbrales.
Qué comprueba
Toxicidad
Mensajes groseros, irrespetuosos o agresivos, incluidos insultos y amenazas.
Insultos, odio y amenazas
Ataques a una persona, ataques a personas por lo que son, amenazas de violencia o daño.
Groserías
Palabrotas y lenguaje vulgar. Una palabrota entre amigos es grosera, pero no necesariamente tóxica: las dos puntuaciones van por separado.
Insultos discriminatorios
Insultos racistas, xenófobos, antisemitas, homófobos, tránsfobos y capacitistas de listas de palabras en seis idiomas, detectados incluso en frases amistosas.
Contenido sexual, autolesión y publicidad
Cada uno con su puntuación y su umbral.
Tu propia regla
Escribe una regla en lenguaje natural, como “Nada de spoilers”, y mira qué puntuación obtiene el mensaje.
Cómo funciona
- Es el mismo modelo que la API de VigiMod: un modelo multilingüe que lee cada categoría como una frase y responde si el mensaje encaja.
- El leetspeak, las letras separadas y los caracteres parecidos se normalizan antes de puntuar (“1d10ta”, “i d i o t a”).
- Una categoría se marca cuando su puntuación supera el umbral, la marca de cada barra. En la API cada comunidad puede fijar sus umbrales.
- Los mensajes se revisan y se descartan: nada de lo que escribes se guarda ni se usa para entrenar modelos. La herramienta permite pocas comprobaciones por minuto.
Preguntas
¿El detector de toxicidad es gratis?
Sí, sin cuenta. Para más de unas pocas comprobaciones por minuto, o para revisar mensajes de tu app, crea una clave de API gratuita: 120 mensajes por minuto durante la beta.
¿Qué idiomas admite?
Se entrenó en 26 idiomas y funciona mejor en inglés, italiano, español, francés, alemán y portugués. Las listas de insultos discriminatorios cubren esos seis.
¿Qué diferencia hay entre toxicidad y groserías?
Las groserías tienen que ver con las palabras (palabrotas, vulgaridad); la toxicidad, con la intención (grosera, hostil, agresiva). “Este juego está de puta madre” es grosero pero amistoso; una frase educada puede ser un insulto.
¿Puedo usarlo para sustituir Perspective API?
Sí: la API de VigiMod responde a las mismas peticiones comments:analyze que Perspective, con TOXICITY, PROFANITY y los demás atributos. Consulta la página de la alternativa a Perspective API.
¿Se guarda lo que escribo?
No. El mensaje se envía al modelo, se puntúa y se descarta. Solo se guarda un recuento anónimo de comprobaciones.
Sigue aprendiendo
Todas las guías- Básico · 5 min de lecturaFalsos positivos y falsos negativos en la moderación de contenidoTodo sistema de moderación comete dos tipos de errores. Qué son, cuánto le cuesta cada uno a una comunidad y cómo mantener bajos los dos.
- Intermedio · 6 min de lecturaCómo elegir el umbral de moderaciónUna puntuación de 0,7 no es una decisión. Cómo funcionan los umbrales, por qué el valor por defecto es solo un punto de partida y cómo ajustarlos.
- Básico · 5 min de lecturaPor qué el contexto importa en la moderación de chatsLa misma frase puede ser inofensiva o dañina según lo que se dijo antes. Cómo el contexto de la conversación cambia la moderación, con ejemplos reales.
Casos de uso
Revisa los mensajes de tu propia app
Clave de API gratuita, 120 mensajes por minuto durante la beta.