Comparación
Una alternativa a OpenAI Moderation API que aplica tus reglas
El endpoint de moderación de OpenAI (omni-moderation-latest) es gratuito y revisa texto e imágenes en 13 categorías fijas. Puntúa cada mensaje por separado y no puede aprender las reglas de tu comunidad. VigiMod lee los mensajes anteriores, aplica reglas que escribes con palabras y es gratis durante la beta.
Comparación
| OpenAI Moderation | VigiMod | |
|---|---|---|
| Precio | Gratis | Gratis durante la beta |
| Categorías | 13 subcategorías fijas | 8 categorías, más spam, listas de insultos y tus reglas |
| Reglas de la comunidad | No | Hasta 10 reglas escritas con palabras por petición, cada una con su puntuación |
| Contexto de la conversación | No, cada mensaje se puntúa solo | Hasta 10 mensajes anteriores |
| Umbrales | Marcas fijas; las puntuaciones las usas tú | Umbrales por defecto que puedes cambiar en cada petición |
| Imágenes | Sí | No, solo texto |
| Spam y mensajes repetidos | No | Puntuación de spam por usuario |
| Cuenta | Cuenta de OpenAI y clave API | Cuenta de VigiMod y clave API |
VigiMod modera texto: chats, comentarios, publicaciones de foros. Si también necesitas moderar imágenes, usa un servicio de imágenes junto a él. Para el texto, VigiMod añade lo que los endpoints genéricos no tienen: las reglas de tu comunidad y el contexto de la conversación.
De las categorías de OpenAI a VigiMod
| OpenAI | VigiMod | Nota |
|---|---|---|
| harassment | insult, toxic | insult para los ataques a una persona, toxic para la grosería en general. |
| harassment/threatening | threat | Amenazas contra una persona. |
| hate, hate/threatening | hate (+ threat) | Ataques a personas por lo que son. |
| self-harm, /intent, /instructions | self_harm | Una sola categoría: ajusta su umbral según tu público. |
| sexual | sexual | Contenido sexual. |
| sexual/minors | child_safety | Opcional: añádela a categories. |
| violence, violence/graphic | threat | Solo se cubren las amenazas; para descripciones violentas añade una regla. |
| illicit, illicit/violent | rules | Escríbelo como regla, por ejemplo «Prohibido vender drogas o armas». |
La misma llamada, antes y después
OpenAI Moderation
from openai import OpenAI
client = OpenAI()
r = client.moderations.create(
model="omni-moderation-latest",
input=message,
)
result = r.results[0]
flagged = result.flagged
harassment = result.category_scores.harassmentVigiMod
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"context": previous_messages, # optional: the last messages, oldest first
"rules": {"no-spoilers": "No spoilers about films or series"},
},
)
result = r.json()
flagged = result["flagged"]
insult = result["scores"]["insult"]
spoiler = result["scores"]["rule:no-spoilers"]Lo que ganas
- Las reglas de tu comunidad, como «Sin spoilers» o «Prohibido vender cuentas», puntuadas como cualquier categoría.
- Los mensajes anteriores como contexto: las bromas entre amigos y las respuestas se leen bien.
- Umbrales por petición: cada servidor o foro decide lo estricto que quiere ser.
- Una puntuación de spam por usuario, para mensajes repetidos y avalanchas.
- Los mensajes se comprueban y se descartan: no se guarda nada ni se usa para entrenar.
Cambia en tres pasos
- 1
Crea una cuenta gratuita y una clave API.
- 2
Sustituye la llamada moderations por un POST a /moderate y añade, si quieres, los mensajes anteriores y tus reglas.
- 3
Relaciona las categorías con la tabla de arriba y revisa los umbrales con unos días de mensajes reales.
Preguntas
¿OpenAI Moderation API es gratis?
Sí, OpenAI no cobra por su endpoint de moderación. VigiMod también es gratis durante la beta: el motivo para cambiar no es el precio, sino las reglas, el contexto y los umbrales adaptados a tu comunidad.
¿OpenAI Moderation API admite categorías personalizadas?
No. Sus categorías son fijas. Para aplicar una regla de la comunidad hace falta otra capa, como un prompt a un modelo de lenguaje o una API que acepte reglas, como VigiMod.
¿Puedo usar las dos?
Sí. Una configuración habitual es OpenAI para las imágenes y VigiMod para el texto del chat, con tus reglas y el contexto.
¿VigiMod entiende idiomas distintos del inglés?
Se entrenó en 26 idiomas y funciona mejor en italiano, inglés, español, francés, alemán y portugués.
¿Cuánto se tarda en cambiar?
Normalmente menos de una hora: cambia una llamada HTTP y las categorías se corresponden como en la tabla de arriba.
Sigue aprendiendo
Todas las guías- Intermedio · 7 min de lecturaClasificación zero-shot: cómo un modelo entiende reglas escritas con palabras¿Cómo aplica un modelo «Nada de spoilers» sin haberse entrenado con esa regla? Inferencia de lenguaje natural y reglas de moderación personalizadas.
- Básico · 5 min de lecturaPor qué el contexto importa en la moderación de chatsLa misma frase puede ser inofensiva o dañina según lo que se dijo antes. Cómo el contexto de la conversación cambia la moderación, con ejemplos reales.
- Básico · 5 min de lecturaFalsos positivos y falsos negativos en la moderación de contenidoTodo sistema de moderación comete dos tipos de errores. Qué son, cuánto le cuesta cada uno a una comunidad y cómo mantener bajos los dos.
Prueba tus propias reglas
Crea una clave gratuita y prueba una regla con tus mensajes en un par de minutos.