Comparaison
Une alternative à OpenAI Moderation API qui applique vos règles
Le point d'accès de modération d'OpenAI (omni-moderation-latest) est gratuit et vérifie le texte et les images sur 13 catégories fixes. Il note chaque message isolément et ne peut pas apprendre les règles de votre communauté. VigiMod lit les messages précédents, applique des règles rédigées en toutes lettres et est gratuit pendant la bêta.
Côte à côte
| OpenAI Moderation | VigiMod | |
|---|---|---|
| Prix | Gratuit | Gratuit pendant la bêta |
| Catégories | 13 sous-catégories fixes | 8 catégories, plus le spam, les listes d'insultes et vos règles |
| Règles de la communauté | Non | Jusqu'à 10 règles en toutes lettres par requête, chacune avec son score |
| Contexte de la conversation | Non, chaque message est noté seul | Jusqu'à 10 messages précédents |
| Seuils | Signalements fixes ; à vous d'utiliser les scores | Seuils par défaut modifiables à chaque requête |
| Spam et messages répétés | Non | Score de spam par utilisateur |
| Compte | Compte OpenAI et clé API | Compte VigiMod et clé API |
VigiMod modère le texte : chats, commentaires, messages de forum. Si vous devez aussi modérer des images, utilisez un service d'images à côté. Pour le texte, VigiMod apporte ce que les endpoints génériques n'ont pas : les règles de votre communauté et le contexte de la conversation.
Des catégories OpenAI à VigiMod
| OpenAI | VigiMod | Remarque |
|---|---|---|
| harassment | insult, toxic | insult pour les attaques contre une personne, toxic pour la grossièreté en général. |
| harassment/threatening | threat | Menaces contre une personne. |
| hate, hate/threatening | hate (+ threat) | Attaques contre des personnes pour ce qu'elles sont. |
| self-harm, /intent, /instructions | self_harm | Une seule catégorie : réglez son seuil selon votre public. |
| sexual | sexual | Contenu sexuel. |
| sexual/minors | child_safety | À activer : ajoutez-la à categories. |
| violence, violence/graphic | threat | Seules les menaces sont couvertes ; pour les descriptions violentes, ajoutez une règle. |
| illicit, illicit/violent | rules | Écrivez-le comme une règle, par exemple « Pas de vente de drogues ou d'armes ». |
Le même appel, avant et après
OpenAI Moderation
from openai import OpenAI
client = OpenAI()
r = client.moderations.create(
model="omni-moderation-latest",
input=message,
)
result = r.results[0]
flagged = result.flagged
harassment = result.category_scores.harassmentVigiMod
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"context": previous_messages, # optional: the last messages, oldest first
"rules": {"no-spoilers": "No spoilers about films or series"},
},
)
result = r.json()
flagged = result["flagged"]
insult = result["scores"]["insult"]
spoiler = result["scores"]["rule:no-spoilers"]Ce que vous y gagnez
- Les règles de votre communauté, comme « Pas de spoilers » ou « Pas de vente de comptes », notées comme n'importe quelle catégorie.
- Les messages précédents comme contexte : les blagues entre amis et les réponses sont bien comprises.
- Des seuils par requête : chaque serveur ou forum choisit sa sévérité.
- Un score de spam par utilisateur, pour les messages répétés et le flood.
- Les messages sont vérifiés puis écartés : rien n'est enregistré ni utilisé pour entraîner.
Changer en trois étapes
- 1
Créez un compte gratuit et une clé API.
- 2
Remplacez l'appel moderations par un POST sur /moderate, en ajoutant si vous le souhaitez les messages précédents et vos règles.
- 3
Faites correspondre les catégories avec le tableau ci-dessus et vérifiez les seuils sur quelques jours de vrais messages.
Questions
OpenAI Moderation API est-elle gratuite ?
Oui, OpenAI ne fait pas payer son point d'accès de modération. VigiMod est aussi gratuit pendant la bêta : la raison de changer n'est pas le prix, mais les règles, le contexte et des seuils adaptés à votre communauté.
OpenAI Moderation API accepte-t-elle des catégories personnalisées ?
Non. Ses catégories sont fixes. Pour appliquer une règle de la communauté, il faut une autre couche, comme un prompt à un modèle de langage ou une API qui accepte des règles, comme VigiMod.
Puis-je utiliser les deux ?
Oui. Une configuration courante : OpenAI pour les images et VigiMod pour le texte de la discussion, avec vos règles et le contexte.
VigiMod comprend-il d'autres langues que l'anglais ?
Il a été entraîné sur 26 langues et fonctionne le mieux en italien, anglais, espagnol, français, allemand et portugais.
Combien de temps faut-il pour changer ?
En général moins d'une heure : un appel HTTP change et les catégories se correspondent comme dans le tableau ci-dessus.
Continuer à apprendre
Tous les guides- Intermédiaire · 7 min de lectureClassification zero-shot : comment un modèle comprend des règles écrites en toutes lettresComment un modèle applique-t-il « Pas de spoilers » sans avoir appris cette règle ? Inférence en langage naturel et règles de modération sur mesure.
- Débutant · 5 min de lecturePourquoi le contexte compte dans la modération des discussionsLa même phrase peut être anodine ou nuisible selon ce qui précède. Comment le contexte de la conversation change la modération, avec de vrais exemples.
- Débutant · 5 min de lectureFaux positifs et faux négatifs dans la modération de contenuTout système de modération fait deux sortes d'erreurs. Ce qu'elles sont, ce que chacune coûte à une communauté et comment les garder basses toutes les deux.
Testez vos propres règles
Créez une clé gratuite et testez une règle sur vos messages en quelques minutes.