Confronto
Un'alternativa a OpenAI Moderation API che applica le tue regole
L'endpoint di moderazione di OpenAI (omni-moderation-latest) è gratuito e controlla testo e immagini su 13 categorie fisse. Valuta ogni messaggio da solo e non può imparare le regole della tua community. VigiMod legge i messaggi precedenti, applica regole che scrivi a parole ed è gratis durante la beta.
A confronto
| OpenAI Moderation | VigiMod | |
|---|---|---|
| Prezzo | Gratis | Gratis durante la beta |
| Categorie | 13 sottocategorie fisse | 8 categorie, più spam, liste di insulti e le tue regole |
| Regole della community | No | Fino a 10 regole scritte a parole per richiesta, ognuna con il suo punteggio |
| Contesto della conversazione | No, ogni messaggio viene valutato da solo | Fino a 10 messaggi precedenti |
| Soglie | Segnalazioni fisse; i punteggi li usi tu | Soglie predefinite modificabili a ogni richiesta |
| Spam e messaggi ripetuti | No | Punteggio di spam per utente |
| Account | Account OpenAI e chiave API | Account VigiMod e chiave API |
VigiMod modera il testo: chat, commenti, post nei forum. Se ti serve moderare anche le immagini, affiancagli un servizio per le immagini. Per il testo, VigiMod aggiunge ciò che gli endpoint generici non hanno: le regole della tua community e il contesto della conversazione.
Dalle categorie di OpenAI a VigiMod
| OpenAI | VigiMod | Nota |
|---|---|---|
| harassment | insult, toxic | insult per gli attacchi a una persona, toxic per la maleducazione in generale. |
| harassment/threatening | threat | Minacce contro una persona. |
| hate, hate/threatening | hate (+ threat) | Attacchi alle persone per ciò che sono. |
| self-harm, /intent, /instructions | self_harm | Una sola categoria: regola la soglia in base al tuo pubblico. |
| sexual | sexual | Contenuti sessuali. |
| sexual/minors | child_safety | Da attivare: aggiungila a categories. |
| violence, violence/graphic | threat | Sono coperte solo le minacce; per le descrizioni violente aggiungi una regola. |
| illicit, illicit/violent | rules | Scrivilo come regola, per esempio «Niente vendita di droghe o armi». |
La stessa chiamata, prima e dopo
OpenAI Moderation
from openai import OpenAI
client = OpenAI()
r = client.moderations.create(
model="omni-moderation-latest",
input=message,
)
result = r.results[0]
flagged = result.flagged
harassment = result.category_scores.harassmentVigiMod
import requests
r = requests.post(
"https://api.vigimod.com/moderate",
headers={"X-API-Key": VIGIMOD_KEY},
json={
"text": message,
"context": previous_messages, # optional: the last messages, oldest first
"rules": {"no-spoilers": "No spoilers about films or series"},
},
)
result = r.json()
flagged = result["flagged"]
insult = result["scores"]["insult"]
spoiler = result["scores"]["rule:no-spoilers"]Cosa guadagni
- Le regole della tua community, come «Niente spoiler» o «Niente vendita di account», valutate come qualsiasi categoria.
- I messaggi precedenti come contesto: le battute tra amici e le risposte vengono lette correttamente.
- Soglie per singola richiesta: ogni server o forum decide quanto essere severo.
- Un punteggio di spam per utente, per messaggi ripetuti e flood.
- I messaggi vengono controllati e scartati: niente viene salvato o usato per addestrare modelli.
Passa a VigiMod in tre passaggi
- 1
Crea un account gratuito e una chiave API.
- 2
Sostituisci la chiamata moderations con un POST a /moderate, aggiungendo se vuoi i messaggi precedenti e le tue regole.
- 3
Collega le categorie con la tabella qui sopra e verifica le soglie su qualche giorno di messaggi reali.
Domande
OpenAI Moderation API è gratis?
Sì, OpenAI non fa pagare il suo endpoint di moderazione. Anche VigiMod è gratis durante la beta: il motivo per cambiare non è il prezzo, ma le regole, il contesto e le soglie adatte alla tua community.
OpenAI Moderation API accetta categorie personalizzate?
No. Le sue categorie sono fisse. Per applicare una regola della community serve un altro livello, come un prompt a un modello linguistico o un'API che accetta regole, come VigiMod.
Posso usarle tutte e due?
Sì. Una configurazione comune è OpenAI per le immagini e VigiMod per il testo della chat, con le tue regole e il contesto.
VigiMod capisce lingue diverse dall'inglese?
È stata addestrata su 26 lingue e funziona meglio in italiano, inglese, spagnolo, francese, tedesco e portoghese.
Quanto ci vuole per cambiare?
Di solito meno di un'ora: cambia una chiamata HTTP e le categorie si collegano come nella tabella qui sopra.
Continua a imparare
Tutte le guide- Intermedio · 7 min di letturaClassificazione zero-shot: come un modello capisce regole scritte a paroleCome fa un modello a far rispettare «Niente spoiler» se non è mai stato addestrato su quella regola? Inferenza in linguaggio naturale e regole personalizzate.
- Base · 5 min di letturaPerché il contesto conta nella moderazione delle chatLa stessa frase può essere innocua o dannosa a seconda di cosa c'era prima. Come il contesto della conversazione cambia la moderazione, con esempi reali.
- Base · 5 min di letturaFalsi positivi e falsi negativi nella moderazione dei contenutiOgni sistema di moderazione fa due tipi di errore. Cosa sono, quanto costa ciascuno a una community e come tenerli bassi entrambi.
Prova le tue regole
Crea una chiave gratuita e prova una regola sui tuoi messaggi in un paio di minuti.