Moderación con IA del chat de juegos, en todos los idiomas de tus jugadores

Qué lo hace difícil

Ejemplo

Un servidor de chat en Node.js con WebSockets: cada mensaje se revisa antes de enviarlo a los demás jugadores.

JavaScript (Node.js)

// npm install ws  (Node 18+)
// A game chat server: each message is checked before it is sent to the room
import { WebSocketServer } from "ws";

const RULES = { "no-cheats": "No selling or sharing cheats, hacks or exploits" };
const recent = [];                       // the last messages of the room, sent as context
const wss = new WebSocketServer({ port: 8080 });

async function moderate(text, playerId) {
  const res = await fetch("https://api.vigimod.com/moderate", {
    method: "POST",
    headers: { "X-API-Key": process.env.VIGIMOD_KEY, "Content-Type": "application/json" },
    body: JSON.stringify({ text, context: [...recent], rules: RULES, user_id: playerId, scope: "room-1" }),
    signal: AbortSignal.timeout(2000),
  }).catch(() => null);
  return res?.ok ? res.json() : { flagged: false };   // slow or down: let the message through
}

wss.on("connection", (socket, req) => {
  const playerId = req.headers["x-player-id"] ?? "guest";   // use your own authenticated player id
  socket.on("message", async (data) => {
    const text = data.toString().slice(0, 2000);
    const result = await moderate(text, playerId);
    if (result.flagged) {
      socket.send(JSON.stringify({ type: "blocked", reason: "This message breaks the chat rules." }));
      return;
    }
    recent.push(text);
    if (recent.length > 10) recent.shift();
    for (const client of wss.clients) client.send(JSON.stringify({ type: "chat", playerId, text }));
  });
});

Otros casos de uso

• Moderación del chat de Twitch
• Moderación de grupos de Telegram
• Filtro de chat para Minecraft
• Moderación de foros
• Moderación de comentarios

• Básico · 5 min de lecturaPor qué el contexto importa en la moderación de chatsLa misma frase puede ser inofensiva o dañina según lo que se dijo antes. Cómo el contexto de la conversación cambia la moderación, con ejemplos reales.
• Intermedio · 7 min de lecturaPrecisión, recall y F1 explicados con ejemplos de moderaciónLa exactitud esconde el problema. Qué miden la precisión, el recall y el F1, cómo calcularlos en 30 segundos y cuál importa para tu comunidad.
• Básico · 5 min de lecturaHumano en el proceso: cómo trabajan mejor juntos la IA y los moderadoresLa moderación automática es rápida; las personas entienden los matices. Cómo repartir el trabajo, qué acciones automatizar y cuáles dejar a una persona.