Moderação com IA para o chat da Twitch que conhece as regras do seu canal

O que torna difícil

Exemplo

Um bot em Node.js: o tmi.js lê o chat, a VigiMod verifica cada mensagem e a API da Twitch apaga-a se for assinalada (o token precisa do scope moderator:manage:chat_messages).

JavaScript (Node.js)

// npm install tmi.js  (Node 18+)
// tmi.js reads the chat; the Twitch API deletes a message (token scope: moderator:manage:chat_messages)
import tmi from "tmi.js";

const { VIGIMOD_KEY, TWITCH_TOKEN, TWITCH_CLIENT_ID, BROADCASTER_ID, MODERATOR_ID } = process.env;
const RULES = { "no-spoilers": "No spoilers about the game being played" };
const recent = [];                       // the last messages of the chat, sent as context

const client = new tmi.Client({ channels: ["your_channel"] });

client.on("message", async (channel, tags, text, self) => {
  if (self) return;
  const res = await fetch("https://api.vigimod.com/moderate", {
    method: "POST",
    headers: { "X-API-Key": VIGIMOD_KEY, "Content-Type": "application/json" },
    body: JSON.stringify({
      text: text.slice(0, 2000), context: [...recent], rules: RULES,
      user_id: tags["user-id"], scope: channel,
    }),
    signal: AbortSignal.timeout(2000),
  }).catch(() => null);                  // slow or down: let the message through
  recent.push(text.slice(0, 2000));
  if (recent.length > 10) recent.shift();
  if (!res?.ok) return;

  const result = await res.json();
  if (result.flagged) {
    const q = new URLSearchParams({ broadcaster_id: BROADCASTER_ID, moderator_id: MODERATOR_ID, message_id: tags.id });
    await fetch(`https://api.twitch.tv/helix/moderation/chat?${q}`, {
      method: "DELETE",
      headers: { Authorization: `Bearer ${TWITCH_TOKEN}`, "Client-Id": TWITCH_CLIENT_ID },
    });
  }
});

client.connect();

Outros casos de uso

• Moderação de grupos do Telegram
• Filtro de chat para Minecraft
• Moderação do chat de jogos
• Moderação de fóruns
• Moderação de comentários

• Básico · 5 min de leituraPorque é que o contexto importa na moderação de chatsA mesma frase pode ser inofensiva ou nociva conforme o que veio antes. Como o contexto da conversa muda a moderação, com exemplos reais.
• Intermédio · 6 min de leituraComo escolher o limiar de moderaçãoUma pontuação de 0,7 não é uma decisão. Como funcionam os limiares, porque o valor predefinido é só um ponto de partida e como afiná-los.
• Básico · 5 min de leituraUma pessoa no processo: como a IA e os moderadores trabalham melhor juntosA moderação automática é rápida, as pessoas percebem as nuances. Como dividir o trabalho, que ações automatizar e quais deixar a uma pessoa.