• SINALIZADO
  • LIMPO
  • REVISÃO
  • REGISTRADO

Como automatizar a moderação de conteúdo com sua IA

Conecte o OpenAI ao seu agente para identificar violações de políticas. Após a conexão, sua IA cuida de toda a análise para você.

Pergunte à IA sobre esta página

Resposta rápida

Minha IA pode moderar conteúdo para mim?

Sim. Sua IA usa o conector OpenAI para verificar textos contra diretrizes de segurança e sinalizar violações. Você verá exatamente o que foi sinalizado e o motivo.

Os resultados.

Onde as violações param.

A IA classifica cada mensagem em categorias específicas com base nas suas regras de segurança.

SINALIZADO

Violações de política

A IA identifica textos que quebram suas regras. Você recebe um alerta direto quando uma mensagem é insegura.

LIMPO

Mensagens seguras

Mensagens que passam na verificação seguem o fluxo normalmente. A IA confirma que elas atendem aos seus padrões.

REVISÃO

Supervisão humana

Casos ambíguos são marcados para sua atenção. Você decide se a IA foi rigorosa demais ou permissiva demais.

REGISTRADO

Histórico de auditoria

Cada análise é registrada. Você pode revisar o histórico para entender por que certos conteúdos foram sinalizados.

O fluxo

O que sua IA faz quando um texto chega.

Seu agente atua como um filtro, processando o texto recebido através de uma verificação de segurança.

  1. Coletar texto

    Seu agente busca mensagens nos canais ou bancos de dados conectados.

    moderate_content

  2. Escanear violações

    A IA compara o conteúdo com categorias de segurança para encontrar textos problemáticos.

    moderate_content

  3. Categorizar conteúdo

    A IA atribui uma categoria à mensagem, como discurso de ódio ou assédio.

    moderate_content

  4. Relatar descobertas

    A IA informa exatamente qual política foi violada para que você possa agir.

    moderate_content

Teste

Copie estes comandos para começar.

Use estes prompts para acionar a tarefa de moderação.

Pontos de partida

Substitua o texto entre colchetes pelos nomes dos seus canais ou tipos de política.

OpenAI Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — OpenAI capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "openai-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp"
    }
  }
}
Copie no chat04

  • Modere as últimas dez mensagens no meu canal #geral do Slack.

  • Verifique se este comentário de usuário contém violações de discurso de ódio.

  • Analise as mensagens recebidas na minha fila de suporte com base na minha política de segurança.

  • Revise o texto nesta Google Sheet e sinalize qualquer coisa que viole nossas diretrizes da comunidade.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o OpenAI uma vez e pronto.

Vincule sua conta uma única vez. Suas credenciais ficam criptografadas e você pode usar as ferramentas em qualquer cliente compatível com MCP.

Conectar OpenAI à sua IA

FAQ

Como funciona a moderação

  • 01

    A IA pode deletar mensagens automaticamente?

    Não. A IA apenas sinaliza e categoriza o conteúdo. Você deve deletar ou remover as mensagens manualmente.

  • 02

    A IA altera o texto original?

    Não. A IA apenas lê e analisa o texto. Ela não edita nem reescreve as mensagens que escaneia.

  • 03

    Ela pode sinalizar mensagens que estão corretas?

    Sim. A IA pode ser sensível demais, por isso você deve revisar os itens sinalizados para garantir a precisão.

  • 04

    Posso usar isso para mensagens diretas privadas?

    Sim, desde que seu cliente de IA tenha acesso a essas mensagens através da conexão.

  • 05

    Funciona com qualquer fonte de texto?

    Funciona com qualquer texto que você consiga enviar para seu cliente de IA após a conexão estar ativa.

  • Mais dúvidas sobre o OpenAI? A página do Conector responde. Veja tudo o que o conector OpenAI pode fazer

Conecte OpenAI ao Claude, Cursor, ChatGPT e outros