• SIGNALÉ
  • CONFORME
  • À RÉVISER
  • ARCHIVÉ

Automatiser la modération de contenu avec votre IA

Connectez OpenAI à votre agent pour détecter les violations de politique. Une fois lié, votre IA gère l'analyse pour vous.

Demandez à l'IA à propos de cette page

Réponse rapide

Mon IA peut-elle modérer le contenu ?

Oui. Votre IA utilise le connecteur OpenAI pour vérifier les textes par rapport à vos règles de sécurité et signaler les violations. Vous verrez précisément ce qui a été signalé et pourquoi.

Les résultats.

Le traitement des violations.

L'IA classe chaque message dans des catégories spécifiques selon vos règles de sécurité.

SIGNALÉ

Violations de politique

L'IA identifie les textes qui enfreignent vos règles. Vous recevez une alerte directe dès qu'un message est jugé non conforme.

CONFORME

Messages sûrs

Les messages qui passent le test sont validés sans problème. L'IA confirme qu'ils respectent vos standards.

À RÉVISER

Supervision humaine

Les cas ambigus sont marqués pour votre attention. Vous décidez si l'IA a été trop stricte ou trop permissive.

ARCHIVÉ

Historique d'audit

Chaque analyse est enregistrée. Vous pouvez consulter l'historique pour comprendre pourquoi certains contenus ont été signalés.

Le flux

Ce que fait votre IA à l'arrivée d'un texte.

Votre agent agit comme un filtre en soumettant les textes entrants à un contrôle de sécurité.

  1. Récupérer le texte

    Votre agent extrait les messages de vos canaux ou bases de données connectés.

    moderate_content

  2. Analyser les violations

    L'IA compare le contenu à des catégories de sécurité pour trouver les textes problématiques.

    moderate_content

  3. Étiqueter le contenu

    L'IA attribue une catégorie au message, comme les discours de haine ou le harcèlement.

    moderate_content

  4. Rapporter les résultats

    L'IA vous indique précisément quelle règle a été enfreinte pour vous permettre d'agir.

    moderate_content

Essayez

Copiez ces commandes pour commencer.

Utilisez ces prompts pour déclencher la tâche de modération.

Points de départ

Remplacez le texte entre crochets par vos noms de canaux ou vos types de politiques spécifiques.

OpenAI Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — OpenAI capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "openai-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp"
    }
  }
}
Copiez dans le chat04

  • Modère les dix derniers messages du canal Slack #general.

  • Vérifie si ce commentaire d'utilisateur contient des discours de haine.

  • Analyse les messages entrants de ma file d'attente de support selon ma politique de sécurité.

  • Examine le texte de ce Google Sheet et signale tout ce qui enfreint nos règles communautaires.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez OpenAI une fois, puis demandez.

Liez votre compte une seule fois. Vos identifiants restent cryptés et vous pouvez utiliser les outils dans n'importe quel client compatible MCP.

Connecter OpenAI à votre IA

FAQ

Fonctionnement de la modération

  • 01

    L'IA peut-elle supprimer les messages automatiquement ?

    Non. L'IA ne fait que signaler et catégoriser le contenu. Vous devez supprimer ou retirer les messages manuellement.

  • 02

    L'IA modifie-t-elle le texte original ?

    Non. L'IA se contente de lire et d'analyser le texte. Elle ne modifie ni ne réécrit les messages qu'elle analyse.

  • 03

    Signalera-t-elle des messages qui sont pourtant corrects ?

    Oui. L'IA peut être trop sensible, vous devez donc réviser les éléments signalés pour garantir leur exactitude.

  • 04

    Puis-je l'utiliser pour des messages privés ?

    Oui, à condition que votre client IA ait accès à ces messages via la connexion établie.

  • 05

    Cela fonctionne-t-il avec n'importe quelle source de texte ?

    Cela fonctionne avec tout texte que vous pouvez transmettre à votre client IA une fois la connexion active.

  • D'autres questions sur OpenAI ? La page du connecteur y répond. Voir toutes les capacités du connecteur OpenAI

Connectez OpenAI à Claude, Cursor, ChatGPT et d'autres