• FLAGGED
  • CLEAN
  • REVIEW
  • LOGGED

OpenAI MCPコネクタを使ってAIでコンテンツモデレーションを自動化する方法

OpenAIをエージェントに接続すれば、ポリシー違反を自動で検知できます。連携後は、AIがスキャン作業をすべて代行します。

このページについてAIに聞く

すぐに答え

AIにコンテンツのモデレーションを任せられますか?

はい。OpenAI MCPコネクタを使用することで、AIがテキストを安全ガイドラインに照らしてチェックし、違反をフラグ立てします。何が、なぜ違反と判定されたのかを正確に把握できます。

判定結果

違反の分類

AIは設定した安全ルールに基づき、すべてのメッセージを特定のカテゴリに分類します。

FLAGGED

ポリシー違反

ルールに抵触するテキストをAIが特定します。不適切なメッセージが届くと、直接アラートを受け取れます。

CLEAN

安全なメッセージ

チェックを通過したメッセージは、そのまま問題なく処理されます。AIが基準を満たしていることを確認済みです。

REVIEW

要確認

判断が難しいケースは、確認が必要なものとしてマークされます。AIの判定が厳しすぎるか、緩すぎるかは人間が判断します。

LOGGED

監査履歴

すべてのスキャン内容は記録されます。履歴を確認することで、特定のコンテンツがなぜフラグ立てされたのかを後から追跡できます。

ワークフロー

テキスト受信時のAIの動き

エージェントがフィルターとして機能し、届いたテキストを安全チェックにかけます。

  1. テキストの取り込み

    エージェントが、接続されたチャンネルやデータベースからメッセージを取得します。

    moderate_content
  2. 違反のスキャン

    AIが特定の安全カテゴリに照らして内容をチェックし、問題のあるテキストを見つけ出します。

    moderate_content
  3. コンテンツのラベル付け

    ヘイトスピーチやハラスメントなど、メッセージに適切なカテゴリを割り当てます。

    moderate_content
  4. 結果のレポート

    どのポリシーに抵触したかをAIが正確に報告するため、迅速な対応が可能になります。

    moderate_content

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使用して、モデレーションタスクを実行できます。

出発点

括弧内のテキストは、実際のチャンネル名やポリシーの種類に書き換えてください。

OpenAI Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — OpenAI capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "openai-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp"
    }
  }
}
チャットにコピー04
  • Slackの #general チャンネルの直近10件のメッセージをモデレーションして。

  • このユーザーコメントにヘイトスピーチの違反がないか確認して。

  • サポートキューに届いたメッセージを、安全ポリシーに照らしてスキャンして。

  • このGoogle スプレッドシート内のテキストを確認し、コミュニティガイドラインに違反するものをフラグ立てして。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

OpenAIを一度接続すれば、あとは指示するだけ

アカウントの連携は一度だけで済みます。認証情報は暗号化して保持されるため、あとはMCP対応のあらゆるクライアントからツールを利用できます。

OpenAIをAIに接続する

FAQ

モデレーションの動作について

  • 01

    AIがメッセージを自動で削除することはできますか?

    いいえ。AIが行うのはフラグ立てとカテゴリ分けのみです。メッセージの削除や取り消しは、手動で行う必要があります。

  • 02

    AIが元のテキストを書き換えることはありますか?

    いいえ。AIはテキストを読み取り、分析するだけです。スキャンしたメッセージを編集したり、書き換えたりすることはありません。

  • 03

    問題のないメッセージまでフラグ立てされることはありますか?

    はい。AIが過敏に反応する場合があるため、判定の正確性を期すために、フラグ立てされた項目は人間が確認することをお勧めします。

  • 04

    プライベートなダイレクトメッセージにも使えますか?

    はい。使用しているAIクライアントが、接続を通じてそれらのメッセージにアクセスできる状態であれば可能です。

  • 05

    あらゆるテキストソースに対応していますか?

    接続が完了していれば、AIクライアントに読み込ませることができるあらゆるテキストに対応しています。

  • OpenAIについてさらに詳しく知りたいですか? OpenAI MCPコネクタの全機能を見る

『OpenAI』を Claude、Cursor、ChatGPT などに接続