- FLAGGED
- CLEAN
- REVIEW
- LOGGED
すぐに答え
AIにコンテンツのモデレーションを任せられますか?
はい。OpenAI MCPコネクタを使用することで、AIがテキストを安全ガイドラインに照らしてチェックし、違反をフラグ立てします。何が、なぜ違反と判定されたのかを正確に把握できます。
判定結果
違反の分類
AIは設定した安全ルールに基づき、すべてのメッセージを特定のカテゴリに分類します。
FLAGGED
ポリシー違反
ルールに抵触するテキストをAIが特定します。不適切なメッセージが届くと、直接アラートを受け取れます。
CLEAN
安全なメッセージ
チェックを通過したメッセージは、そのまま問題なく処理されます。AIが基準を満たしていることを確認済みです。
REVIEW
要確認
判断が難しいケースは、確認が必要なものとしてマークされます。AIの判定が厳しすぎるか、緩すぎるかは人間が判断します。
LOGGED
監査履歴
すべてのスキャン内容は記録されます。履歴を確認することで、特定のコンテンツがなぜフラグ立てされたのかを後から追跡できます。
ワークフロー
テキスト受信時のAIの動き
エージェントがフィルターとして機能し、届いたテキストを安全チェックにかけます。
テキストの取り込み
エージェントが、接続されたチャンネルやデータベースからメッセージを取得します。
moderate_content違反のスキャン
AIが特定の安全カテゴリに照らして内容をチェックし、問題のあるテキストを見つけ出します。
moderate_contentコンテンツのラベル付け
ヘイトスピーチやハラスメントなど、メッセージに適切なカテゴリを割り当てます。
moderate_content結果のレポート
どのポリシーに抵触したかをAIが正確に報告するため、迅速な対応が可能になります。
moderate_content
試してみる
以下のプロンプトをコピーして開始
これらのプロンプトを使用して、モデレーションタスクを実行できます。
出発点
括弧内のテキストは、実際のチャンネル名やポリシーの種類に書き換えてください。
OpenAI Connector
準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。
https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcpClaude Desktop
以下の手順で数秒で接続できます。
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — OpenAI capabilities are ready to use.
{
"mcpServers": {
"openai-mcp": {
"url": "https://edge.vinkius.com/vk_preview_wqDLmxGMRbmUrKtHE8ZWJc73FuzFzNT70ItXxJkE/mcp"
}
}
}Slackの #general チャンネルの直近10件のメッセージをモデレーションして。
このユーザーコメントにヘイトスピーチの違反がないか確認して。
サポートキューに届いたメッセージを、安全ポリシーに照らしてスキャンして。
このGoogle スプレッドシート内のテキストを確認し、コミュニティガイドラインに違反するものをフラグ立てして。
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
ここから始める
OpenAIを一度接続すれば、あとは指示するだけ
アカウントの連携は一度だけで済みます。認証情報は暗号化して保持されるため、あとはMCP対応のあらゆるクライアントからツールを利用できます。
OpenAIをAIに接続するFAQ
モデレーションの動作について
- 01
AIがメッセージを自動で削除することはできますか?
いいえ。AIが行うのはフラグ立てとカテゴリ分けのみです。メッセージの削除や取り消しは、手動で行う必要があります。
- 02
AIが元のテキストを書き換えることはありますか?
いいえ。AIはテキストを読み取り、分析するだけです。スキャンしたメッセージを編集したり、書き換えたりすることはありません。
- 03
問題のないメッセージまでフラグ立てされることはありますか?
はい。AIが過敏に反応する場合があるため、判定の正確性を期すために、フラグ立てされた項目は人間が確認することをお勧めします。
- 04
プライベートなダイレクトメッセージにも使えますか?
はい。使用しているAIクライアントが、接続を通じてそれらのメッセージにアクセスできる状態であれば可能です。
- 05
あらゆるテキストソースに対応していますか?
接続が完了していれば、AIクライアントに読み込ませることができるあらゆるテキストに対応しています。
OpenAIについてさらに詳しく知りたいですか? OpenAI MCPコネクタの全機能を見る
『OpenAI』を Claude、Cursor、ChatGPT などに接続
