AIによるテキストコンテンツのモデレーション自動化を実現する方法

エージェントが check_moderation ツールを使用して、テキストにポリシー違反がないかスキャンします。合格したものと確認が必要なものが明確なレポートとして提示されるため、出力が常に安全ガイドライン内に収まるよう管理できます。

1. 01

   テキストの解析

   エージェントが生成されたテキストを受け取り、セーフティエンジンで処理します。

   check_moderation
2. 02

   違反の検知

   ツールがヘイトスピーチやハラスメントなど、禁止されているコンテンツのカテゴリを特定します。

   check_moderation
3. 03

   ステータスの判定

   ポリシーへの抵触に基づき、AIがコンテンツを「安全」または「不安全」としてマークします。

   check_moderation
4. 04

   要確認フラグの付与

   テキストが基準を満たさない場合、AIがフラグを立てて手動レビューができるようにします。

   check_moderation

Lingyi Wanwu Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_JkyG9ZUTy0GPyUj394Vmol76jPwT4EVBKA0NvupX/mcpコピー

Claude Desktop

以下の手順で数秒で接続できます。

1. 1In Claude Desktop, open Settings → Connectors.
2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3. 3Click Add and start a new chat — Lingyi Wanwu capabilities are ready to use.

設定 · claude_desktop_config.jsonコピー

{
  "mcpServers": {
    "lingyi-wanwu-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_JkyG9ZUTy0GPyUj394Vmol76jPwT4EVBKA0NvupX/mcp"
    }
  }
}

• Claude
• ChatGPT
• Cursor
• VS Code
• Windsurf
• Claude Code
• JetBrains
• Cline

MCPをクライアントにリンクさせます。ログイン情報は弊社側で暗号化して保持されます。ツールの全リストはコネクターのページで確認できます。

• 01

  AIは不適切なコンテンツを自動的に削除できますか？

  いいえ。AIはコンテンツの特定とフラグ立てのみを行います。違反としてマークされた内容は、手動で削除または編集する必要があります。

• 02

  AIはテキストを安全な内容に書き換えますか？

  いいえ。このツールはテキストを検証するだけで、元のコンテンツを書き換えたり修正したりすることはありません。

• 03

  AIが違反を見逃した場合、どうなりますか？

  AIは検知のためのツールであり、完璧なフィルターではありません。正確性を期すため、フラグが立てられたコンテンツは人間がレビューすることを推奨します。

• 04

  リアルタイムチャットのモデレーションに使用できますか？

  はい。AIクライアントがMCPに接続されており、届いたメッセージをチェックするようにプロンプトで指示すれば可能です。

• 05

  あらゆるテキストに対して機能しますか？

  はい。プロンプトで提供されたあらゆるテキスト文字列をスキャンできます。

• Lingyi Wanwuについて他に質問がありますか？コネクターのページで詳しく解説しています。 Lingyi Wanwu コネクターの全機能を見る