• データ
  • チューニング
  • 分析
  • 人間による判断

AIを活用してモデルのフィードバックを自動化する方法

エージェントをDifyに接続することで、ユーザーとのやり取りからモデルの改善までをシームレスにつなぎます。データ送信はAIが担うため、あなたはチューニングに専念できます。

このページについてAIに聞く

すぐに答え

ユーザーの評価を自動でDifyに送るには?

エージェントがDify.AI SDKを使用し、ユーザーが評価やコメントを行った瞬間にフィードバックを送信します。これにより、RLHFやモデルチューニングのための直接的なパイプラインが構築されます。チャット画面からDifyのダッシュボードへデータが流れる仕組みを確認してください。

フィードバックの結果

データの活用先

エージェントが評価をキャプチャした後のプロセスです。

データ

フィードバックの記録

エージェントが評価とテキストをDifyへ送信します。これにより、確認用のフィードバックログが蓄積されます。

チューニング

RLHFへの準備

収集されたデータは、人間からのフィードバックによる強化学習(RLHF)に利用可能です。モデルの回答精度を高めるために活用してください。

分析

パフォーマンス分析

集計された評価により、エージェントの成功と失敗のポイントが明確になります。モデルの正確性を可視化できます。

人間による判断

手動レビュー

どのフィードバックをファインチューニングに使うかは、人間が判断します。AIが勝手にデータを取捨選択することはありません。

ワークフロー

フィードバック受信時のAIの動作

エージェントは、ユーザーの意見とDify環境をつなぐ架け橋となります。

  1. 入力のキャプチャ

    エージェントは、ユーザーによる「高評価」の操作や、回答に対するテキストによる指摘などの信号を検知します。

    submit_feedback
  2. 評価の処理

    エージェントは、ユーザーの評価とそれに関連する会話IDを構造化されたデータに変換します。

    submit_feedback
  3. Difyへの送信

    エージェントは、指定されたツールを使用して、整形されたフィードバックをDifyワークスペースへ直接送信します。

    submit_feedback
  4. 完了の確認

    エージェントは送信が成功したかを確認し、必要に応じてユーザーにフィードバックを受け付けたことを通知します。

    submit_feedback

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使用して、フィードバックプロセスを実行できます。

出発点

現在のセッションに合わせて、特定のチャットIDやユーザー名を適宜書き換えてください。

Dify.AI Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_esFwQvD1BTqmueeHwIOlGHPDJ8Oq0FzvLe2J4jkV/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Dify.AI capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "difyai-sdk-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_esFwQvD1BTqmueeHwIOlGHPDJ8Oq0FzvLe2J4jkV/mcp"
    }
  }
}
チャットにコピー04
  • このチャットの直前の回答に対して、高評価のフィードバックを送信して。

  • 四半期報告に関する回答に対して、評価1をDifyに送信して。

  • 現在の会話のフィードバックとして、このユーザーコメントを記録して。

  • 直前の回答に低評価を送信して。理由は「冗長すぎる」として。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

Dify.AI SDKを一度接続すれば、あとは指示するだけです。

一度接続するだけで、エージェントとDify APIが連携します。詳細な設定手順はコネクターのページで確認できます。

Dify.AI SDKをAIに接続する

FAQ

動作に関する詳細

  • 01

    送信したフィードバックをAIが削除することはできますか?

    いいえ。このツールはDifyへ新しいフィードバックを送信することのみを許可しています。

  • 02

    どの評価が重要かをAIが判断しますか?

    いいえ。AIはユーザーが提供したフィードバックをそのまま送信するだけです。チューニングに利用するデータは、Dify上で人間が確認して判断する必要があります。

  • 03

    特定のメッセージIDに対してフィードバックを送ることはできますか?

    はい。特定のやり取りに対してフィードバックを送信するよう、エージェントに指示することが可能です。

  • 04

    これを実行すると、モデルは自動的に再学習されますか?

    いいえ。このツールはデータをDifyに転送するだけです。学習やチューニングのプロセス自体は、ご自身で開始する必要があります。

  • 05

    ユーザーの入力なしに、エージェントがフィードバックを送信することはありますか?

    いいえ。送信ツールを起動するには、ユーザーによる評価またはコメントが必要です。

  • Dify.AI SDKについて他に質問がありますか? Dify.AI SDK コネクターの全機能を見る

『Dify.AI』を Claude、Cursor、ChatGPT などに接続