• エラー検出
  • データ品質
  • ユーザーフィードバック
  • 人間による確認

AIを活用してVectaraのRAGチャット履歴を監査する方法

VectaraをAIクライアントに接続して、過去のセッションを取得します。接続後は、エージェントが過去のやり取りをスキャンして、エラーの特定や事実確認を行うことができます。

このページについてAIに聞く

すぐに答え

RAGチャット履歴をどのように監査できますか?

AIがVectara MCPを使用して、過去のチャットセッションの一覧を取得します。その後、エージェントに対して、特定のセッションの正確性や文脈の誤りを分析するよう指示できます。これにより、RAGの実装における問題箇所を特定できます。

監査の結果

得られる分析結果

AIが履歴をスキャンした後に得られる情報です。

エラー検出

ハルシネーションの特定

AIが過去の回答を元のグラウンディングデータと照合します。モデルが提供されたコンテキストから逸脱した箇所をフラグ立てします。

データ品質

検索精度の確認

エージェントが特定の質問に対してどのドキュメントが取得されたかを確認します。適切な情報が実際に検索されているかを把握できます。

ユーザーフィードバック

セッション傾向の把握

ユーザーがRAG環境とどのようにやり取りしているかのパターンをAIが特定します。どのトピックが混乱や誤回答を招きやすいかが分かります。

人間による確認

手動修正の判断

AIが人間の介入が必要な特定のセッションをハイライトします。どのチャットログに対して手動での修正や、より適切なグラウンディングが必要かを正確に判断できます。

ワークフロー

リクエスト受信時のAIの動作

AIがデータ取得を処理するため、あなたは分析に集中できます。

  1. セッションログの取得

    エージェントがVectaraにアクセスし、最近のチャット履歴の一覧を取得します。これが監査の基礎データとなります。

    list_chat_sessions
  2. 特定のチャットの抽出

    AIがセッションリストをフィルタリングし、調査したい特定の会話を見つけ出します。特定の期間やセッションIDを指定して抽出可能です。

    list_chat_sessions
  3. グラウンディングの分析

    エージェントがチャットの回答と取得されたコンテキストを比較します。発言内容とデータが裏付ける内容との間に乖離がないかを確認します。

    list_chat_sessions
  4. 分析結果の要約

    AIが検出したエラーや成功事例を読みやすいレポートにまとめます。RAGのパフォーマンスを明確に把握できます。

    list_chat_sessions

試してみる

以下のプロンプトをコピーして開始してください。

これらのプロンプトを使って監査を開始できます。

出発点

これらはプロンプトの例です。セッションIDや日付を実際のVectaraのデータに置き換えて使用してください。

Vectara Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_P55Xdk6UU5XMN3cdVPORquufduaGCfpEWSemsNQg/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Vectara capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "vectara-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_P55Xdk6UU5XMN3cdVPORquufduaGCfpEWSemsNQg/mcp"
    }
  }
}
チャットにコピー04
  • 監査対象を選ぶために、最近のVectaraチャットセッションをリストアップしてください。

  • Vectaraの直近5件のチャットセッションを確認し、ハルシネーションが発生しているものがあるか教えてください。

  • 昨日のチャットセッションを見つけて、取得されたコンテキストが回答を正しく裏付けているか確認してください。

  • Vectaraのチャット履歴をレビューし、誤回答が発生する最も一般的な理由を要約してください。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

一度Vectaraに接続すれば、あとは指示するだけです。

リンクをクリックしてアカウントを接続してください。認証情報は暗号化されて保持されます。接続後はすぐにAIに対してチャットログに関する質問を開始できます。

VectaraをAIに接続する

FAQ

動作に関する詳細

  • 01

    AIはVectara内のチャットセッションを削除できますか?

    いいえ。AIができることは、監査を実行するために既存のセッションをリストアップして読み取ることのみです。

  • 02

    AIはチャット履歴内の回答を変更できますか?

    いいえ。AIは履歴を分析することはできますが、Vectaraに保存されているログを修正したり書き換えたりすることはできません。

  • 03

    AIは回答がハルシネーションであるとどのように判断しますか?

    AIはチャットの回答と、そのセッション中に取得された特定のコンテキストを照合し、事実が一致しているかどうかを確認します。

  • 04

    AIはすべてのデータにアクセスしますか、それともチャット履歴のみですか?

    このMCPを通じて、AIがアクセスできるのは list_chat_sessions ツールによって提供されるチャットセッションのデータのみです。

  • 05

    他のユーザーのセッションを監査することはできますか?

    AIは、接続されたVectaraアカウントが閲覧権限を持っているセッションにのみアクセスできます。

  • Vectaraに関するその他の質問は、Connectorのページで確認できます。 Vectara Connectorの全機能を見る

『Vectara』を Claude、Cursor、ChatGPT などに接続