- VERIFIED
- FAILED
- HUMAN
- LOGGED
すぐに答え
AIエージェントでチャットボットの正確性をテストするには?
エージェントにボットを探して特定の質問を投げるよう指示します。エージェントは、ボットの回答とあらかじめ用意した正解データを比較し、ロジックのどこに問題があるかを明確にします。
テスト結果の分類
結果の判定内容
エージェントがクエリを実行した後のプロセスです。
VERIFIED
正確な回答
ボットの回答がソースデータと一致していることをエージェントが確認します。成功した結果がレポートとしてまとめられます。
FAILED
ロジックエラーの検出
ボットのハルシネーション(もっともらしい嘘)や古い情報の提供をエージェントが特定します。修正が必要なプロンプトが明確になります。
HUMAN
要手動確認
エージェントが曖昧な回答を検知した場合、フラグを立てて通知します。ボットのトーンやニュアンスが適切かどうかは、最終的にあなたが判断します。
LOGGED
テスト履歴の保存
すべてのクエリと回答が記録されます。ログを振り返ることで、時間の経過に伴うボットのパフォーマンスの変化を監視できます。
ワークフロー
テスト開始時にAIが行うこと
ボットのインフラとのやり取りといった負荷の高い作業は、すべてエージェントが担います。
ボットの特定
エージェントが環境をスキャンし、利用可能なすべてのチャットボットのインスタンスを見つけ出します。
list_botsクエリの実行
エージェントが選択したボットに対して、特定のテスト用質問を直接送信します。
send_query出力の取得
エージェントはボットからの応答を待ち、テキスト出力を取得します。
send_query結果の比較
エージェントはボットの回答を、提供された正解データや指示内容と照らし合わせます。
send_query
試してみる
以下のプロンプトをコピーして開始
これらのプロンプトを使って、すぐにテストを開始できます。
出発点
これらは開始用のテンプレートです。ボット名や質問の内容は、実際の環境に合わせて書き換えてください。
ThinkStack Connector
準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。
https://edge.vinkius.com/vk_preview_jo2J6ijcE54rcC38l6SZTWj5QehkoD6Oykrxzd7S/mcpClaude Desktop
以下の手順で数秒で接続できます。
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — ThinkStack capabilities are ready to use.
{
"mcpServers": {
"thinkstack-mcp": {
"url": "https://edge.vinkius.com/vk_preview_jo2J6ijcE54rcC38l6SZTWj5QehkoD6Oykrxzd7S/mcp"
}
}
}テスト可能なボットをすべてリストアップしてください。
CustomerSupport_Botに対して、返金ポリシーに関する質問を送信してください。
Sales_Assistantボットに対し、料金プランについての質問でテストを行ってください。
Technical_BotがAPI認証について正しく説明できるか確認してください。
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
ここから始める
ThinkStackを接続して、すぐに指示を出す
リンクをクリックして接続するだけです。認証情報は暗号化され、お使いのクライアントですぐにテストを開始できます。
ThinkStackをAIに接続するFAQ
動作に関する詳細
- 01
AIがチャットボットの設定を変更することはありますか?
いいえ。エージェントができるのはクエリの送信と回答の読み取りのみです。ボットの設定やコードを書き換えることはできません。
- 02
AIがボットのデータを削除することはありませんか?
はい、ありません。このMCPはボットの状態に対して読み取り専用として動作します。クエリを介したやり取りのみを行います。
- 03
複数のボットを同時にテストできますか?
はい。エージェントにすべてのボットをリストアップさせ、それらに対して異なるクエリを繰り返し実行するよう指示できます。
- 04
回答が間違っていることを、エージェントはどうやって判断しますか?
エージェントが比較基準として参照できるよう、プロンプトの中で正しい情報や参照ドキュメントを提供する必要があります。
- 05
Claudeでも利用できますか?
はい。接続後は、ClaudeやCursor、Windsurfなど、MCPに対応しているクライアントであればすべて利用可能です。
ThinkStackについてさらに詳しく知りたいですか? ThinkStack Connectorの全機能を見る
『ThinkStack』を Claude、Cursor、ChatGPT などに接続
