- 読み取り
- 書き込み
- 検証
- 同期
すぐに答え
Braintrustのデータセットに新しいテストケースを追加するには?
AIクライアントに対して、既存のBraintrustマトリックスに特定の行や新しいテストケースを追加するよう指示するだけです。AIが自然言語の指示を理解し、現在のデータを取得した上で、新しい正解データを直接セットに書き込みます。CSVを手動でアップロードする手間なく、テストデータのライブラリを拡張できます。
データの処理フロー
リクエストによって実行されること
AIがチャットとBraintrust環境の間でデータの移動を管理します。
読み取り
現在のデータセットの状態
AIが既存の評価行を取得して現在のコンテキストを把握します。これにより、新しいデータが既存のスキーマと一致することを保証します。
書き込み
新しいテストケースの作成
エージェントが入力値と期待される出力を含む新しい行を挿入します。これにより、テストの網羅性が即座に向上します。
検証
人間による確認
生成されたテストケースが適切かどうかは、ユーザーが判断します。重要な正解データの更新については、AIはユーザーの承認を待ってから確定します。
同期
更新されたマトリックス
評価セットが最新のモデルイテレーションと同期されます。新しいデータは、次の評価実行ですぐに使用可能です。
ワークフロー
リクエストを受けた際のAIの動作
AIが会話とBraintrust APIの架け橋となります。
既存データの取得
エージェントが現在の評価セットを参照し、既存の入力値と期待される出力値を理解します。
get_dataset新しい行の準備
AIが自然言語による指示を、データセットの要件に適合する構造化された行へと変換します。
get_datasetテストケースの挿入
エージェントが新しい正解データをBraintrustのマトリックスに書き込みます。
insert_dataset_row更新の確認
AIが新しい行がデータセットに正常に追加されたことを確認します。
insert_dataset_row
試してみる
以下のプロンプトをコピーして開始
これらのプロンプトを使って、Braintrustデータとの対話を始めてください。
出発点
括弧内のテキストは、実際のBraintrustデータセット名や具体的なテストケースの詳細に書き換えてください。
Braintrust Connector
準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。
https://edge.vinkius.com/vk_preview_cr8T7CpPGy155EtBgklGtlDgFsTWLRLYfzKoHIOF/mcpClaude Desktop
以下の手順で数秒で接続できます。
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — Braintrust capabilities are ready to use.
{
"mcpServers": {
"braintrust-mcp": {
"url": "https://edge.vinkius.com/vk_preview_cr8T7CpPGy155EtBgklGtlDgFsTWLRLYfzKoHIOF/mcp"
}
}
}'customer_support_eval' データセット内の現在の行を表示して。
'chatbot_v2' に、ユーザーが返金ポリシーについて質問する新しいテストケースを追加して。
'qa_test_set' を確認して、入力値に 'パスワードをリセットするにはどうすればいいですか?' を含む行を追加して。
'llm_benchmarks' データセットを探して、価格に関するプロンプトの新しい正解データを追加して。
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
ここから始める
一度接続すれば、あとは指示するだけ
アカウントを一度連携するだけで準備完了です。認証情報は暗号化されて保護されるため、すぐにAIクライアントからデータセットの管理を開始できます。
BraintrustをAIに接続するFAQ
動作に関する詳細
- 01
AIはデータセットから行を削除できますか?
いいえ。AIができることはデータの取得と新しい行の挿入のみです。既存のデータを削除したり、内容を書き換えたりすることはできません。
- 02
どのテストケースが正しいかをAIが自動的に判断しますか?
いいえ。AIは正解データの候補を提示できますが、評価セットに実際に反映させるかどうかを決定するのはユーザーです。
- 03
これを使って評価(Evaluation)を実行できますか?
いいえ。このコネクターの目的はデータセット内のデータを管理することであり、評価プロセスそのものを実行するためのものではありません。
- 04
事前にデータをCSV形式にする必要がありますか?
いいえ。新しいテストケースを自然な言葉で説明するだけで、AIがデータセットに適した形式に整えます。
- 05
既存の行に誤りを見つけた場合、AIで更新できますか?
いいえ。現在のツールでは新しい行の挿入のみが可能です。誤りを修正するには、修正版を新しく追加するか、BraintrustのUIから直接操作してください。
Braintrustに関するその他の質問 Braintrust Connectorの全機能を見る
『Braintrust』を Claude、Cursor、ChatGPT などに接続
