• 読み取り
  • 書き込み
  • 検証
  • 同期

AIを活用してBraintrustの評価データセットを拡張する方法

BraintrustをAIクライアントに接続すれば、会話を通じてテストセットを増やせます。エージェントに「何を追加するか」を伝えるだけで、データ入力はすべてAIが実行します。

このページについてAIに聞く

すぐに答え

Braintrustのデータセットに新しいテストケースを追加するには?

AIクライアントに対して、既存のBraintrustマトリックスに特定の行や新しいテストケースを追加するよう指示するだけです。AIが自然言語の指示を理解し、現在のデータを取得した上で、新しい正解データを直接セットに書き込みます。CSVを手動でアップロードする手間なく、テストデータのライブラリを拡張できます。

データの処理フロー

リクエストによって実行されること

AIがチャットとBraintrust環境の間でデータの移動を管理します。

読み取り

現在のデータセットの状態

AIが既存の評価行を取得して現在のコンテキストを把握します。これにより、新しいデータが既存のスキーマと一致することを保証します。

書き込み

新しいテストケースの作成

エージェントが入力値と期待される出力を含む新しい行を挿入します。これにより、テストの網羅性が即座に向上します。

検証

人間による確認

生成されたテストケースが適切かどうかは、ユーザーが判断します。重要な正解データの更新については、AIはユーザーの承認を待ってから確定します。

同期

更新されたマトリックス

評価セットが最新のモデルイテレーションと同期されます。新しいデータは、次の評価実行ですぐに使用可能です。

ワークフロー

リクエストを受けた際のAIの動作

AIが会話とBraintrust APIの架け橋となります。

  1. 既存データの取得

    エージェントが現在の評価セットを参照し、既存の入力値と期待される出力値を理解します。

    get_dataset
  2. 新しい行の準備

    AIが自然言語による指示を、データセットの要件に適合する構造化された行へと変換します。

    get_dataset
  3. テストケースの挿入

    エージェントが新しい正解データをBraintrustのマトリックスに書き込みます。

    insert_dataset_row
  4. 更新の確認

    AIが新しい行がデータセットに正常に追加されたことを確認します。

    insert_dataset_row

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使って、Braintrustデータとの対話を始めてください。

出発点

括弧内のテキストは、実際のBraintrustデータセット名や具体的なテストケースの詳細に書き換えてください。

Braintrust Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_cr8T7CpPGy155EtBgklGtlDgFsTWLRLYfzKoHIOF/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Braintrust capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "braintrust-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_cr8T7CpPGy155EtBgklGtlDgFsTWLRLYfzKoHIOF/mcp"
    }
  }
}
チャットにコピー04
  • 'customer_support_eval' データセット内の現在の行を表示して。

  • 'chatbot_v2' に、ユーザーが返金ポリシーについて質問する新しいテストケースを追加して。

  • 'qa_test_set' を確認して、入力値に 'パスワードをリセットするにはどうすればいいですか?' を含む行を追加して。

  • 'llm_benchmarks' データセットを探して、価格に関するプロンプトの新しい正解データを追加して。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

一度接続すれば、あとは指示するだけ

アカウントを一度連携するだけで準備完了です。認証情報は暗号化されて保護されるため、すぐにAIクライアントからデータセットの管理を開始できます。

BraintrustをAIに接続する

FAQ

動作に関する詳細

  • 01

    AIはデータセットから行を削除できますか?

    いいえ。AIができることはデータの取得と新しい行の挿入のみです。既存のデータを削除したり、内容を書き換えたりすることはできません。

  • 02

    どのテストケースが正しいかをAIが自動的に判断しますか?

    いいえ。AIは正解データの候補を提示できますが、評価セットに実際に反映させるかどうかを決定するのはユーザーです。

  • 03

    これを使って評価(Evaluation)を実行できますか?

    いいえ。このコネクターの目的はデータセット内のデータを管理することであり、評価プロセスそのものを実行するためのものではありません。

  • 04

    事前にデータをCSV形式にする必要がありますか?

    いいえ。新しいテストケースを自然な言葉で説明するだけで、AIがデータセットに適した形式に整えます。

  • 05

    既存の行に誤りを見つけた場合、AIで更新できますか?

    いいえ。現在のツールでは新しい行の挿入のみが可能です。誤りを修正するには、修正版を新しく追加するか、BraintrustのUIから直接操作してください。

  • Braintrustに関するその他の質問 Braintrust Connectorの全機能を見る

『Braintrust』を Claude、Cursor、ChatGPT などに接続