• バージョン管理
  • 感情分析
  • 最適化
  • 人間による判断

AIでプロンプトのバージョンを分析し、最適な指示を導き出す方法

HeliconeをAIクライアントに接続すれば、ログを価値あるインサイトに変えられます。指示文の変更がユーザー満足度にどう影響したか、その詳細を可視化しましょう。

このページについてAIに聞く

すぐに答え

プロンプトの変更とフィードバックを比較するには?

AIが特定のプロンプトのバージョンとそれに関連するユーザーフィードバックを抽出して、パフォーマンスの傾向を分析します。どの言い回しがより良い回答を引き出すのか、ピンポイントで特定できます。

分析結果の活用先

分析によって得られる成果

AIがHeliconeのデータを以下のカテゴリに整理します。

バージョン管理

プロンプトの履歴

AIがプロンプトのすべての変更履歴を特定します。指示文が時間の経過とともにどのように進化してきたかを明確に把握できます。

感情分析

フィードバックとの相関

ユーザーのフィードバックと、使用されたプロンプトのバージョンを直接紐付けます。どのバージョンが好まれ、どれが不評だったかが一目でわかります。

最適化

成功パターンの特定

AIが最も成功したプロンプトのパターンを抽出します。次回のバージョン作成時に、どの要素を残すべきかが明確になります。

人間による判断

手動レビューの補助

フィードバックが矛盾しているような例外的なケースをAIがフラグ立てします。微調整で済むのか、根本的な書き直しが必要なのかを判断できます。

ワークフロー

データ受信後のAIの動き

膨大なログの調査はAIに任せて、あなたは意思決定に集中してください。

  1. プロンプト履歴の取得

    ログから、プロンプトの各バージョンのテキストとメタデータをAIが抽出します。

    get_prompt_versions
  2. ユーザーフィードバックの取得

    該当する実行ログに対して、ユーザーが残した評価やコメントをAIが検索します。

    query_feedback
  3. データの照合

    プロンプトの内容とフィードバックのスコアを紐付け、両者の統計的な関連性を導き出します。

    get_prompt_versionsquery_feedback
  4. 分析結果の要約

    プロンプトのどの変更がユーザー満足度の向上に寄与したのか、比較結果を分かりやすく提示します。

    query_feedback

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使って、すぐに分析を始められます。

出発点

これらは例です。実際のHeliconeの設定に合わせて、プロンプト名やフィードバックの種類を書き換えて使用してください。

Helicone Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_BY11i3Opi4Qq9KtIJUGQpInAaXPfnwFfbeNDvYuq/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Helicone capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "helicone-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_BY11i3Opi4Qq9KtIJUGQpInAaXPfnwFfbeNDvYuq/mcp"
    }
  }
}
チャットにコピー04
  • 直近のユーザーフィードバックを用いて、'customer_support_v2' と 'customer_support_v1' のプロンプトを比較してください。

  • 先週、ユーザーから低い評価を受けたすべてのプロンプトのバージョンを教えてください。

  • 'creative_writer' プロンプトのフィードバックを分析し、ユーザーの評価が低い理由を特定してください。

  • Heliconeのログの中で、平均ユーザー評価が最も高いプロンプトのバージョンはどれですか?

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

Heliconeを接続するだけで、すぐに質問できます

Heliconeアカウントを連携するだけです。認証情報は暗号化されて保護されるため、安全にログの分析を開始できます。

HeliconeをAIに接続する

FAQ

機能の詳細について

  • 01

    AIがHelicone内のプロンプトを直接変更することはありますか?

    いいえ。AIができるのはプロンプトのバージョンとフィードバックの読み取りのみです。プロンプトの更新は、ご自身のコードまたはHeliconeのダッシュボードから手動で行う必要があります。

  • 02

    AIが古いプロンプトのバージョンを削除することはありますか?

    いいえ。AIにはHeliconeアカウント内のデータを削除したり、変更したりする権限はありません。

  • 03

    AIはすべてのLLMトラフィックを閲覧していますか?

    いいえ。AIが閲覧できるのは、提供された特定のツール(プロンプトのバージョンやフィードバックなど)を通じて取得を指示されたデータのみです。

  • 04

    特定のユーザーIDについて質問することはできますか?

    はい。そのユーザーのフィードバックが query_feedback ツールを通じて取得可能なものであれば可能です。

  • 05

    どのフィードバックがどのプロンプトに対応するか、AIはどうやって判断していますか?

    Heliconeが提供する一意の識別子を使用して、特定のプロンプトのバージョンと、その実行時に記録されたフィードバックを正確に紐付けます。

  • Heliconeに関するその他の質問は、Connectorのページで確認できます。 Helicone Connectorの全機能を見る

『Helicone』を Claude、Cursor、ChatGPT などに接続