AIを活用してLLMのトークンコストをリアルタイムで把握する方法

エージェントが query_llm_costs ツールを使用し、New Relicのテレメトリからリアルタイムのドル消費データを直接取得します。モデル別、サービス別、または期間を指定して詳細な内訳を尋ねることで、予算がどこに使われているかを正確に把握できます。

1. 01

   テレメトリの取得

   エージェントがNew Relic環境にアクセスし、関連するLLMのパフォーマンスおよびコスト指標を探します。

   query_llm_costs
2. 02

   ドル合計額の算出

   取得した生のトークン数に、指定された料金モデルを適用して、合計のドル支出額を算出します。

   query_llm_costs
3. 03

   モデル別のフィルタリング

   本番環境やテスト環境で使用されている特定のLLMに絞って、コストを抽出します。

   query_llm_costs
4. 04

   結果のレポート

   最終的なコスト数値を、チャットウィンドウ上で読みやすい形式で提示します。

   query_llm_costs

New Relic AI Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcpコピー

Claude Desktop

以下の手順で数秒で接続できます。

1. 1In Claude Desktop, open Settings → Connectors.
2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3. 3Click Add and start a new chat — New Relic AI capabilities are ready to use.

設定 · claude_desktop_config.jsonコピー

{
  "mcpServers": {
    "new-relic-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp"
    }
  }
}

• Claude
• ChatGPT
• Cursor
• VS Code
• Windsurf
• Claude Code
• JetBrains
• Cline

アカウントの連携は一度だけで完了します。認証情報は暗号化されて安全に保持され、対応するあらゆるクライアントからすぐにコストの照会を開始できます。

• 01

  AIがNew Relicの設定を変更することはありますか？

  いいえ。エージェントはコストと使用量のデータを読み取ることはできますが、New Relicの設定やアラート設定を変更することはできません。

• 02

  AIはトークンごとの具体的な単価を把握していますか？

  はい。New Relicのテレメトリに含まれる料金データを使用して、ドル建ての金額を算出します。

• 03

  AIが古いテレメトリデータを削除することはありますか？

  いいえ。エージェントには、New Relicアカウント内のデータを削除または改ざんする権限はありません。

• 04

  特定のAPIキーごとのコストを尋ねることはできますか？

  はい。New Relicのテレメトリにそれらの属性が含まれていれば、エージェントはその属性でフィルタリング可能です。

• 05

  予算を超過した場合、AIが自動的にサービスを停止してくれますか？

  いいえ。エージェントはコストを報告するだけです。サービスの自動スケーリングや停止ポリシーについては、ご自身のインフラ側で設定する必要があります。

• New Relic AIについて他に質問がありますか？ New Relic AI Connectorの全機能を見る