AIを活用してLLMのレイテンシ急増をデバッグする方法

エージェントがレイテンシのメトリクスとイベントログを取得し、遅延を引き起こしている正確な呼び出しを特定します。パフォーマンスのボトルネックとその原因となった具体的なイベントデータを詳細に把握できます。

1. 01

   遅延の走査

   エージェントが最新のテレメトリを確認し、レスポンスタイムの急増を検出します。

   query_llm_latency
2. 02

   ログの調査

   遅延が発生したタイムスタンプに関連する特定のイベントデータを取得します。

   query_llm_events
3. 03

   データの照合

   エージェントがレイテンシの数値とイベントの詳細を照らし合わせ、パターンを見つけ出します。

   query_llm_latencyquery_llm_events
4. 04

   調査結果の要約

   エージェントが、問題となった呼び出しとその影響を明確なリストとして提示します。

   query_llm_latency

New Relic AI Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcpコピー

Claude Desktop

以下の手順で数秒で接続できます。

1. 1In Claude Desktop, open Settings → Connectors.
2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3. 3Click Add and start a new chat — New Relic AI capabilities are ready to use.

設定 · claude_desktop_config.jsonコピー

{
  "mcpServers": {
    "new-relic-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp"
    }
  }
}

• Claude
• ChatGPT
• Cursor
• VS Code
• Windsurf
• Claude Code
• JetBrains
• Cline

一度接続するだけで、エージェントがオブザーバビリティデータにアクセスできるようになります。認証情報は暗号化され、安全に管理されます。

• 01

  AIはレイテンシの問題を自動的に修正できますか？

  いいえ。AIはレイテンシとイベントデータを読み取り、何が起きているかを伝えるのみです。コードの修正はユーザー自身が行う必要があります。

• 02

  AIは古いテレメトリデータを削除できますか？

  いいえ。エージェントにはデータのクエリ権限のみが付与されており、New Relic内のデータを変更または削除することはできません。

• 03

  AIを利用するためにNew Relicのログイン情報は必要ですか？

  いいえ。Vinkiusを通じてMCPを接続するため、接続は安全に処理されます。

• 04

  AIはすべてのNew Relicデータにアクセスできますか？

  いいえ。提供されたツールを通じて、LLMのレイテンシおよびイベントに関連するデータにのみアクセス可能です。

• 05

  どの呼び出しが遅いのか、どのように判断しますか？

  レイテンシツールを使用して、通常のベースラインを超えているレスポンスタイムをスキャンします。

• New Relic AIに関するその他の質問は、コネクタのページで確認できます。 New Relic AI Connectorの全機能を見る