- コスト
- 速度
- 傾向
- 判断
すぐに答え
AIを使ってLLMのトークン使用量とレイテンシを追跡するには?
エージェントがDatadog AIコネクターを使用して数値テレメトリを照会します。チャットインターフェースを通じて、トークン数やモデルのレイテンシ指標に直接アクセス可能です。以下の内訳で、エージェントがどのようにリクエストを処理するかを確認できます。
取得できる結果
データの活用方法
エージェントがDatadogから特定のメトリクスを取得し、会話の中に持ち込みます。
コスト
トークン使用量の追跡
エージェントがテレメトリからトークン数を取得します。各モデル呼び出しにどれだけのコストがかかっているかを正確に把握できます。
速度
レイテンシの監視
エージェントがレスポンスタイムのデータを取得します。どのモデル呼び出しに遅延が発生しているかを特定できます。
傾向
履歴分析
エージェントが過去のメトリクスを照会します。モデルのパフォーマンスが時間の経過とともにどのように変化したかを確認できます。
判断
手動での意思決定
エージェントが数値を提供します。それに基づき、プロンプトの変更やモデルの切り替えが必要かどうかを判断するのはあなた自身です。
ワークフロー
データ取得後のAIの動き
エージェントは、チャットとDatadogメトリクスの間のインターフェースとして機能します。
メトリクスの取得
エージェントがDatadog内で、リクエストされた特定の数値テレメトリを検索します。
query_metrics使用量の分析
エージェントがトークン数を処理し、明確な合計値を算出します。
query_metricsレイテンシの確認
エージェントがレスポンスタイムのデータを取得し、モデル呼び出しの遅延を特定します。
query_metricsデータのレポート
エージェントがリクエストされた数値をチャットウィンドウに直接表示します。
query_metrics
試してみる
以下のプロンプトをコピーして開始
これらのプロンプトを使って、モデルの監視を開始しましょう。
出発点
これらは開始用のフレーズです。実際のDatadogの設定に合わせて、メトリクス名や期間を適宜書き換えてください。
Datadog Connector
準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。
https://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcpClaude Desktop
以下の手順で数秒で接続できます。
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — Datadog capabilities are ready to use.
{
"mcpServers": {
"datadog-ai-llm-observability-mcp": {
"url": "https://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp"
}
}
}過去24時間のLLMサービスの合計トークン使用量は?
今朝のプロダクションモデルの平均レイテンシを教えてください。
過去1時間で、エージェントのトークン消費量に急増(スパイク)はありましたか?
昨日と今日のモデル呼び出しのレイテンシを比較してください。
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
ここから始める
Datadog AIを一度接続すれば、あとは聞くだけです。
ワンクリックでアカウントを接続できます。認証情報は弊社側で暗号化して保持されるため、すぐにメトリクスの照会を開始できます。
Datadog AIをAIに接続するFAQ
動作に関する詳細
- 01
AIがDatadogのアラートを変更することはできますか?
いいえ。エージェントは数値テレメトリを読み取ることはできますが、Datadogの設定やアラートを変更することはできません。
- 02
AIがメトリクスを削除することはできますか?
いいえ。エージェントは読み取り専用です。データを削除したり変更したりすることはできません。
- 03
LLM以外のメトリクスも監視できますか?
はい。Datadog内で数値メトリクスとして存在していれば、エージェントはその照会が可能です。
- 04
AIがDatadogのダッシュボードを作成することはできますか?
いいえ。エージェントはチャット内でデータを提供しますが、Datadog上でダッシュボードを作成したり編集したりすることはできません。
- 05
エージェントはどのようにして正しいデータを見つけるのですか?
エージェントは、プロンプト内で指定されたメトリクス名を使用して、該当するテレメトリを検索します。
Datadog AIについてさらに詳しく知りたいですか? Datadog AIコネクターの全機能を見る
『Datadog』を Claude、Cursor、ChatGPT などに接続
