• COSTO
  • VELOCIDAD
  • TENDENCIAS
  • HUMANO

Cómo monitorear el uso de tokens de LLM con tu IA

Conecta Datadog AI a tu agente. Una vez conectado, podrás pedirle a tu agente que extraiga datos de telemetría específicos de tu cuenta de Datadog.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo rastrear el uso de tokens y la latencia de LLM con mi IA?

Tu agente utiliza el conector de Datadog AI para consultar telemetría numérica. Tendrás acceso directo al conteo de tokens y a las métricas de latencia de los modelos mediante tu interfaz de chat. Este desglose muestra cómo el agente gestiona estas solicitudes.

Los resultados que obtienes.

Dónde aterrizan tus datos.

El agente extrae métricas específicas de Datadog y las integra en tu conversación.

COSTO

Seguimiento de tokens

El agente extrae el conteo de tokens de tu telemetría. Verás exactamente cuánto te cuesta cada llamada al modelo.

VELOCIDAD

Monitoreo de latencia

El agente recupera los tiempos de respuesta. Podrás identificar qué llamadas al modelo presentan retrasos.

TENDENCIAS

Análisis histórico

El agente consulta métricas pasadas. Obtendrás una visión de cómo ha evolucionado el rendimiento de tu modelo.

HUMANO

Decisiones manuales

El agente te entrega los números. Tú decides si necesitas ajustar tus prompts o cambiar de modelo.

El flujo

Lo que hace tu IA cuando llegan los datos.

El agente actúa como la interfaz entre tu chat y tus métricas de Datadog.

  1. Obtener métricas

    El agente busca la telemetría numérica específica que solicitaste en Datadog.

    query_metrics
  2. Analizar uso

    El agente procesa el conteo de tokens para darte un total claro.

    query_metrics
  3. Verificar latencia

    El agente extrae los tiempos de respuesta para encontrar retrasos en las llamadas al modelo.

    query_metrics
  4. Reportar datos

    El agente entrega los números solicitados directamente en tu ventana de chat.

    query_metrics

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para comenzar a monitorear tus modelos.

Puntos de partida

Estas son frases iniciales. Cambia los nombres de las métricas o los rangos de tiempo para que coincidan con tu configuración de Datadog.

Datadog Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Datadog capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "datadog-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp"
    }
  }
}
Copia en el chat04
  • ¿Cuál fue el uso total de tokens de mi servicio LLM en las últimas 24 horas?

  • Muéstrame la latencia promedio de mi modelo de producción de esta mañana.

  • ¿Hubo picos en el consumo de tokens del agente en la última hora?

  • Compara la latencia de mis llamadas al modelo entre ayer y hoy.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta Datadog AI una vez y luego pregunta.

Conecta tu cuenta con un solo clic. Tus credenciales permanecen cifradas en nuestro lado y podrás consultar métricas de inmediato.

Conectar Datadog AI a tu IA

FAQ

Cómo funciona esta tarea.

  • 01

    ¿Puede la IA cambiar mis alertas de Datadog?

    No. El agente solo puede leer telemetría numérica. No puede modificar tus configuraciones o alertas de Datadog.

  • 02

    ¿Puede la IA borrar mis métricas?

    No. El agente es de solo lectura. No tiene forma de borrar o cambiar tus datos.

  • 03

    ¿Puedo monitorear métricas que no sean de LLM?

    Sí. Si el dato es una métrica numérica en Datadog, el agente puede consultarla.

  • 04

    ¿La IA crea dashboards en Datadog?

    No. El agente proporciona datos en tu chat, pero no puede construir ni editar dashboards en Datadog.

  • 05

    ¿Cómo encuentra el agente los datos correctos?

    El agente utiliza los nombres de las métricas que incluyas en tu prompt para localizar la telemetría adecuada.

  • ¿Tienes más dudas sobre Datadog AI? Ver todo lo que puede hacer el conector de Datadog AI

Conecta Datadog a Claude, Cursor, ChatGPT y más