• CUSTO
  • VELOCIDADE
  • TENDÊNCIAS
  • HUMANO

Como monitorar o uso de tokens de LLM com sua IA

Conecte o Datadog AI ao seu agente. Após a conexão, você pode pedir para ele extrair dados de telemetria específicos da sua conta Datadog.

Pergunte à IA sobre esta página

Resposta rápida

Como posso acompanhar o uso de tokens e a latência de LLM com minha IA?

Seu agente utiliza o conector Datadog AI para consultar telemetria numérica. Você terá acesso direto à contagem de tokens e métricas de latência do modelo pela interface de chat. Este detalhamento mostra como o agente processa essas solicitações.

Os resultados que você recebe.

Onde seus dados aparecem.

O agente extrai métricas específicas do Datadog e as traz para a sua conversa.

CUSTO

Rastreio de tokens

O agente busca a contagem de tokens na sua telemetria. Você verá exatamente quanto cada chamada de modelo está custando.

VELOCIDADE

Monitoramento de latência

O agente recupera dados de tempo de resposta. Você consegue identificar quais chamadas de modelo estão lentas.

TENDÊNCIAS

Análise histórica

O agente consulta métricas passadas. Você visualiza como a performance do seu modelo mudou ao longo do tempo.

HUMANO

Decisões manuais

O agente fornece os números. Você decide se precisa ajustar seus prompts ou trocar de modelo.

O fluxo

O que sua IA faz quando os dados chegam.

O agente funciona como a interface entre seu chat e suas métricas do Datadog.

  1. Buscar métricas

    O agente localiza a telemetria numérica específica que você solicitou no Datadog.

    query_metrics

  2. Analisar uso

    O agente processa a contagem de tokens para te entregar um total claro.

    query_metrics

  3. Verificar latência

    O agente extrai dados de tempo de resposta para encontrar atrasos nas chamadas do modelo.

    query_metrics

  4. Relatar dados

    O agente entrega os números solicitados diretamente na sua janela de chat.

    query_metrics

Teste

Copie estes exemplos para começar.

Use estes prompts para iniciar o monitoramento dos seus modelos.

Pontos de partida

Estes são exemplos iniciais. Altere os nomes das métricas ou os intervalos de tempo para combinar com sua configuração no Datadog.

Datadog Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Datadog capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "datadog-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp"
    }
  }
}
Copie no chat04

  • Qual foi o uso total de tokens do meu serviço de LLM nas últimas 24 horas?

  • Mostre a latência média do meu modelo de produção nesta manhã.

  • Houve algum pico no consumo de tokens do agente na última hora?

  • Compare a latência das chamadas do meu modelo entre ontem e hoje.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o Datadog AI uma vez e comece a perguntar.

Conecte sua conta com um clique. Suas credenciais ficam criptografadas do nosso lado e você pode consultar métricas imediatamente.

Conectar Datadog AI à sua IA

FAQ

Como funciona esta tarefa.

  • 01

    A IA pode alterar meus alertas do Datadog?

    Não. O agente só consegue ler telemetria numérica. Ele não pode modificar suas configurações ou alertas no Datadog.

  • 02

    A IA pode excluir minhas métricas?

    Não. O agente tem acesso apenas de leitura. Ele não tem como excluir ou alterar seus dados.

  • 03

    Posso monitorar métricas que não sejam de LLM?

    Sim. Se o dado for uma métrica numérica no Datadog, o agente pode consultá-lo.

  • 04

    A IA cria dashboards no Datadog?

    Não. O agente fornece os dados no chat, mas não consegue construir ou editar dashboards no Datadog.

  • 05

    Como o agente encontra os dados corretos?

    O agente utiliza os nomes das métricas que você fornece no prompt para localizar a telemetria certa.

  • Mais dúvidas sobre o Datadog AI? Veja tudo o que o conector Datadog AI pode fazer

Conecte Datadog ao Claude, Cursor, ChatGPT e outros