• CUSTO
  • VELOCIDADE
  • AUDITORIA
  • HUMANO

Como monitorar tokens e latência com sua IA

Conecte o LangSmith ao seu agente para transformar dados de traces em respostas claras sobre custo e velocidade.

Pergunte à IA sobre esta página

Resposta rápida

Como posso monitorar o consumo de tokens e o tempo de resposta da minha IA?

Seu agente usa o conector MCP do LangSmith para buscar traces recentes do seu projeto. Isso permite visualizar diretamente a contagem de tokens e o tempo de cada chamada de LLM. Você saberá exatamente onde seu orçamento e sua latência estão sendo aplicados.

Onde seus dados chegam.

O que você extrai dos seus traces.

A IA processa seus dados do LangSmith para destacar tendências de desempenho.

CUSTO

Detalhamento de tokens

A IA identifica quais chamadas estão consumindo seu orçamento de tokens. Você terá uma visão clara dos padrões de consumo em diferentes execuções.

VELOCIDADE

Análise de latência

Descubra quais etapas específicas da sua cadeia estão atrasando o processo. O agente sinaliza chamadas com alta latência para sua investigação.

AUDITORIA

Histórico de traces

O agente busca uma lista de execuções recentes para que você possa auditar interações específicas. Isso ajuda a verificar se seus prompts estão agindo como esperado.

HUMANO

Otimização manual

A IA identifica os gargalos, mas você decide como reescrever prompts ou trocar modelos para corrigi-los. Você mantém o controle sobre as mudanças de lógica.

O fluxo

O que sua IA faz quando a tarefa chega.

O agente atua como uma ponte entre sua interface de chat e os dados do seu projeto no LangSmith.

  1. Buscar traces

    O agente acessa seu projeto no LangSmith para coletar os dados de execução mais recentes.

    langsmith_list_runs

  2. Calcular custos

    Ele analisa os metadados de tokens nessas execuções para somar o uso de chamadas específicas.

    langsmith_list_runs

  3. Medir tempo

    O agente compara os registros de início e fim para descobrir quanto tempo cada etapa levou.

    langsmith_list_runs

  4. Relatar descobertas

    O agente resume as execuções mais caras ou lentas para que você possa agir sobre elas.

    langsmith_list_runs

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar sua análise.

Pontos de partida

Substitua os nomes dos projetos e os períodos de tempo para corresponder à sua configuração real no LangSmith.

LangSmith Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_JBueIzhraYvzf2S9aR0UP9Q6bjldfIBgmwxTvRHt/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LangSmith capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "langsmith-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_JBueIzhraYvzf2S9aR0UP9Q6bjldfIBgmwxTvRHt/mcp"
    }
  }
}
Copie no chat04

  • Liste as execuções mais recentes do meu projeto 'production-agent' no LangSmith.

  • Quais dos traces recentes no meu projeto 'test-suite' tiveram o maior uso de tokens?

  • Mostre-me a latência das últimas cinco execuções no meu projeto 'chatbot-v2'.

  • Encontre execuções no meu 'eval-project' que levaram mais de 5 segundos para concluir.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o LangSmith uma vez e comece a perguntar.

Basta fornecer suas credenciais do LangSmith uma única vez. Sua conexão permanece criptografada e você pode começar imediatamente a perguntar ao seu agente sobre seus traces.

Conectar LangSmith à sua IA

FAQ

Como esta tarefa funciona.

  • 01

    A IA pode alterar minhas configurações do LangSmith?

    Não. A IA só pode ler dados de traces. Ela não pode modificar seus projetos ou configurações no LangSmith.

  • 02

    A IA deleta algum dos meus traces?

    Não. A IA tem permissão apenas para listar e ler execuções. Ela não pode deletar ou editar seu histórico.

  • 03

    Posso ver o prompt exato usado em um trace?

    Sim, o agente pode extrair os dados de entrada e saída dos traces que ele recupera.

  • 04

    Quão recentes são os dados que a IA visualiza?

    A IA visualiza as execuções recentes que estiverem disponíveis no seu projeto LangSmith, conforme sua solicitação.

  • 05

    A IA pode corrigir minhas chamadas de LLM lentas?

    Não. A IA pode identificar quais chamadas estão lentas, mas você deve ajustar manualmente seu código ou prompts para corrigi-las.

  • Mais dúvidas sobre o LangSmith? A página do conector responde. Veja tudo o que o conector MCP do LangSmith pode fazer

Conecte LangSmith ao Claude, Cursor, ChatGPT e outros