• COSTO
  • VELOCIDAD
  • AUDITORÍA
  • HUMANO

Cómo medir el uso de tokens y latencia con tu IA

Conecta LangSmith a tu agente para convertir los datos de las trazas en respuestas claras sobre costos y velocidad.

Pregunta a la IA sobre esta página

Respuesta rápida

¿Cómo puedo monitorear el consumo de tokens y los tiempos de respuesta de mi IA?

Tu agente utiliza el conector de LangSmith para extraer las trazas más recientes de tu proyecto. Esto te permite ver directamente el conteo de tokens y los tiempos de cada llamada al LLM. Sabrás exactamente en qué se gastan tu presupuesto y tu latencia.

Dónde aterrizan tus datos.

Lo que obtienes de tus trazas.

La IA procesa tus datos de LangSmith para resaltar tendencias de rendimiento.

COSTO

Desglose de uso de tokens

La IA identifica qué llamadas consumen más de tu presupuesto de tokens. Obtienes una visión clara de los patrones de consumo en diferentes ejecuciones.

VELOCIDAD

Análisis de latencia

Descubre qué pasos específicos de tu cadena están ralentizando el proceso. El agente marca las llamadas con alta latencia para que las investigues.

AUDITORÍA

Historial de trazas

El agente extrae una lista de ejecuciones recientes para que audites interacciones específicas. Esto ayuda a verificar que tus prompts funcionen como esperas.

HUMANO

Optimización manual

La IA identifica los cuellos de botella, pero tú decides cómo reescribir los prompts o cambiar los modelos. Mantienes el control total sobre los cambios de lógica.

El flujo

Lo que hace tu IA cuando llega la información.

El agente actúa como un puente entre tu interfaz de chat y los datos de tu proyecto en LangSmith.

  1. Obtener trazas

    El agente accede a tu proyecto de LangSmith para extraer los datos de ejecución más recientes.

    langsmith_list_runs
  2. Calcular costos

    Analiza los metadatos de tokens en esas ejecuciones para sumar el uso de llamadas específicas.

    langsmith_list_runs
  3. Medir tiempos

    El agente compara las marcas de tiempo de inicio y fin para determinar cuánto tardó cada paso.

    langsmith_list_runs
  4. Reportar hallazgos

    El agente resume las ejecuciones más costosas o lentas para que puedas tomar medidas.

    langsmith_list_runs

Pruébalo

Copia estos ejemplos para empezar.

Usa estos prompts para iniciar tu análisis.

Puntos de partida

Cambia los nombres de los proyectos y los periodos de tiempo para que coincidan con tu configuración de LangSmith.

LangSmith Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_JBueIzhraYvzf2S9aR0UP9Q6bjldfIBgmwxTvRHt/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LangSmith capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "langsmith-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_JBueIzhraYvzf2S9aR0UP9Q6bjldfIBgmwxTvRHt/mcp"
    }
  }
}
Copia en el chat04
  • Lista las ejecuciones más recientes de mi proyecto 'production-agent' en LangSmith.

  • ¿Cuáles de las trazas recientes en mi proyecto 'test-suite' tuvieron el mayor uso de tokens?

  • Muéstrame la latencia de las últimas cinco ejecuciones en mi proyecto 'chatbot-v2'.

  • Busca cualquier ejecución en mi 'eval-project' que haya tardado más de 5 segundos en completarse.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Empieza aquí

Conecta LangSmith una vez y luego pregunta.

Solo necesitas proporcionar tus credenciales de LangSmith una vez. La conexión se mantiene cifrada y podrás empezar a preguntar a tu agente sobre tus trazas de inmediato.

Conectar LangSmith a tu IA

FAQ

Cómo funciona esta tarea.

  • 01

    ¿Puede la IA cambiar mi configuración de LangSmith?

    No. La IA solo puede leer datos de trazas. No puede modificar tus proyectos ni configuraciones de LangSmith.

  • 02

    ¿La IA borra alguna de mis trazas?

    No. La IA solo tiene permiso para listar y leer ejecuciones. No puede borrar ni editar tu historial.

  • 03

    ¿Puedo ver el prompt exacto usado en una traza?

    Sí, el agente puede extraer los datos de entrada y salida de las trazas que recupera.

  • 04

    ¿Qué tan recientes son los datos que ve la IA?

    La IA ve las ejecuciones recientes que estén disponibles en tu proyecto de LangSmith según lo solicites.

  • 05

    ¿Puede la IA arreglar mis llamadas lentas al LLM?

    No. La IA puede identificar qué llamadas son lentas, pero tú debes ajustar manualmente tu código o tus prompts para solucionarlo.

  • ¿Más preguntas sobre LangSmith? La página del conector tiene las respuestas. Ver todo lo que puede hacer el conector de LangSmith

Conecta LangSmith a Claude, Cursor, ChatGPT y más