• LATÊNCIA
  • ERROS
  • PAYLOADS
  • HUMANO

Como depurar latência e erros de LLM com sua IA

Conecte o Portkey ao seu agente para acessar logs de gateway em tempo real. Assim, você identifica exatamente onde as requisições estão travando ou falhando.

Pergunte à IA sobre esta página

Resposta rápida

Como descubro por que minhas chamadas de IA estão lentas ou falhando?

Seu agente utiliza os logs do gateway Portkey para identificar requisições com alta latência e códigos de erro específicos. Ele pode listar logs recentes ou detalhar uma chamada que falhou, mostrando o payload e a resposta exata. Você resolve o problema sem sair do chat.

Resultados da depuração

Onde os dados de depuração aparecem.

A IA organiza os dados de log em categorias práticas.

LATÊNCIA

Identificar chamadas lentas

A IA varre os logs recentes para encontrar requisições que excederam o tempo de resposta esperado. Você recebe uma lista dos endpoints que estão causando o atraso.

ERROS

Localizar falhas de requisição

A IA extrai as mensagens de erro e os códigos de status das chamadas que falharam. Isso ajuda a entender se o problema é um timeout do modelo ou um prompt malformado.

PAYLOADS

Inspecionar detalhes da requisição

A IA recupera o corpo completo de uma entrada de log específica. Você pode conferir o input exato enviado ao modelo e o output bruto retornado.

HUMANO

Intervenção manual

A IA identifica padrões de falha, mas não pode corrigir seu código ou alterar as configurações do modelo. Você precisará aplicar as correções diretamente na sua aplicação.

O fluxo

O que sua IA faz quando uma requisição falha.

O agente atua como uma ponte entre seu chat e o gateway Portkey.

  1. Escanear atividade recente

    O agente analisa o tráfego mais recente do gateway para encontrar entradas problemáticas.

    list_logs

  2. Isolar o problema

    Ao encontrar uma chamada lenta ou com erro, o agente extrai os dados específicos desse evento.

    get_log_details

  3. Analisar o erro

    O agente lê a mensagem de erro e o payload da requisição para explicar o motivo da falha.

    get_log_details

  4. Resumir descobertas

    O agente apresenta uma explicação clara sobre a latência ou o padrão de erro encontrado.

    list_logs

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar a depuração imediatamente.

Pontos de partida

Altere os tipos de erro ou os intervalos de tempo para obter resultados mais específicos.

Portkey Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Portkey capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "portkey-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp"
    }
  }
}
Copie no chat04

  • Mostre os últimos 10 logs do Portkey para verificar se há erros recentes.

  • Encontre a requisição mais recente que demorou mais de 5 segundos para completar.

  • Pegue os detalhes da requisição que falhou nos últimos cinco minutos.

  • Liste todos os logs que retornaram o código de erro 500.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o Portkey uma vez e comece a perguntar.

Basta fornecer sua chave de API do Portkey. Suas credenciais ficam criptografadas e você pode começar a depurar via agente na hora.

Conectar Portkey à sua IA

FAQ

Como o conector Portkey funciona

  • 01

    A IA pode corrigir os erros no meu código?

    Não. A IA apenas lê os logs e explica o que aconteceu. Você deve fazer as alterações de código no seu próprio ambiente.

  • 02

    A IA pode deletar logs do Portkey?

    Não. As ferramentas permitem apenas que a IA leia e liste os logs. Ela não pode modificar ou excluir nenhum dado da sua conta Portkey.

  • 03

    Quão recentes são os dados dos logs?

    A IA acessa o que estiver disponível nos logs do seu gateway Portkey através da ferramenta list_logs.

  • 04

    Consigo ver o prompt exato que enviei ao modelo?

    Sim. Usando a ferramenta get_log_details, a IA consegue recuperar o corpo completo da requisição, incluindo seus prompts.

  • 05

    Isso funciona com qualquer cliente de IA?

    Sim, desde que você use um cliente compatível com MCP, como Claude, Cursor ou Windsurf.

  • Mais dúvidas sobre o Portkey? Veja tudo o que o conector Portkey pode fazer

Conecte Portkey ao Claude, Cursor, ChatGPT e outros