• LATENZ
  • FEHLER
  • PAYLOADS
  • MENSCH

LLM-Latenz und Fehler mit Portkey und KI debuggen

Verbinden Sie Portkey mit Ihrem Agenten, um Live-Gateway-Logs abzurufen. So finden Sie genau heraus, wo Anfragen stocken oder fehlschlagen.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie finde ich heraus, warum meine KI-Aufrufe langsam sind oder fehlschlagen?

Ihr Agent nutzt die Portkey-Gateway-Logs, um Anfragen mit hoher Latenz und spezifische Fehlercodes zu identifizieren. Er kann eine Liste aktueller Logs abrufen oder tief in die Details eines einzelnen fehlgeschlagenen Aufrufs eintauchen, um Ihnen den exakten Payload und die Antwort zu zeigen. Sie sehen sofort, was schiefgelaufen ist, ohne Ihren Chat verlassen zu müssen.

Debugging-Ergebnisse

Wo Ihre Debugging-Daten landen.

Die KI sortiert Log-Daten in nutzbare Kategorien.

LATENZ

Langsame Aufrufe finden

Die KI scannt aktuelle Logs nach Anfragen, die Ihre erwartete Antwortzeit überschritten haben. Sie erhalten eine Liste der spezifischen Endpunkte, die die Verzögerung verursachen.

FEHLER

Fehlgeschlagene Anfragen lokalisieren

Die KI ruft die genauen Fehlermeldungen und Statuscodes für fehlgeschlagene Aufrufe ab. So erkennen Sie, ob es ein Model-Timeout oder ein fehlerhafter Prompt war.

PAYLOADS

Anfragedetails prüfen

Die KI ruft den vollständigen Inhalt eines Log-Eintrags ab. Sie können den exakten Input prüfen, der an das Modell gesendet wurde, sowie den rohen Output.

MENSCH

Manuelle Korrektur

Die KI erkennt Fehlermuster, kann aber Ihren Code nicht selbst reparieren oder Modelleinstellungen ändern. Die Korrekturen müssen Sie direkt in Ihrer Anwendung vornehmen.

Der Ablauf

Was Ihre KI tut, wenn eine Anfrage fehlschlägt.

Der Agent fungiert als Brücke zwischen Ihrem Chat und dem Portkey-Gateway.

  1. Aktuelle Aktivitäten scannen

    Der Agent durchsucht den neuesten Gateway-Traffic nach problematischen Einträgen.

    list_logs

  2. Problem isolieren

    Sobald ein langsamer oder fehlgeschlagener Aufruf gefunden wurde, ruft der Agent die spezifischen Daten für dieses Ereignis ab.

    get_log_details

  3. Fehler analysieren

    Der Agent liest die Fehlermeldung und den Request-Payload, um die Ursache des Fehlers zu erklären.

    get_log_details

  4. Ergebnisse zusammenfassen

    Der Agent liefert Ihnen eine klare Erklärung der Latenz oder des Fehlermusters.

    list_logs

Probieren Sie es

Kopieren Sie diese Befehle zum Start.

Nutzen Sie diese Prompts, um sofort mit dem Debugging zu beginnen.

Startpunkte

Passen Sie die Fehlertypen oder Zeiträume an, um präzisere Ergebnisse zu erhalten.

Portkey Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Portkey capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "portkey-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp"
    }
  }
}
In den Chat kopieren04

  • Zeige mir die letzten 10 Logs von Portkey, um nach aktuellen Fehlern zu suchen.

  • Finde die letzte Anfrage, die länger als 5 Sekunden gedauert hat.

  • Rufe die Details für die fehlgeschlagene Anfrage aus den letzten fünf Minuten ab.

  • Liste alle Logs auf, die einen 500er Fehlercode zurückgegeben haben.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal verbinden, dann fragen.

Geben Sie einfach Ihren Portkey-API-Key an. Ihre Zugangsdaten werden verschlüsselt, sodass Sie sofort über Ihren Agenten debuggen können.

Portkey mit Ihrer KI verbinden

FAQ

Verhalten des Portkey-Connectors

  • 01

    Kann die KI Fehler in meinem Code beheben?

    Nein. Die KI kann nur die Logs lesen und erklären, was passiert ist. Die eigentlichen Code-Änderungen müssen Sie in Ihrer eigenen Umgebung vornehmen.

  • 02

    Kann die KI Logs aus Portkey löschen?

    Nein. Die Tools erlauben der KI nur das Lesen und Auflisten von Logs. Sie kann keine Daten in Ihrem Portkey-Konto verändern oder löschen.

  • 03

    Wie aktuell sind die Log-Daten?

    Die KI sieht alles, was über das list_logs-Tool aktuell in Ihren Portkey-Gateway-Logs verfügbar ist.

  • 04

    Kann ich den exakten Prompt sehen, den ich an das Modell gesendet habe?

    Ja. Über das get_log_details-Tool kann die KI den vollständigen Request-Body inklusive Ihrer Prompts abrufen.

  • 05

    Funktioniert das mit jedem KI-Client?

    Ja, sofern Sie einen MCP-kompatiblen Client wie Claude, Cursor oder Windsurf nutzen.

  • Weitere Fragen zu Portkey? Alle Funktionen des Portkey-Connectors ansehen

Verbinde Portkey mit Claude, Cursor, ChatGPT & mehr