• LATENZ
  • EREIGNISSE
  • URSACHE
  • MANUELL

LLM-Latenzspitzen mit New Relic AI analysieren

Verbinden Sie New Relic AI mit Ihrem Agenten, um genau zu bestimmen, welche Modellaufrufe Ihre Anwendung verlangsamen.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie finde ich heraus, warum meine LLM-Aufrufe langsam sind?

Ihr Agent ruft Latenzmetriken und Ereignisprotokolle ab, um die genauen Ursachen für Verzögerungen zu finden. Sie erhalten eine Analyse der Performance-Engpässe und der dazugehörigen Ereignisdaten.

Untersuchungsergebnisse

Wo Ihre Daten landen.

Die KI ordnet Ihre Observability-Daten in handlungsorientierte Kategorien ein.

LATENZ

Langsame Aufrufe identifizieren

Der Agent nutzt Latenzmetriken, um Ausreißer zu finden. Sie sehen sofort, welche Modellabfragen Ihre Schwellenwerte überschreiten.

EREIGNISSE

Spezifische Fehler zurückverfolgen

Der Agent ruft Ereignisdaten ab, um den Ablauf während eines Spikes zu zeigen. Sie erhalten den nötigen Kontext zum Fehler.

URSACHE

Engpässe lokalisieren

Die KI korreliert Zeitdaten mit Ereignisprotokollen. Sie finden heraus, ob die Verzögerung im Modell, im Netzwerk oder am Payload liegt.

MANUELL

Manuelle Untersuchung

Die KI markiert Probleme, die eine tiefergehende Analyse im New Relic Dashboard erfordern. Sie entscheiden, wann Sie vom Chat zum Dashboard wechseln.

Der Ablauf

Was Ihre KI tut, wenn eine Latenzspitze auftritt.

Der Agent fungiert als Brücke zwischen Ihrem Chat-Interface und Ihren New Relic Telemetriedaten.

  1. Verzögerungen scannen

    Der Agent prüft Ihre aktuellen Telemetriedaten auf Spitzen bei den Antwortzeiten.

    query_llm_latency

  2. Protokolle prüfen

    Er ruft die spezifischen Ereignisdaten ab, die mit den langsamen Zeitstempeln verknüpft sind.

    query_llm_events

  3. Daten korrelieren

    Der Agent gleicht Latenzwerte mit den Ereignisdetails ab, um Muster zu erkennen.

    query_llm_latencyquery_llm_events

  4. Ergebnisse zusammenfassen

    Der Agent erstellt eine klare Liste der problematischen Aufrufe und deren Auswirkungen.

    query_llm_latency

Probieren Sie es

Kopieren Sie diese Vorlagen.

Nutzen Sie diese Prompts, um Ihre Untersuchung zu starten.

Startpunkte

Ersetzen Sie den Text in Klammern durch Ihre spezifischen Servicenamen oder Zeiträume.

New Relic AI Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — New Relic AI capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "new-relic-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp"
    }
  }
}
In den Chat kopieren04

  • Zeige mir die LLM-Latenzspitzen für den Service 'production-api' aus der letzten Stunde.

  • Welche spezifischen Modellaufrufe im Modul 'chat-completion' hatten heute die höchste Latenz?

  • Finde die Ereignisdaten für die Latenzspitze, die um 10:15 Uhr aufgetreten ist.

  • Vergleiche die Latenzmetriken der GPT-basierten Aufrufe mit den Llama-basierten Aufrufen in meinen aktuellen Protokollen.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal verbinden, dann fragen.

Eine einzige Verbindung gibt Ihrem Agenten Zugriff auf Ihre Observability-Daten. Ihre Zugangsdaten bleiben verschlüsselt und sicher.

New Relic AI mit Ihrer KI verbinden

FAQ

Funktionsweise der Aufgabe.

  • 01

    Kann die KI Latenzprobleme automatisch beheben?

    Nein. Die KI liest nur Latenz- und Ereignisdaten, um Ihnen zu erklären, was passiert ist. Die Behebung muss Sie in Ihrem Code selbst implementieren.

  • 02

    Kann die KI alte Telemetriedaten löschen?

    Nein. Der Agent hat nur die Berechtigung, Daten abzufragen, nicht aber, Daten in New Relic zu ändern oder zu löschen.

  • 03

    Benötigt die KI meine New Relic-Zugangsdaten?

    Nein. Sie verbinden den MCP über Vinkius, was die Verbindung sicher verwaltet.

  • 04

    Kann die KI alle meine New Relic-Daten sehen?

    Nein. Sie kann nur auf Daten zugreifen, die über die bereitgestellten Tools mit der LLM-Latenz und den Ereignissen zusammenhängen.

  • 05

    Woher weiß die KI, welche Aufrufe langsam sind?

    Sie nutzt das Latenz-Tool, um nach Antwortzeiten zu suchen, die über Ihren normalen Basiswerten liegen.

  • Weitere Fragen zu New Relic AI? Die Connector-Seite liefert Antworten. Alle Funktionen des New Relic AI Connectors ansehen

Verbinde New Relic AI mit Claude, Cursor, ChatGPT & mehr