• LATENCE
  • ÉVÉNEMENTS
  • CAUSE RACINE
  • HUMAIN

Déboguer les pics de latence LLM avec votre IA

Connectez New Relic AI à votre agent pour identifier précisément les appels de modèles qui ralentissent votre application.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment savoir pourquoi mes appels LLM sont lents ?

Votre agent extrait les métriques de latence et les journaux d'événements pour isoler les appels responsables des délais. Vous obtenez une analyse des goulots d'étranglement et les données d'événements spécifiques qui y sont liées.

Résultats de l'analyse

Où vos données sont traitées.

L'IA organise vos données d'observabilité en catégories exploitables.

LATENCE

Identifier les appels lents

L'agent utilise les métriques de latence pour repérer les anomalies. Vous voyez quels appels de modèles dépassent vos seuils.

ÉVÉNEMENTS

Tracer les erreurs

L'agent extrait les données d'événements pour expliquer ce qui s'est passé lors d'un pic. Vous obtenez le contexte nécessaire pour comprendre l'échec.

CAUSE RACINE

Isoler le goulot d'étranglement

L'IA corrèle les données de temps avec les journaux d'événements. Vous déterminez si le délai vient du modèle, du réseau ou de la charge utile.

HUMAIN

Investigation manuelle

L'IA signale les problèmes nécessitant une analyse approfondie sur le tableau de bord New Relic. Vous décidez quand passer du chat à l'interface complète.

Le flux

Ce que fait votre IA lors d'un pic de latence.

L'agent sert de pont entre votre interface de chat et votre télémétrie New Relic.

  1. Scanner les délais

    L'agent analyse votre télémétrie récente pour détecter les pics de temps de réponse.

    query_llm_latency

  2. Inspecter les logs

    Il extrait les données d'événements spécifiques liées à ces horodatages lents.

    query_llm_events

  3. Corréler les données

    L'agent compare les mesures de latence aux détails des événements pour identifier des schémas.

    query_llm_latencyquery_llm_events

  4. Résumer les résultats

    L'agent présente une liste claire des appels fautifs et de leur impact.

    query_llm_latency

Essayez

Copiez ces commandes pour commencer.

Utilisez ces prompts pour lancer votre investigation.

Points de départ

Remplacez le texte entre crochets par vos noms de services ou vos plages horaires spécifiques.

New Relic AI Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — New Relic AI capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "new-relic-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp"
    }
  }
}
Copiez dans le chat04

  • Montre-moi les pics de latence LLM pour le service production-api durant la dernière heure.

  • Quels appels de modèles spécifiques dans le module 'chat-completion' ont eu la plus haute latence aujourd'hui ?

  • Trouve les données d'événements pour le pic de latence survenu à 10:15.

  • Compare les métriques de latence des appels basés sur GPT avec ceux basés sur Llama dans mes logs récents.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez New Relic AI une fois, puis interrogez.

Une seule connexion donne à votre agent accès à vos données d'observabilité. Vos identifiants restent chiffrés et sécurisés.

Connecter New Relic AI à votre IA

FAQ

Fonctionnement de la tâche.

  • 01

    L'IA peut-elle corriger les problèmes de latence automatiquement ?

    Non. L'IA lit uniquement les données de latence et d'événements pour vous expliquer la situation. Vous devez implémenter la correction dans votre code.

  • 02

    L'IA peut-elle supprimer les anciennes données de télémétrie ?

    Non. L'agent a uniquement la permission de consulter les données, pas de modifier ou de supprimer quoi que ce soit dans New Relic.

  • 03

    L'IA a-t-elle besoin de mes identifiants New Relic ?

    Non. Vous connectez le MCP via Vinkius, qui gère la connexion de manière sécurisée.

  • 04

    Peut-elle voir toutes mes données New Relic ?

    Non. Elle ne peut accéder qu'aux données liées à la latence LLM et aux événements via les outils fournis.

  • 05

    Comment sait-elle quels appels sont lents ?

    Elle utilise l'outil de latence pour scanner les temps de réponse qui dépassent votre seuil de référence habituel.

  • D'autres questions sur New Relic AI ? La page du connecteur y répond. Voir toutes les capacités du connecteur New Relic AI

Connectez New Relic AI à Claude, Cursor, ChatGPT et d'autres