• GELD
  • NUTZUNG
  • BUDGET
  • MENSCH

LLM-Tokenkosten mit Ihrer KI genau überwachen

Verbinden Sie New Relic AI mit Ihrem Agenten, um Telemetriedaten direkt in klare Dollarbeträge zu verwandeln. Erhalten Sie sofortige Einblicke in die tatsächlichen Kosten Ihrer LLM-Aufrufe.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie kann ich meine LLM-Tokenkosten tracken?

Ihr Agent nutzt das Tool query_llm_costs, um USD-Verbrauchswerte in Echtzeit direkt aus Ihrer New Relic Telemetrie abzurufen. Sie können spezifische Kostenaufstellungen nach Modell, Service oder Zeitraum anfordern, um genau zu sehen, wohin Ihr Budget fließt.

Ergebnisse der Kostenkontrolle.

Wo Ihre Ausgaben landen.

Die KI übersetzt komplexe Telemetrie in nutzbare Finanzdaten.

GELD

Echtzeit-USD-Tracking

Der Agent ruft aktuelle Ausgabendaten aus Ihrer Infrastruktur ab. Sie sehen sofort die finanziellen Auswirkungen Ihrer LLM-Nutzung.

NUTZUNG

Token-Verbrauchsanalyse

Erhalten Sie eine Aufschlüsselung der verbrauchten Token über verschiedene Modelle hinweg. So erkennen Sie ineffiziente Prompts oder Endlosschleifen.

BUDGET

Schwellenwert-Überwachung

Lassen Sie Ihren Agenten die aktuellen Ausgaben mit Ihren Limits vergleichen. Er erkennt frühzeitig, wenn die Kosten Richtung Budgetüberschreitung laufen.

MENSCH

Manuelle Kostenanpassung

Die KI liest und berichtet nur Daten. Sie bleiben verantwortlich für die Festlegung von Budgetlimits und Änderungen in Ihrem New Relic Dashboard.

Der Ablauf

Was Ihre KI tut, wenn Sie nach Kosten fragen.

Der Agent schlägt die Brücke zwischen Ihren New Relic Logs und Ihrem Chat-Interface.

  1. Telemetrie abrufen

    Der Agent greift auf Ihre New Relic Umgebung zu, um relevante Metriken zu LLM-Performance und Kosten zu finden.

    query_llm_costs

  2. USD-Gesamtsummen berechnen

    Er verarbeitet die Rohdaten der Token-Anzahl und wendet Ihre spezifischen Preismodelle an, um die Gesamtausgaben in Dollar zu ermitteln.

    query_llm_costs

  3. Nach Modell filtern

    Der Agent isoliert die Kosten für bestimmte LLMs, wie etwa jene, die in Ihren Produktions-Agenten oder Testumgebungen genutzt werden.

    query_llm_costs

  4. Ergebnisse melden

    Der Agent präsentiert die finalen Kosten in einem übersichtlichen, lesbaren Format direkt in Ihrem Chat-Fenster.

    query_llm_costs

Probieren Sie es

Kopieren Sie diese Beispiele.

Nutzen Sie diese Prompts, um sofort Antworten von Ihrem Agenten zu erhalten.

Startpunkte

Ersetzen Sie den Text in Klammern durch Ihre spezifischen Modellnamen oder Zeiträume.

New Relic AI Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — New Relic AI capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "new-relic-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_oqdaAroeFoXBv9yPI4WsHZZZZZuzqhwVoSn1YCyq/mcp"
    }
  }
}
In den Chat kopieren04

  • Wie viel haben wir in den letzten 24 Stunden für GPT-4o Token ausgegeben?

  • Zeig mir die gesamten USD-Kosten für alle LLM-Aufrufe von gestern.

  • Welches Modell verursacht derzeit die höchsten Token-Kosten in unserer Produktionsumgebung?

  • Vergleiche die Token-Nutzung zwischen unseren Staging- und Production-Clustern für diese Woche.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal mit New Relic AI verbinden, dann fragen.

Verknüpfen Sie Ihr Konto einfach einmalig. Ihre Zugangsdaten bleiben verschlüsselt und sicher, sodass Sie sofort in jedem kompatiblen Client Kosten abfragen können.

New Relic AI mit Ihrer KI verbinden

FAQ

Verhalten und Funktionen

  • 01

    Kann die KI meine New Relic Einstellungen ändern?

    Nein. Der Agent kann nur Kosten- und Nutzungsdaten lesen. Er kann keine Konfigurationen oder Alert-Einstellungen in New Relic modifizieren.

  • 02

    Kennt die KI meine spezifischen Preise pro Token?

    Ja, sie nutzt die in Ihrer New Relic Telemetrie verfügbaren Preisdaten, um die USD-Beträge zu berechnen.

  • 03

    Kann die KI alte Telemetriedaten löschen?

    Nein. Der Agent hat keine Berechtigung, Daten in Ihrem New Relic Account zu löschen oder zu verändern.

  • 04

    Kann ich Kosten nach spezifischen API-Keys abfragen?

    Ja, sofern Ihre New Relic Telemetrie diese Attribute enthält, kann der Agent danach filtern.

  • 05

    Stoppt die KI meine Dienste automatisch, wenn das Budget überschritten wird?

    Nein. Der Agent meldet lediglich die Kosten. Sie müssen Ihre eigenen automatisierten Skalierungs- oder Abschalt-Richtlinien in Ihrer Infrastruktur festlegen.

  • Weitere Fragen zu New Relic AI? Die Connector-Seite liefert Antworten. Alle Funktionen des New Relic AI Connectors ansehen

Verbinde New Relic AI mit Claude, Cursor, ChatGPT & mehr