• KOSTEN
  • SPEED
  • TRENDS
  • HUMAN

LLM-Tokenverbrauch mit deiner KI überwachen

Verbinde Datadog AI mit deinem Agenten. Sobald die Verbindung steht, kannst du gezielt Telemetriedaten aus deinem Datadog-Account abfragen.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie kann ich LLM-Tokenverbrauch und Latenz mit meiner KI verfolgen?

Dein Agent nutzt den Datadog AI Connector, um numerische Telemetriedaten abzufragen. Du erhältst direkten Zugriff auf Token-Zahlen und Latenz-Metriken über dein Chat-Interface. Diese Übersicht zeigt dir, wie der Agent diese Anfragen verarbeitet.

Deine Ergebnisse.

Wo deine Daten landen.

Der Agent ruft spezifische Metriken aus Datadog ab und bringt sie direkt in deinen Chat.

KOSTEN

Tokenverbrauch tracken

Der Agent zieht Token-Zahlen aus deiner Telemetrie. Du siehst genau, wie viel dich jeder Modellaufruf kostet.

SPEED

Latenz überwachen

Der Agent ruft Antwortzeiten ab. So identifizierst du sofort, welche Modellaufrufe zu langsam sind.

TRENDS

Historische Analyse

Der Agent fragt vergangene Metriken ab. Du erhältst Einblick, wie sich die Performance deiner Modelle über die Zeit verändert hat.

HUMAN

Manuelle Entscheidungen

Der Agent liefert die Zahlen. Du entscheidest, ob du deine Prompts anpassen oder das Modell wechseln musst.

Der Ablauf

Was deine KI tut, wenn die Daten eintreffen.

Der Agent fungiert als Schnittstelle zwischen deinem Chat und deinen Datadog-Metriken.

  1. Metriken abrufen

    Der Agent sucht die von dir angeforderten numerischen Telemetriedaten in Datadog.

    query_metrics

  2. Verbrauch analysieren

    Der Agent verarbeitet die Token-Zahlen, um dir eine klare Gesamtsumme zu liefern.

    query_metrics

  3. Latenz prüfen

    Der Agent ruft Antwortzeiten ab, um Verzögerungen bei deinen Modellaufrufen zu finden.

    query_metrics

  4. Daten berichten

    Der Agent liefert die angeforderten Zahlen direkt in dein Chat-Fenster.

    query_metrics

Probieren Sie es

Kopiere diese Beispiele zum Start.

Nutze diese Prompts, um die Überwachung deiner Modelle zu beginnen.

Startpunkte

Dies sind erste Ansätze. Passe die Metriknamen oder Zeiträume einfach an dein Datadog-Setup an.

Datadog Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Datadog capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "datadog-ai-llm-observability-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_bWdhwHEHDioKsLvhV1Lvv7ec4t2gm8k5cIgCZeWx/mcp"
    }
  }
}
In den Chat kopieren04

  • Wie hoch war der gesamte Tokenverbrauch meines LLM-Services in den letzten 24 Stunden?

  • Zeige mir die durchschnittliche Latenz meines Produktionsmodells von heute Morgen.

  • Gab es in der letzten Stunde Spitzen beim Tokenverbrauch des Agenten?

  • Vergleiche die Latenz meiner Modellaufrufe zwischen gestern und heute.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal verbinden, dann fragen.

Verbinde dein Konto mit nur einem Klick. Deine Zugangsdaten bleiben bei uns verschlüsselt, sodass du sofort mit der Abfrage von Metriken beginnen kannst.

Datadog AI mit deiner KI verbinden

FAQ

So funktioniert die Aufgabe.

  • 01

    Kann die KI meine Datadog-Alerts ändern?

    Nein. Der Agent kann nur numerische Telemetriedaten lesen. Er kann deine Datadog-Einstellungen oder Alerts nicht modifizieren.

  • 02

    Kann die KI meine Metriken löschen?

    Nein. Der Agent arbeitet im Read-Only-Modus. Er hat keine Möglichkeit, deine Daten zu löschen oder zu verändern.

  • 03

    Kann ich auch andere Metriken als LLM-Daten überwachen?

    Ja. Wenn die Daten in Datadog als numerische Metrik vorliegen, kann der Agent diese abfragen.

  • 04

    Erstellt die KI Datadog-Dashboards?

    Nein. Der Agent liefert die Daten in deinen Chat, kann aber keine Dashboards in Datadog erstellen oder bearbeiten.

  • 05

    Wie findet der Agent die richtigen Daten?

    Der Agent nutzt die Metriknamen, die du in deinem Prompt angibst, um die passende Telemetrie zu finden.

  • Weitere Fragen zu Datadog AI? Alle Funktionen des Datadog AI Connectors ansehen

Verbinde Datadog mit Claude, Cursor, ChatGPT & mehr