• ÜBERWACHUNG
  • SCHUTZ
  • PRÜFUNG
  • MANUELL

LLM-Budgetrichtlinien mit Ihrer KI durchsetzen

Verbinden Sie Portkey mit Ihrem Agenten, um den Token-Verbrauch in Echtzeit zu verfolgen und Kostenexplosionen sofort zu stoppen.

Fragen Sie die KI zu dieser Seite

Kurzantwort

Wie verhindere ich, dass meine KI zu viele Token verbraucht?

Ihr Agent nutzt Portkey, um Nutzungsprotokolle abzurufen und spezifische Ausgabenlimits festzulegen. Sie können harte Limits definieren, die bei Erreichen eines Schwellenwerts greifen. So bleibt Ihr Agent automatisch innerhalb des Budgets.

Wo jedes Limit greift.

Ergebnisse der Budgetkontrolle

Die KI verwaltet Ihre Portkey-Konfiguration, um Kosten planbar zu halten.

ÜBERWACHUNG

Echtzeit-Nutzungsverfolgung

Der Agent ruft aktuelle Logs ab, um genau anzuzeigen, wie viele Token Sie verbraucht haben. Sie behalten die aktuellen Kosten im Blick.

SCHUTZ

Strikte Ausgabenlimits

Ihr Agent erstellt neue Richtlinien, die Anfragen sofort stoppen, sobald ein Limit erreicht ist. Das verhindert massive Kosten durch Endlosschleifen.

PRÜFUNG

Richtlinienverwaltung

Der Agent listet Ihre bestehenden Regeln auf, um sicherzustellen, dass keine sich überschneidenden oder widersprüchlichen Limits existieren.

MANUELL

Menschliche Kontrolle

Sie entscheiden, wann alte Regeln gelöscht oder Schwellenwerte angepasst werden. Die KI macht Vorschläge, aber Sie haben das letzte Wort.

Der Ablauf

Was Ihre KI tut, wenn das Budget überschritten wird.

Der Agent fungiert als Finanzwächter für Ihre LLM-Aufrufe.

  1. Nutzung analysieren

    Der Agent prüft Ihren aktuellen Token-Verbrauch, um festzustellen, ob Sie sich einem Limit nähern.

    list_logs

  2. Regeln prüfen

    Er prüft Ihr aktuelles Portkey-Setup, um zu sehen, welche Einschränkungen bereits aktiv sind.

    list_policies

  3. Limits anwenden

    Der Agent erstellt eine neue Richtlinie, um weitere Anfragen zu blockieren, sobald ein bestimmtes Budget erreicht ist.

    create_policy

  4. Aufräumen

    Wenn eine Richtlinie nicht mehr benötigt wird, entfernt der Agent sie, um Ihre Konfiguration sauber zu halten.

    delete_policy

Probieren Sie es

Kopieren Sie diese Vorlagen.

Nutzen Sie diese Prompts, um die Verwaltung Ihres Portkey-Budgets zu starten.

Startpunkte

Passen Sie die Namen der Richtlinien oder die Token-Anzahl an Ihre eigenen Anforderungen an.

Portkey Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Portkey capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "portkey-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp"
    }
  }
}
In den Chat kopieren04

  • Prüfe meine aktuellen Portkey-Logs, um zu sehen, wie viele Token ich heute verbraucht habe.

  • Liste alle meine aktuellen Portkey-Richtlinien auf, damit ich meine aktiven Limits sehen kann.

  • Erstelle eine neue Portkey-Richtlinie, um meine Token-Ausgaben für dieses Projekt zu begrenzen.

  • Lösche die alte Budget-Richtlinie mit dem Namen 'test-limit-123'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Starten Sie hier

Einmal mit Portkey verbinden, dann fragen.

Verknüpfen Sie einfach Ihr Portkey-Konto. Ihre Zugangsdaten bleiben verschlüsselt, und Sie können sofort damit beginnen, Limits über Ihren Agenten zu verwalten.

Portkey mit Ihrer KI verbinden

FAQ

So funktioniert die Aufgabe

  • 01

    Kann die KI meine tatsächlichen Portkey-Abrechnungseinstellungen ändern?

    Nein. Die KI verwaltet nur Richtlinien und Logs über die bereitgestellten Tools; sie hat keinen Zugriff auf Ihre Kreditkarte oder Ihr Abrechnungskonto.

  • 02

    Wird die KI meine Richtlinien löschen, ohne zu fragen?

    Nein. Der Agent löscht Richtlinien nur dann, wenn Sie ihn in einem Prompt ausdrücklich dazu auffordern.

  • 03

    Kann ich genau sehen, welches Modell mich am meisten kostet?

    Ja, der Agent kann Logs abrufen, um Ihnen zu zeigen, welche Modelle Ihren Token-Verbrauch verursachen.

  • 04

    Stoppt die KI eine Anfrage automatisch, wenn sie zu teuer ist?

    Ja, sofern eine Richtlinie existiert, die der Agent erstellt oder verifiziert hat, wird Portkey dieses Limit durchsetzen.

  • 05

    Kann die KI eine Richtlinie für einen spezifischen API-Key erstellen?

    Ja, der Agent kann Richtlinien erstellen, um die Nutzung verschiedener Keys oder Projekte zu beschränken.

  • Weitere Fragen zu Portkey? Alle Funktionen des Portkey Connectors ansehen

Verbinde Portkey mit Claude, Cursor, ChatGPT & mehr