An astronaut overseeing a futuristic data hub

Verbinden Sie Litellm LLM Proxy Spend Tracking mit Ihrer KI

Richten Sie es einmal ein und es funktioniert mit ChatGPT, Claude, Cursor und jedem anderen Client, den Sie lieben. Alles läuft sicher im Hintergrund, damit Sie sich entspannen und sich auf das Wesentliche konzentrieren können. Steuern Sie LLM-Infrastruktur, Budgets und Routing per Chat.

Fragen Sie die KI zu diesem Connector

Entwickelt, gewartet und gehostet von Vinkius.

MCP VERIFIZIERT · PRODUKTIONSREIF · VINKIUS GARANTIE

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

Ihre KI erledigt die Arbeit. Wir halten alles sicher und geschützt.

Kein anderes KI-Tool bietet Ihnen das. Ihr Workflow läuft im Client, den Sie bereits lieben, Ihr Konto bleibt geschützt, und Sie entscheiden, was der Agent darf und was nicht. Das ist der ganze Grund für den Wechsel.

Jeder Connector lebt in unserer Infrastruktur, dort wo Ihr Workflow läuft. Die drei Dinge unten sind bereits Teil davon und arbeiten leise im Hintergrund, damit Sie nie darüber nachdenken müssen. Nichts hinzuzufügen, nichts einzurichten, keine Sorgen.

A futuristic MCP client docking bay
V8 Isolate01

Jeder Connector läuft in seiner eigenen abgeschotteten Umgebung.

Jeder Connector läuft in einer eigenen abgeriegelten V8-Laufzeit — kein Zugriff auf Ihre Dateien, Ihr System oder andere Server. Ein Connector sieht nie über seine eigene Anfrage hinaus.

Kill-Switch02

Ein Schalter stoppt jeden Agenten. Sofort.

Eine einzige Aktion deaktiviert jeden Connector, entzieht jedes Token und beendet jede Sitzung auf einmal. Die AI Governance bewahrt das Protokoll.

FinOps pro Nutzer03

Ausgabelimits, die anhalten, statt Sie zu überraschen.

Jeder Nutzer behält eigene Verbindungen und Anmeldedaten, isoliert von allen anderen. Was Ihr Ausgabelimit überschreiten würde, wird zurückgehalten und wartet auf Ihre Freigabe, anstatt abgerechnet zu werden.

Drei Kontrollen, eingebaut in die Schicht, über die sich Ihre KI verbindet.

Kuratiertes Set · 10 Fähigkeiten

Wir liefern nur die Aktionen, die zählen.

Fähigkeiten-Set01 / 03

01-04

4 Fähigkeiten in diesem Set.

Teil von 10, verfügbar über LiteLLM.

  1. 01

    Team erstellen

    Erstellt eine organisatorische Trennung mit exakten Kostenlimits pro Abteilung.

  2. 02

    Nutzer anlegen

    Verknüpft spezifische Endnutzer-Identitäten mit den Proxy-Logs.

  3. 03

    Modell löschen

    Entfernt explizit geroutete LLM-Deployments, um Fehler dynamisch zu vermeiden.

  4. 04

    API-Key generieren

    Erstellt neue Proxy-API-Keys zur Isolierung von Microservices oder Teams.

Fähigkeiten-Set02 / 03

05-07

3 Fähigkeiten in diesem Set.

Teil von 10, verfügbar über LiteLLM.

  1. 05

    Key-Informationen abrufen

    Zeigt die Konfiguration und Budgetgrenzen eines spezifischen LiteLLM API-Keys an.

  2. 06

    Modell-Infos abrufen

    Zeigt die Endpunkte und die genauen Fallback-Pfade wie OpenAI zu Anthropic an.

  3. 07

    Team-Infos abrufen

    Ruft interne Logik-Grenzen für mehrere Nutzer über die Team-UUID ab.

Fähigkeiten-Set03 / 03

08-10

3 Fähigkeiten in diesem Set.

Teil von 10, verfügbar über LiteLLM.

  1. 08

    Modell erstellen

    Fügt neue Routing-Endpunkte, wie etwa neue Bedrock Llama 4 Endpunkte, hinzu.

  2. 09

    API-Key löschen

    Entfernt einen bestehenden LLM-Proxy-Key vollständig.

  3. 10

    Nutzer-Infos abrufen

    Liefert präzise Daten über die verbrauchten USD-Beträge pro Endnutzer.

Echte Arbeit

Was Teams täglich ausführen

01

Microservice Isolation

Generate unique API keys for every new microservice to keep their usage and costs separate.

02

Budget Control

Set hard monthly limits for specific departments to prevent unexpected overages.

03

Dynamic Routing

Add new model endpoints to your proxy on the fly to improve reliability.

04

Cost Auditing

Ask your agent for a breakdown of token spend per user to identify high-cost accounts.

Eine Aufgabe automatisieren

Bringen Sie LiteLLM für eine Sache an die Arbeit.

Schritt-für-Schritt-Automatisierungen, die Ihre KI über diesen Connector ausführt: der Ablauf, die Prompts für den Einstieg und die genauen Fähigkeiten hinter jedem Schritt.

Ein Connector, jede KI

LiteLLM funktioniert mit den beliebtesten KI-Clients.

Dies sind die beliebtesten Clients, jeder mit einer Schritt-für-Schritt-Anleitung: ein Link, einmal eingerichtet, mit Governance und Sichtbarkeit an Bord. Und da alles auf dem MCP-Standard läuft, funktioniert dieselbe Verbindung auch in jedem anderen kompatiblen Client — nichts neu zu bauen.

Bauen Sie Ihre eigene App? Der Connector gehört Ihnen.

Sie brauchen keinen Client, um LiteLLM arbeiten zu lassen: dieselbe gehostete Verbindung speist Ihre eigenen Anwendungen und Ihren Agenten-Code, mit derselben Governance bei jeder Anfrage. Damit bauen, damit chatten — eine Verbindung für beides.

Beobachtet, nicht geschätzt

Durchschnitt 946ms. Schnell in der Produktion.

LiteLLM wird täglich gegen den Live-Service geprüft.

TagesdurchschnittSpitze 971ms
15. Okt.Heute
Schnellster Tag
855ms
Langsamster Tag
971ms
14-Tage-Trend
Verbessernd-12%

Verbinden Sie Ihren Client

Eine URL. Jeder Client.

Aktivieren Sie den Connector, kopieren Sie Ihren Link und fügen Sie ihn in den Client ein, den Sie bereits nutzen. 10 Fähigkeiten kommen einsatzbereit an.

Vorschauzugang · keine Anbieter-Authentifizierung

Das vk_preview_*-Token gehört zur Vorschau-Infrastruktur von Vinkius. Es ermöglicht Claude, die Fähigkeiten von LiteLLM zu entdecken und anzuzeigen, damit Sie das Erlebnis in Ihrer KI sehen.

Es authentifiziert Ihr Konto nicht bei LiteLLM. Aktionen, die Anmeldedaten oder echte Kontodaten erfordern, werden möglicherweise erst ausgeführt, wenn Sie den Connector aktivieren und den Dienst autorisieren.

LiteLLM Connector

Alles bereit. Wählen Sie Ihren MCP-Client und folgen Sie den Einrichtungsschritten.

Connector-Linkhttps://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp

Claude Desktop

Folgen Sie den Schritten unten, um sich in Sekunden zu verbinden.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
Konfiguration · claude_desktop_config.jsonKopieren
{
  "mcpServers": {
    "litellm-llm-proxy-spend-tracking-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Schritt-für-Schritt-Anleitungen für jeden Client finden Sie im Guide. Verbinden

Geführte Einrichtung für Claude? LiteLLM in Claude und anderen KI-Tools einrichten

Alle KI-Clients ansehen, mit denen dieser Connector funktioniert ↑

Für wen

Für die Arbeit, die LiteLLM-Nutzer abgeben.

Dieser Connector richtet sich an Experten, die KI-Infrastrukturen skalierbar und kosteneffizient verwalten müssen.

  • 01

    Platform Engineers

    Verwalten globale Gateway-Konfigurationen und prüfen Modell-Fallback-Pfade per Chat.

  • 02

    AI Ops Teams

    Überwachen KI-Ausgaben in Echtzeit und passen Team-Budgets über verschiedene Anbieter hinweg an.

  • 03

    Backend Developers

    Erstellen Sub-Keys für neue Microservices und prüfen die Verfügbarkeit von Modellen direkt in der IDE.

FAQ

Fragen von LiteLLM-Nutzern.

  • 01

    How do I connect this MCP to my LiteLLM instance?

    You need to provide your LiteLLM API URL and your Master Key during the Vinkius setup process. Once entered, the connection is ready to use in your AI client.

  • 02

    Can I use this with Cursor or VS Code?

    Yes, this MCP works with any MCP-compatible client, including Cursor, Windsurf, and VS Code.

  • 03

    How does it help with cost management?

    The MCP allows you to create teams with specific budget limits and query the exact USD spent by any user or team.

  • 04

    Can I change model routing without restarting the proxy?

    Yes, you can use the capability to inject new routing endpoints or delete existing ones dynamically.

  • 05

    Is it possible to isolate different teams?

    Yes, you can use the create_team capability to establish organizational isolation and track costs per division.

  • 06

    Can I check the budget and rate limits for a specific proxy key?

    Yes. Use the get_key_info capability with the specific Key ID. Your agent will retrieve the exact rate limits, budget constraints, and current RPM usage associated with that token.

  • 07

    How do I see the model fallback paths configured in my proxy?

    The get_model_info capability allows your agent to extract the global model directory. You'll see the exact fallback chains (e.g., if OpenAI fails, use Anthropic) and the physical endpoints assigned to each model name.

  • 08

    Can my agent create a new team to track specific division costs?

    Absolutely. Use the create_team capability and provide a JSON payload defining the team name and optional budget limits. Your agent will provision the new team identity in LiteLLM, allowing for precise organizational cost tracking.

Verbinde LiteLLM mit Claude, Cursor, ChatGPT & mehr