An astronaut overseeing a futuristic data hub
Télécharger le PDFVersion Markdown

Connectez Litellm LLM Proxy Spend Tracking à votre IA

Configurez-le une fois et il fonctionne avec ChatGPT, Claude, Cursor et n'importe quel autre client que vous aimez. Tout s'exécute en toute sécurité en arrière-plan, pour que vous puissiez vous détendre et vous concentrer sur l'essentiel. Prenez le contrôle total de vos coûts et de votre infrastructure IA.

Demandez à l'IA à propos de ce Connector

Développé, maintenu et hébergé par Vinkius.

MCP VÉRIFIÉ · PRÊT POUR LA PRODUCTION · GARANTIE VINKIUS

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

Votre IA fait le travail. Nous veillons dessus, en toute sécurité.

Aucun autre outil d'IA ne vous offre ça. Votre workflow s'exécute dans le client que vous aimez déjà, votre compte reste protégé, et vous décidez ce que l'agent peut ou ne peut pas faire. C'est la vraie raison de faire le pas.

Chaque Connector vit dans notre infrastructure, là où votre workflow s'exécute. Les trois choses ci-dessous en font déjà partie et travaillent discrètement en arrière-plan pour que vous n'ayez jamais à y penser. Rien à ajouter, rien à configurer, aucune inquiétude à avoir.

A futuristic MCP client docking bay
V8 Isolate01

Chaque Connector s'exécute dans son propre environnement scellé.

Chaque Connector s'exécute dans son propre runtime V8 scellé, sans accès à vos fichiers, à votre système ni aux autres serveurs. Un Connector ne voit jamais au-delà de sa propre requête.

Kill Switch02

Un seul interrupteur arrête tous les agents. Immédiatement.

Une seule action désactive tous les Connectors, révoque tous les tokens et termine toutes les sessions d'un coup. La Gouvernance de l'IA conserve le registre.

FinOps par utilisateur03

Des limites de dépense qui s'interrompent au lieu de surprendre.

Chaque utilisateur garde ses propres connexions et identifiants, isolés de ceux des autres. Ce qui dépasserait votre limite de dépense est stoppé et mis en attente de votre approbation, pas facturé.

Trois contrôles, intégrés à la couche par laquelle votre IA se connecte.

Sélection · 10 capacités

Nous ne livrons que les actions qui comptent.

Ensemble de capacités01 / 03

01-04

4 capacités dans cet ensemble.

Sur 10 disponibles via LiteLLM.

  1. 01

    Créer une équipe

    Générez une isolation organisationnelle pour suivre précisément les limites de coûts par division.

  2. 02

    Créer un utilisateur

    Ajoutez des identités d'utilisateurs finaux pour lier Vinkius aux journaux de votre Proxy.

  3. 03

    Supprimer un modèle

    Supprimez des déploiements LLM routés pour éviter les erreurs 500 de manière dynamique.

  4. 04

    Générer une clé API

    Créez une nouvelle clé proxy pour isoler des microservices ou des équipes spécifiques.

Ensemble de capacités02 / 03

05-07

3 capacités dans cet ensemble.

Sur 10 disponibles via LiteLLM.

  1. 05

    Consulter une clé

    Obtenez la configuration et les limites budgétaires d'une clé API LiteLLM spécifique.

  2. 06

    Voir les infos du modèle

    Accédez aux points de terminaison pour tracer les chemins de repli comme OpenAI vers Anthropic.

  3. 07

    Détails de l'équipe

    Récupérez les limites logiques liées à plusieurs utilisateurs via l'UUID de l'équipe.

Ensemble de capacités03 / 03

08-10

3 capacités dans cet ensemble.

Sur 10 disponibles via LiteLLM.

  1. 08

    Ajouter un modèle

    Injectez de nouveaux points de terminaison de routage, comme de nouveaux services Bedrock ou Azure.

  2. 09

    Supprimer une clé

    Supprimez définitivement une clé de proxy LLM existante.

  3. 10

    Infos utilisateur

    Consultez les données précises des utilisateurs finaux et leur consommation totale en USD.

Travail réel

Ce que les équipes font tourner

01

Microservice Isolation

Generate unique API keys for every new microservice to keep their usage and costs separate.

02

Budget Control

Set hard monthly limits for specific departments to prevent unexpected overages.

03

Dynamic Routing

Add new model endpoints to your proxy on the fly to improve reliability.

04

Cost Auditing

Ask your agent for a breakdown of token spend per user to identify high-cost accounts.

Automatisez une tâche

Mettez LiteLLM au travail sur une chose.

Des automatisations étape par étape que votre IA exécute via ce Connector : le flux, les prompts pour démarrer et les capabilities exactes derrière chaque étape.

Un connector, toutes les IAs

LiteLLM fonctionne avec les clients IA les plus populaires.

Voici les clients les plus populaires, chacun avec un guide pas à pas : un lien, configuré une fois, avec gouvernance et visibilité intégrées. Et comme tout tourne sur le standard MCP, la même connexion fonctionne aussi dans tout autre client compatible : rien à reconstruire.

ClaudeClaudeChatGPTChatGPTGeminiGeminiPerplexityPerplexityGrokGrokMicrosoft CopilotMicrosoft CopilotCursorCursorVS CodeVS CodeWindsurfWindsurfJetBrainsJetBrainsClineClineLangChainLangChainVercel AI SDKVercel AI SDKLovableLovableZ.aiZ.aiRaycastRaycastQwen CodeQwen CodeKimi CodeKimi CodeLe ChatLe Chat

Vous construisez votre propre app ? Le connector est à vous.

Vous n'avez pas besoin d'un client pour mettre LiteLLM au travail : la même connexion hébergée se branche sur vos propres applications et le code de votre agent, avec la même gouvernance à chaque requête. Construisez avec lui, discutez avec lui : une connexion pour les deux.

Observée, pas estimée

Moyenne de 946 ms. Rapide en production.

LiteLLM est vérifié quotidiennement contre le service en production.

Moyenne quotidiennePic à 971 ms
15 oct.Aujourd'hui
Jour le plus rapide
855ms
Jour le plus lent
971ms
Tendance sur 14 jours
En amélioration-12%

Connectez votre client

Une URL. Tous les clients.

Activez le Connector, copiez votre lien et collez-le dans le client que vous utilisez déjà. 10 capacités arrivent prêtes à l'emploi.

Accès aperçu · pas d’authentification du fournisseur

Le jeton vk_preview_* appartient à l’infrastructure d’aperçu de Vinkius. Il permet à Claude de découvrir et d’afficher les capacités de LiteLLM, pour que vous voyiez l’expérience dans votre IA.

Il n’authentifie pas votre compte auprès de LiteLLM. Les actions nécessitant des identifiants ou des données de compte réelles peuvent ne pas s’exécuter tant que vous n’avez pas activé le Connector et autorisé le service.

LiteLLM Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "litellm-llm-proxy-spend-tracking-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Les instructions pas à pas pour chaque client sont dans le guide. Comment connecter

Configuration guidée pour Claude ? Configurer LiteLLM avec Claude et les autres IA

Voyez tous les clients IA avec lesquels ce connector fonctionne ↑

Pour qui

Conçu pour le travail que les utilisateurs de LiteLLM délèguent.

Ce connecteur est conçu pour les professionnels gérant des infrastructures d'IA à grande échelle.

  • 01

    Ingénieurs Plateforme

    Pour configurer la passerelle LLM globale et auditer les chemins de repli des modèles.

  • 02

    Équipes AI Ops

    Pour surveiller les dépenses d'IA en temps réel et ajuster les budgets par équipe.

  • 03

    Développeurs Backend

    Pour générer des sous-clés et vérifier la disponibilité du routage sans quitter l'IDE.

FAQ

Les questions des utilisateurs de LiteLLM.

  • 01

    How do I connect this MCP to my LiteLLM instance?

    You need to provide your LiteLLM API URL and your Master Key during the Vinkius setup process. Once entered, the connection is ready to use in your AI client.

  • 02

    Can I use this with Cursor or VS Code?

    Yes, this MCP works with any MCP-compatible client, including Cursor, Windsurf, and VS Code.

  • 03

    How does it help with cost management?

    The MCP allows you to create teams with specific budget limits and query the exact USD spent by any user or team.

  • 04

    Can I change model routing without restarting the proxy?

    Yes, you can use the capability to inject new routing endpoints or delete existing ones dynamically.

  • 05

    Is it possible to isolate different teams?

    Yes, you can use the create_team capability to establish organizational isolation and track costs per division.

  • 06

    Can I check the budget and rate limits for a specific proxy key?

    Yes. Use the get_key_info capability with the specific Key ID. Your agent will retrieve the exact rate limits, budget constraints, and current RPM usage associated with that token.

  • 07

    How do I see the model fallback paths configured in my proxy?

    The get_model_info capability allows your agent to extract the global model directory. You'll see the exact fallback chains (e.g., if OpenAI fails, use Anthropic) and the physical endpoints assigned to each model name.

  • 08

    Can my agent create a new team to track specific division costs?

    Absolutely. Use the create_team capability and provide a JSON payload defining the team name and optional budget limits. Your agent will provision the new team identity in LiteLLM, allowing for precise organizational cost tracking.

Explorer

Plus dans AI Frontier

Suggestions

Connectez LiteLLM à Claude, Cursor, ChatGPT et d'autres