• USER
  • TEAM
  • LIMITS
  • HUMAN

Gérer vos dépenses LLM avec votre agent IA via LiteLLM

Connectez LiteLLM à votre agent pour suivre la consommation et appliquer des limites budgétaires. Vous aurez une visibilité précise sur les dépenses en tokens de chaque utilisateur ou équipe.

Demandez à l'IA à propos de cette page

Réponse rapide

Comment contrôler mes coûts LLM avec un agent IA ?

Votre agent utilise LiteLLM pour créer des équipes et des utilisateurs spécifiques, puis surveille leur consommation de tokens. Vous obtenez ainsi une décomposition claire de vos dépenses.

Résultats de la gestion des coûts.

Où vos données de dépenses sont analysées.

L'IA organise votre gestion budgétaire selon quatre axes.

USER

Suivi individuel

L'IA extrait les données d'utilisation d'une seule personne. Vous voyez précisément ce qu'un utilisateur a dépensé en tokens.

TEAM

Budgets de groupe

L'IA agrège les coûts par département. Cela vous permet de vérifier si une équipe dépasse son allocation.

LIMITS

Contrôle budgétaire

L'IA prépare la structure nécessaire pour éviter les dépassements. Vous identifiez immédiatement qui atteint ses plafonds.

HUMAN

Ajustements manuels

L'IA repère les pics de consommation nécessitant votre attention. Vous décidez ensuite de modifier les limites ou d'ajouter du budget.

Le flux

Ce que fait votre IA lors d'une demande de gestion des coûts.

L'agent gère la configuration administrative et la récupération des données dans LiteLLM.

  1. Organiser les utilisateurs

    L'agent configure les comptes nécessaires pour suivre l'activité individuelle.

    create_user
  2. Grouper les utilisateurs en équipes

    L'agent crée des groupes logiques pour vous permettre de gérer les budgets par département.

    create_team
  3. Vérifier l'activité des utilisateurs

    L'agent consulte les détails d'un utilisateur pour connaître son statut actuel.

    get_user_info
  4. Auditer les dépenses d'équipe

    L'agent extrait les dernières données de coût et d'utilisation pour un groupe spécifique.

    get_team_info

Essayez

Copiez ces commandes pour commencer.

Utilisez ces prompts pour débuter la gestion de vos coûts LiteLLM.

Points de départ

Remplacez les noms entre crochets par vos propres noms d'équipes ou d'utilisateurs.

LiteLLM Connector

Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.

Lien du connecteurhttps://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp

Claude Desktop

Suivez les étapes ci-dessous pour vous connecter en quelques secondes.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
Configuration · claude_desktop_config.jsonCopier
{
  "mcpServers": {
    "litellm-llm-proxy-spend-tracking-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
    }
  }
}
Copiez dans le chat04
  • Créer une nouvelle équipe nommée [Engineering] pour suivre nos coûts de développement.

  • Montre-moi les informations d'utilisation actuelles pour l'utilisateur [dev_user_01].

  • Quel est le total des dépenses en tokens pour l'équipe [Marketing] ?

  • Créer un nouvel utilisateur nommé [intern_account] et l'ajouter à l'équipe [Testing].

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Commencez ici

Connectez LiteLLM une fois, puis interrogez.

Liez simplement votre instance LiteLLM. Vos identifiants restent chiffrés et vous pouvez immédiatement interroger votre agent sur vos coûts.

Connecter LiteLLM à votre IA

FAQ

Fonctionnement de la tâche.

  • 01

    L'IA peut-elle bloquer automatiquement un utilisateur lorsqu'il atteint une limite ?

    Non. L'IA peut vérifier l'utilisation et signaler les limites, mais vous devez ajuster manuellement les paramètres budgétaires dans LiteLLM pour interrompre le service.

  • 02

    L'IA peut-elle supprimer des utilisateurs ou des équipes ?

    Non. Les outils permettent uniquement de créer et de consulter les utilisateurs et les équipes. Les suppressions doivent être effectuées par vos soins dans le tableau de bord LiteLLM.

  • 03

    L'IA a-t-elle accès à mes clés API ?

    Non. Vos clés sont gérées par LiteLLM et Vinkius. L'IA interagit uniquement avec les données transmises via les outils.

  • 04

    Puis-je voir les coûts par modèle spécifique ?

    L'IA peut consulter les informations des équipes et des utilisateurs, mais elle ne peut pas filtrer les coûts par nom de modèle, sauf si cette donnée est incluse dans les informations d'équipe renvoyées.

  • 05

    L'IA peut-elle créer de nouveaux comptes de facturation ?

    Non. L'IA est limitée à la gestion des utilisateurs et des équipes au sein de votre configuration LiteLLM existante.

  • D'autres questions sur LiteLLM ? Voir toutes les capacités du connecteur LiteLLM

Connectez LiteLLM à Claude, Cursor, ChatGPT et d'autres