- USER
- TEAM
- LIMITS
- HUMAN
Réponse rapide
Comment contrôler mes coûts LLM avec un agent IA ?
Votre agent utilise LiteLLM pour créer des équipes et des utilisateurs spécifiques, puis surveille leur consommation de tokens. Vous obtenez ainsi une décomposition claire de vos dépenses.
Résultats de la gestion des coûts.
Où vos données de dépenses sont analysées.
L'IA organise votre gestion budgétaire selon quatre axes.
USER
Suivi individuel
L'IA extrait les données d'utilisation d'une seule personne. Vous voyez précisément ce qu'un utilisateur a dépensé en tokens.
TEAM
Budgets de groupe
L'IA agrège les coûts par département. Cela vous permet de vérifier si une équipe dépasse son allocation.
LIMITS
Contrôle budgétaire
L'IA prépare la structure nécessaire pour éviter les dépassements. Vous identifiez immédiatement qui atteint ses plafonds.
HUMAN
Ajustements manuels
L'IA repère les pics de consommation nécessitant votre attention. Vous décidez ensuite de modifier les limites ou d'ajouter du budget.
Le flux
Ce que fait votre IA lors d'une demande de gestion des coûts.
L'agent gère la configuration administrative et la récupération des données dans LiteLLM.
Organiser les utilisateurs
L'agent configure les comptes nécessaires pour suivre l'activité individuelle.
create_userGrouper les utilisateurs en équipes
L'agent crée des groupes logiques pour vous permettre de gérer les budgets par département.
create_teamVérifier l'activité des utilisateurs
L'agent consulte les détails d'un utilisateur pour connaître son statut actuel.
get_user_infoAuditer les dépenses d'équipe
L'agent extrait les dernières données de coût et d'utilisation pour un groupe spécifique.
get_team_info
Essayez
Copiez ces commandes pour commencer.
Utilisez ces prompts pour débuter la gestion de vos coûts LiteLLM.
Points de départ
Remplacez les noms entre crochets par vos propres noms d'équipes ou d'utilisateurs.
LiteLLM Connector
Tout est prêt. Choisissez votre client MCP et suivez les instructions de configuration.
https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcpClaude Desktop
Suivez les étapes ci-dessous pour vous connecter en quelques secondes.
- 1In Claude Desktop, open Settings → Connectors.
- 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
- 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
{
"mcpServers": {
"litellm-llm-proxy-spend-tracking-mcp": {
"url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
}
}
}Créer une nouvelle équipe nommée [Engineering] pour suivre nos coûts de développement.
Montre-moi les informations d'utilisation actuelles pour l'utilisateur [dev_user_01].
Quel est le total des dépenses en tokens pour l'équipe [Marketing] ?
Créer un nouvel utilisateur nommé [intern_account] et l'ajouter à l'équipe [Testing].
Claude
ChatGPT
Cursor
VS Code
Windsurf
Claude Code
JetBrains
Cline
Commencez ici
Connectez LiteLLM une fois, puis interrogez.
Liez simplement votre instance LiteLLM. Vos identifiants restent chiffrés et vous pouvez immédiatement interroger votre agent sur vos coûts.
Connecter LiteLLM à votre IAFAQ
Fonctionnement de la tâche.
- 01
L'IA peut-elle bloquer automatiquement un utilisateur lorsqu'il atteint une limite ?
Non. L'IA peut vérifier l'utilisation et signaler les limites, mais vous devez ajuster manuellement les paramètres budgétaires dans LiteLLM pour interrompre le service.
- 02
L'IA peut-elle supprimer des utilisateurs ou des équipes ?
Non. Les outils permettent uniquement de créer et de consulter les utilisateurs et les équipes. Les suppressions doivent être effectuées par vos soins dans le tableau de bord LiteLLM.
- 03
L'IA a-t-elle accès à mes clés API ?
Non. Vos clés sont gérées par LiteLLM et Vinkius. L'IA interagit uniquement avec les données transmises via les outils.
- 04
Puis-je voir les coûts par modèle spécifique ?
L'IA peut consulter les informations des équipes et des utilisateurs, mais elle ne peut pas filtrer les coûts par nom de modèle, sauf si cette donnée est incluse dans les informations d'équipe renvoyées.
- 05
L'IA peut-elle créer de nouveaux comptes de facturation ?
Non. L'IA est limitée à la gestion des utilisateurs et des équipes au sein de votre configuration LiteLLM existante.
D'autres questions sur LiteLLM ? Voir toutes les capacités du connecteur LiteLLM
Connectez LiteLLM à Claude, Cursor, ChatGPT et d'autres
