An astronaut overseeing a futuristic data hub
Descargar PDFVersión en Markdown

Conecta Litellm LLM Proxy Spend Tracking a ChatGPT y Claude

Configúralo una vez y funciona en ChatGPT, Claude, Cursor y en cualquier otro cliente que te guste. Todo se ejecuta con seguridad en segundo plano, para que tú te relajes y te centres en lo que de verdad importa. Gestiona el gasto, las claves y el enrutamiento de modelos mediante lenguaje natural.

Pregunta a la IA sobre este Connector

Desarrollado, mantenido y alojado por Vinkius.

MCP VERIFICADO · LISTO PARA PRODUCCIÓN · GARANTÍA VINKIUS

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

Tu IA hace el trabajo. Nosotros lo cuidamos, seguro.

Ninguna otra herramienta de IA te da esto. Tu workflow se ejecuta en el cliente que ya amas, tu cuenta permanece protegida y tú decides lo que el agente puede y no puede hacer. Es la razón completa para dar el salto.

Cada Connector vive dentro de nuestra infraestructura, en el mismo lugar donde se ejecuta tu workflow. Las tres cosas de abajo ya forman parte de él, trabajando en silencio en segundo plano para que nunca tengas que pensar en ellas. Nada que añadir, nada que configurar, nada de qué preocuparte.

A futuristic MCP client docking bay
V8 Isolate01

Cada Connector se ejecuta dentro de su propio entorno sellado.

Cada Connector se ejecuta en su propio runtime V8 aislado, sin acceso a tus archivos, a tu sistema ni a otros servidores. Un Connector nunca ve más allá de su propia petición.

Kill Switch02

Un interruptor detiene a todos los agentes. Al instante.

Una única acción desactiva todos los Connectors, revoca todos los tokens y cierra todas las sesiones a la vez. La Gobernanza de IA guarda el registro.

FinOps por usuario03

Límites de gasto que se pausan en vez de sorprenderte.

Cada usuario mantiene sus propias conexiones y credenciales, aisladas de las de los demás. Lo que supere tu límite de gasto se detiene y queda esperando tu aprobación en vez de cobrarse.

Tres controles, integrados en la capa por donde tu IA se conecta.

Set curado · 10 capacidades

Publicamos solo las acciones que importan.

Set de capacidades01 / 03

01-04

4 capacidades en este set.

Parte de 10 disponibles a través de LiteLLM.

  1. 01

    Crear equipo

    Genera un aislamiento organizacional para rastrear límites de costes exactos por división.

  2. 02

    Crear usuario

    Registra identidades de usuarios finales para vincular Vinkius con los registros del Proxy.

  3. 03

    Eliminar modelo

    Elimina despliegues de LLM con rutas específicas para evitar errores 500 de forma dinámica.

  4. 04

    Generar clave API

    Crea nuevas claves de proxy para aislar microservicios o equipos específicos.

Set de capacidades02 / 03

05-07

3 capacidades en este set.

Parte de 10 disponibles a través de LiteLLM.

  1. 05

    Consultar clave

    Obtén la configuración y los límites de presupuesto de una clave API de LiteLLM específica.

  2. 06

    Consultar modelo

    Obtén los endpoints para rastrear rutas de respaldo como OpenAI hacia Anthropic.

  3. 07

    Consultar equipo

    Accede a los límites de la lógica interna para múltiples usuarios mediante el UUID del equipo.

Set de capacidades03 / 03

08-10

3 capacidades en este set.

Parte de 10 disponibles a través de LiteLLM.

  1. 08

    Crear modelo

    Añade nuevos endpoints de enrutamiento, como nuevos despliegues de Bedrock Llama 4.

  2. 09

    Eliminar clave API

    Suprime por completo una clave de proxy de LLM existente.

  3. 10

    Consultar usuario

    Obtén datos precisos de usuarios finales para rastrear el consumo total en USD.

Trabajo real

Lo que los equipos ejecutan de verdad

01

Microservice Isolation

Generate unique API keys for every new microservice to keep their usage and costs separate.

02

Budget Control

Set hard monthly limits for specific departments to prevent unexpected overages.

03

Dynamic Routing

Add new model endpoints to your proxy on the fly to improve reliability.

04

Cost Auditing

Ask your agent for a breakdown of token spend per user to identify high-cost accounts.

Automatiza una tarea

Pon LiteLLM a trabajar en una cosa.

Automatizaciones paso a paso que tu IA ejecuta a través de este Connector: el flujo de trabajo, los prompts para empezar y las capabilities exactas detrás de cada paso.

Un connector, todas las IAs

LiteLLM funciona con los clientes de IA más populares.

Estos son los clientes más populares, cada uno con una guía paso a paso: un enlace, configurado una vez, con gobernanza y visibilidad integradas. Y como todo corre sobre el estándar MCP, la misma conexión también funciona en cualquier otro cliente compatible: nada que reconstruir.

ClaudeClaudeChatGPTChatGPTGeminiGeminiPerplexityPerplexityGrokGrokMicrosoft CopilotMicrosoft CopilotCursorCursorVS CodeVS CodeWindsurfWindsurfJetBrainsJetBrainsClineClineLangChainLangChainVercel AI SDKVercel AI SDKLovableLovableZ.aiZ.aiRaycastRaycastQwen CodeQwen CodeKimi CodeKimi CodeLe ChatLe Chat

¿Construyendo tu propia app? El connector es tuyo para usar.

No necesitas un cliente para poner LiteLLM a trabajar: la misma conexión alojada se conecta a tus propias aplicaciones y al código de tu agente, con la misma gobernanza en cada petición. Construye con él, conversa con él: una conexión para ambos.

Observada, no estimada

Promedio de 946ms. Rápida en producción.

LiteLLM se verifica a diario contra el servicio en producción.

Promedio diarioPico de 971ms
15 octHoy
Día más rápido
855ms
Día más lento
971ms
Tendencia de 14 días
Mejorando-12%

Conecta tu cliente

Una URL. Todos los clientes.

Activa el Connector, copia tu enlace y pégalo en el cliente que ya usas. 10 capacidades llegan listas para funcionar.

Acceso de vista previa · no es autenticación del proveedor

El token vk_preview_* pertenece a la infraestructura de vista previa de Vinkius. Permite que Claude descubra y muestre las capacidades de LiteLLM, para que veas la experiencia dentro de tu IA.

No autentica tu cuenta con LiteLLM. Las acciones que requieran credenciales o datos reales de la cuenta podrían no ejecutarse hasta que actives el Connector y autorices el servicio.

LiteLLM Connector

Todo listo. Elige tu cliente MCP y sigue las instrucciones de configuración.

Enlace del conectorhttps://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp

Claude Desktop

Sigue los pasos siguientes para conectarte en segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
Configuración · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "litellm-llm-proxy-spend-tracking-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Las instrucciones paso a paso para cada cliente están en la guía. Cómo conectar

¿Configuración guiada para Claude? Conectar LiteLLM con Claude y otras IA

Ve todos los clientes de IA con los que funciona este connector ↑

Para quién es

Hecho para el trabajo que quienes usan LiteLLM delegan.

Diseñado para profesionales que gestionan infraestructuras de inteligencia artificial a escala.

  • 01

    Ingenieros de Plataforma

    Para gestionar configuraciones globales de gateways de LLM y auditar rutas de respaldo.

  • 02

    Equipos de AI Ops

    Para supervisar el gasto de IA en tiempo real y ajustar presupuestos entre múltiples proveedores.

  • 03

    Desarrolladores Backend

    Para generar subclaves para microservicios y verificar la disponibilidad de modelos sin salir del IDE.

FAQ

Preguntas de quienes usan LiteLLM.

  • 01

    How do I connect this MCP to my LiteLLM instance?

    You need to provide your LiteLLM API URL and your Master Key during the Vinkius setup process. Once entered, the connection is ready to use in your AI client.

  • 02

    Can I use this with Cursor or VS Code?

    Yes, this MCP works with any MCP-compatible client, including Cursor, Windsurf, and VS Code.

  • 03

    How does it help with cost management?

    The MCP allows you to create teams with specific budget limits and query the exact USD spent by any user or team.

  • 04

    Can I change model routing without restarting the proxy?

    Yes, you can use the capability to inject new routing endpoints or delete existing ones dynamically.

  • 05

    Is it possible to isolate different teams?

    Yes, you can use the create_team capability to establish organizational isolation and track costs per division.

  • 06

    Can I check the budget and rate limits for a specific proxy key?

    Yes. Use the get_key_info capability with the specific Key ID. Your agent will retrieve the exact rate limits, budget constraints, and current RPM usage associated with that token.

  • 07

    How do I see the model fallback paths configured in my proxy?

    The get_model_info capability allows your agent to extract the global model directory. You'll see the exact fallback chains (e.g., if OpenAI fails, use Anthropic) and the physical endpoints assigned to each model name.

  • 08

    Can my agent create a new team to track specific division costs?

    Absolutely. Use the create_team capability and provide a JSON payload defining the team name and optional budget limits. Your agent will provision the new team identity in LiteLLM, allowing for precise organizational cost tracking.

Explora

Más en AI Frontier

Sugerencias

Conecta LiteLLM a Claude, Cursor, ChatGPT y más