An astronaut overseeing a futuristic data hub
Baixar PDFVersão em Markdown

Conecte Litellm LLM Proxy Spend Tracking ao ChatGPT e Claude

Configure uma vez e funcione no ChatGPT, Claude, Cursor e em qualquer outro cliente que você goste. Tudo roda com segurança em segundo plano, para você relaxar e focar no que realmente importa. Gerencie gastos, chaves de API e rotas de modelos de forma direta.

Pergunte à IA sobre este Connector

Desenvolvido, mantido e hospedado pela Vinkius.

MCP VERIFICADO · PRONTO PARA PRODUÇÃO · GARANTIA VINKIUS

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

A sua IA faz o trabalho. A gente cuida com segurança.

Nenhuma outra ferramenta de IA te dá isso. O seu workflow roda no cliente que você já ama, a sua conta fica protegida, e você decide o que o agente pode e não pode fazer. É a razão completa para mudar de vez.

Cada Connector vive dentro da nossa infraestrutura, no mesmo lugar onde o seu workflow roda. As três coisas abaixo já fazem parte dele, trabalhando silenciosamente em segundo plano para que você nunca precise pensar nelas. Nada para adicionar, nada para configurar, nada com que se preocupar.

A futuristic MCP client docking bay
V8 Isolate01

Cada Connector roda dentro do seu próprio ambiente lacrado.

Cada Connector roda em seu próprio runtime V8 lacrado — sem acesso aos seus arquivos, ao seu sistema ou a outros servidores. Um Connector nunca enxerga além da sua própria requisição.

Kill Switch02

Um interruptor para todos os agentes. Na hora.

Uma única ação desativa todos os Connectors, revoga todos os tokens e encerra todas as sessões de uma vez. A Governança de IA guarda o registro.

FinOps por usuário03

Limites de gastos que pausam em vez de assustar.

Cada usuário tem suas próprias conexões e credenciais, isoladas das dos demais. O que ultrapassar o seu limite de gastos fica aguardando a sua aprovação, em vez de ser cobrado.

Três controles, embutidos na camada pela qual sua IA se conecta.

Conjunto curado · 10 capacidades

Entregamos só as ações que importam.

Conjunto de capacidades01 / 03

01-04

4 capacidades neste conjunto.

Parte de 10 disponíveis através de LiteLLM.

  1. 01

    Criar time

    Gera isolamento organizacional para rastrear limites de custos exatos por divisão.

  2. 02

    Criar usuário

    Insere identidades de usuários finais para conectar o Vinkius aos logs do Proxy.

  3. 03

    Excluir modelo

    Remove implantações de LLM com rotas específicas para evitar erros 500 dinamicamente.

  4. 04

    Gerar chave de API

    Cria novas chaves de proxy para isolar diferentes microserviços ou equipes.

Conjunto de capacidades02 / 03

05-07

3 capacidades neste conjunto.

Parte de 10 disponíveis através de LiteLLM.

  1. 05

    Ver informações da chave

    Consulta a configuração e os limites de orçamento de uma chave de API LiteLLM específica.

  2. 06

    Ver informações do modelo

    Lista os endpoints para rastrear caminhos de fallback, como OpenAI para Anthropic.

  3. 07

    Ver informações do time

    Obtém os limites de lógica interna para múltiplos usuários via UUID do time.

Conjunto de capacidades03 / 03

08-10

3 capacidades neste conjunto.

Parte de 10 disponíveis através de LiteLLM.

  1. 08

    Criar modelo

    Insere novos endpoints de roteamento, como novas instâncias do Bedrock ou Azure OpenAI.

  2. 09

    Excluir chave

    Remove completamente uma chave de proxy de LLM existente.

  3. 10

    Ver informações do usuário

    Retorna dados precisos de usuários finais e o total de USD consumido.

Trabalho real

O que as equipes executam de verdade

01

Microservice Isolation

Generate unique API keys for every new microservice to keep their usage and costs separate.

02

Budget Control

Set hard monthly limits for specific departments to prevent unexpected overages.

03

Dynamic Routing

Add new model endpoints to your proxy on the fly to improve reliability.

04

Cost Auditing

Ask your agent for a breakdown of token spend per user to identify high-cost accounts.

Automatize uma tarefa

Coloque LiteLLM para trabalhar em uma coisa.

Automações passo a passo que sua IA executa por este Connector: o fluxo, os prompts para começar e as capabilities exatas por trás de cada passo.

Um connector, todas as IAs

LiteLLM funciona com os clientes de IA mais populares.

Estes são os clientes mais populares, cada um com um guia passo a passo: um link, configurado uma vez, com governança e visibilidade embutidas. E como tudo roda no padrão MCP, a mesma conexão também funciona em qualquer outro cliente compatível — nada para reconstruir.

ClaudeClaudeChatGPTChatGPTGeminiGeminiPerplexityPerplexityGrokGrokMicrosoft CopilotMicrosoft CopilotCursorCursorVS CodeVS CodeWindsurfWindsurfJetBrainsJetBrainsClineClineLangChainLangChainVercel AI SDKVercel AI SDKLovableLovableZ.aiZ.aiRaycastRaycastQwen CodeQwen CodeKimi CodeKimi CodeLe ChatLe Chat

Construindo o seu próprio app? O connector é seu para usar.

Você não precisa de um cliente para colocar LiteLLM para trabalhar: a mesma conexão hospedada entra nas suas aplicações e no código do seu agente, com a mesma governança em cada pedido. Construa com ele, converse com ele — uma conexão para os dois.

Observada, não estimada

Média de 946ms. Rápida em produção.

LiteLLM é verificado diariamente contra o serviço em produção.

Média diáriaPico de 971ms
15 de out.Hoje
Dia mais rápido
855ms
Dia mais lento
971ms
Tendência de 14 dias
Melhorando-12%

Conecte seu cliente

Uma URL. Todos os clientes.

Ative o Connector, copie seu link e cole no cliente que você já usa. 10 capacidades chegam prontas para rodar.

Acesso de prévia · não é autenticação no provedor

O token vk_preview_* pertence à infraestrutura de prévia da Vinkius. Ele permite que o Claude descubra e exiba as capacidades de LiteLLM, para você ver a experiência dentro da sua IA.

Ele não autentica a sua conta com LiteLLM. Ações que exigem credenciais ou dados reais da conta podem não ser executadas até que você ative o Connector e autorize o serviço.

LiteLLM Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — LiteLLM capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "litellm-llm-proxy-spend-tracking-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_km5X3hHTZMwK6l421yD2vEs8yb47UeU5zl6r4SJ6/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Instruções passo a passo para cada cliente estão no guia. Como conectar

Configuração guiada para o Claude? Configurar LiteLLM no Claude e outras IAs

Veja todos os clientes de IA com quem este connector funciona ↑

Para quem é

Feito para o trabalho que quem usa LiteLLM delega.

Ideal para profissionais que precisam de controle granular sobre infraestrutura de IA e custos operacionais.

  • 01

    Engenheiros de Plataforma

    Gerenciam configurações globais de gateways de LLM e auditam rotas de fallback via chat.

  • 02

    Equipes de AI Ops

    Monitoram gastos de IA em tempo real e ajustam orçamentos entre múltiplos provedores.

  • 03

    Desenvolvedores Backend

    Geram sub-chaves para novos microsserviços e verificam rotas de modelos sem sair da IDE.

FAQ

Perguntas de quem usa LiteLLM.

  • 01

    How do I connect this MCP to my LiteLLM instance?

    You need to provide your LiteLLM API URL and your Master Key during the Vinkius setup process. Once entered, the connection is ready to use in your AI client.

  • 02

    Can I use this with Cursor or VS Code?

    Yes, this MCP works with any MCP-compatible client, including Cursor, Windsurf, and VS Code.

  • 03

    How does it help with cost management?

    The MCP allows you to create teams with specific budget limits and query the exact USD spent by any user or team.

  • 04

    Can I change model routing without restarting the proxy?

    Yes, you can use the capability to inject new routing endpoints or delete existing ones dynamically.

  • 05

    Is it possible to isolate different teams?

    Yes, you can use the create_team capability to establish organizational isolation and track costs per division.

  • 06

    Can I check the budget and rate limits for a specific proxy key?

    Yes. Use the get_key_info capability with the specific Key ID. Your agent will retrieve the exact rate limits, budget constraints, and current RPM usage associated with that token.

  • 07

    How do I see the model fallback paths configured in my proxy?

    The get_model_info capability allows your agent to extract the global model directory. You'll see the exact fallback chains (e.g., if OpenAI fails, use Anthropic) and the physical endpoints assigned to each model name.

  • 08

    Can my agent create a new team to track specific division costs?

    Absolutely. Use the create_team capability and provide a JSON payload defining the team name and optional budget limits. Your agent will provision the new team identity in LiteLLM, allowing for precise organizational cost tracking.

Explore

Mais em AI Frontier

Sugestões

Conecte LiteLLM ao Claude, Cursor, ChatGPT e outros