An astronaut overseeing a futuristic data hub
Baixar PDFVersão em Markdown

Conecte GPU Inference Memory Calculator ao ChatGPT e Claude

Configure uma vez e funcione no ChatGPT, Claude, Cursor e em qualquer outro cliente que você goste. Tudo roda com segurança em segundo plano, para você relaxar e focar no que realmente importa. Planeje o uso de VRAM para seus modelos de linguagem

Pergunte à IA sobre este Connector

Desenvolvido, mantido e hospedado pela Vinkius.

MCP VERIFICADO · PRONTO PARA PRODUÇÃO · GARANTIA VINKIUS

Waiting for input…

Works with modern AI clients that support MCP, including ChatGPT, Claude, Cursor, and more.

ChatGPTClaudeCursorPerplexityGeminiMicrosoft CopilotRaycastMeta AI

A sua IA faz o trabalho. A gente cuida com segurança.

Nenhuma outra ferramenta de IA te dá isso. O seu workflow roda no cliente que você já ama, a sua conta fica protegida, e você decide o que o agente pode e não pode fazer. É a razão completa para mudar de vez.

Cada Connector vive dentro da nossa infraestrutura, no mesmo lugar onde o seu workflow roda. As três coisas abaixo já fazem parte dele, trabalhando silenciosamente em segundo plano para que você nunca precise pensar nelas. Nada para adicionar, nada para configurar, nada com que se preocupar.

A futuristic MCP client docking bay
V8 Isolate01

Cada Connector roda dentro do seu próprio ambiente lacrado.

Cada Connector roda em seu próprio runtime V8 lacrado — sem acesso aos seus arquivos, ao seu sistema ou a outros servidores. Um Connector nunca enxerga além da sua própria requisição.

Kill Switch02

Um interruptor para todos os agentes. Na hora.

Uma única ação desativa todos os Connectors, revoga todos os tokens e encerra todas as sessões de uma vez. A Governança de IA guarda o registro.

FinOps por usuário03

Limites de gastos que pausam em vez de assustar.

Cada usuário tem suas próprias conexões e credenciais, isoladas das dos demais. O que ultrapassar o seu limite de gastos fica aguardando a sua aprovação, em vez de ser cobrado.

Três controles, embutidos na camada pela qual sua IA se conecta.

Conjunto curado · 4 capacidades

Entregamos só as ações que importam.

Conjunto de capacidades01 / 01

01-04

4 capacidades neste conjunto.

Parte de 4 disponíveis através de GPU Inference Memory Calculator.

  1. 01

    Estimar VRAM total

    Calcula o total de VRAM necessário para rodar um tamanho de batch específico.

  2. 02

    Calcular capacidade máxima de batch

    Determina o maior tamanho de batch possível que cabe no limite de memória de uma GPU específica.

  3. 03

    Obter cache KV por requisição

    Calcula o consumo de memória do cache Key-Value para uma única requisição de inferência.

  4. 04

    Ver tamanho dos pesos do modelo

    Calcula a quantidade de VRAM necessária apenas para carregar os parâmetros do modelo (ex: FP32, FP16, BF16, INT8, INT4).

Trabalho real

O que as equipes executam de verdade

01

Hardware Budgeting

Determine if a single A100 or H100 can handle your target model and batch size.

02

Quantization Testing

Compare the memory savings when switching from FP16 to INT4 weights.

03

Scaling Inference

Calculate how many users can be served simultaneously on a specific GPU setup.

04

Architecture Analysis

Estimate how context length increases will impact your total VRAM usage.

Um connector, todas as IAs

GPU Inference Memory Calculator funciona com os clientes de IA mais populares.

Estes são os clientes mais populares, cada um com um guia passo a passo: um link, configurado uma vez, com governança e visibilidade embutidas. E como tudo roda no padrão MCP, a mesma conexão também funciona em qualquer outro cliente compatível — nada para reconstruir.

ClaudeClaudeChatGPTChatGPTGeminiGeminiPerplexityPerplexityGrokGrokMicrosoft CopilotMicrosoft CopilotCursorCursorVS CodeVS CodeWindsurfWindsurfJetBrainsJetBrainsClineClineLangChainLangChainVercel AI SDKVercel AI SDKLovableLovableZ.aiZ.aiRaycastRaycastQwen CodeQwen CodeKimi CodeKimi CodeLe ChatLe Chat

Construindo o seu próprio app? O connector é seu para usar.

Você não precisa de um cliente para colocar GPU Inference Memory Calculator para trabalhar: a mesma conexão hospedada entra nas suas aplicações e no código do seu agente, com a mesma governança em cada pedido. Construa com ele, converse com ele — uma conexão para os dois.

Observada, não estimada

Média de 708ms. Rápida em produção.

GPU Inference Memory Calculator é verificado diariamente contra o serviço em produção.

Média diáriaPico de 884ms
3 de out.Hoje
Dia mais rápido
559ms
Dia mais lento
884ms
Tendência de 14 dias
Desacelerando+7%

Conecte seu cliente

Uma URL. Todos os clientes.

Ative o Connector, copie seu link e cole no cliente que você já usa. 4 capacidades chegam prontas para rodar.

Acesso de prévia · não é autenticação no provedor

O token vk_preview_* pertence à infraestrutura de prévia da Vinkius. Ele permite que o Claude descubra e exiba as capacidades de GPU Inference Memory Calculator, para você ver a experiência dentro da sua IA.

Ele não autentica a sua conta com GPU Inference Memory Calculator. Ações que exigem credenciais ou dados reais da conta podem não ser executadas até que você ative o Connector e autorize o serviço.

GPU Inference Memory Calculator Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_Po32HLoFfJyACkPs6caCBt7wRipx1gN5av2RafWO/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — GPU Inference Memory Calculator capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "gpu-inference-memory-calculator-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Po32HLoFfJyACkPs6caCBt7wRipx1gN5av2RafWO/mcp"
    }
  }
}
  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Instruções passo a passo para cada cliente estão no guia. Como conectar

Configuração guiada para o Claude? Configurar GPU Inference Memory Calculator no Claude e outras IAs

Veja todos os clientes de IA com quem este connector funciona ↑

Para quem é

Feito para o trabalho que quem usa GPU Inference Memory Calculator delega.

Desenvolvedores e engenheiros de IA que precisam dimensionar infraestrutura de hardware para rodar modelos de linguagem de forma eficiente.

  • 01

    Engenheiro de ML

    Profissionais que precisam prever o consumo de recursos para treinamento e inferência.

  • 02

    Arquiteto de Infraestrutura

    Responsáveis por dimensionar clusters de GPU para produção.

  • 03

    Pesquisador de IA

    Usuários que testam diferentes precisões e arquiteturas de modelos.

FAQ

Perguntas de quem usa GPU Inference Memory Calculator.

  • 01

    What precisions does this MCP support?

    It supports FP32, FP16, BF16, INT8, and INT4 for weight size calculations.

  • 02

    How does it calculate KV cache size?

    It uses model architecture details like the number of layers, number of heads, head dimension, and context length.

  • 03

    Can I use this to prevent OOM errors?

    Yes, you can use the batch capacity capability to find the maximum number of requests that fit within your specific VRAM limit.

  • 04

    Does it account for both weights and cache?

    Yes, the total VRAM estimation capability combines model weight memory and KV cache overhead.

  • 05

    Which AI clients can use this MCP?

    You can connect it to any MCP-compatible client like Claude, Cursor, or Windsurf.

  • 06

    What precision modes are supported?

    The calculator supports FP32, FP16, BF16, INT8, and INT4 precision modes.

  • 07

    How do I calculate the total VRAM for a batch?

    You can use the estimate_total_vram capability by providing the pre-calculated weight memory, KV cache size per request, and your desired batch size.

  • 08

    Can I determine the maximum number of concurrent requests for my GPU?

    Yes, use calculate_max_batch_capacity by providing your total VRAM budget, model weight memory, and KV cache size per request.

Explore

Mais em LLM Inference

Sugestões

Conecte GPU Inference Memory Calculator ao Claude, Cursor, ChatGPT e outros