• INVENTÁRIO
  • CAPACIDADE
  • AUTOMAÇÃO
  • HUMANO

Como escalar réplicas de modelos com sua IA

Conecte o NVIDIA NIM ao seu cliente de IA uma única vez. A partir daí, seu agente gerencia a relação entre seu inventário de modelos e a capacidade do hardware.

Pergunte à IA sobre esta página

Resposta rápida

Como posso escalar réplicas de modelos usando minha IA?

Sua IA verifica o inventário atual de modelos e utiliza as ferramentas disponíveis para ajustar o número de réplicas com base na sua demanda de capacidade. Isso mantém o uso do hardware alinhado às necessidades dos seus modelos ativos.

Resultados da escala

Onde a capacidade encontra a demanda

O que acontece quando sua IA gerencia suas réplicas.

INVENTÁRIO

Contagem de modelos em tempo real

A IA consulta sua lista atual de modelos para ver exatamente o que está rodando. Você tem uma visão precisa do seu inventário ativo.

CAPACIDADE

Uso equilibrado de hardware

A IA ajusta as réplicas para garantir que você não tenha recursos sobrando nem faltando. Seu hardware acompanha sua carga de trabalho.

AUTOMAÇÃO

Escala sem intervenção

Depois de definir a lógica, a IA cuida dos cálculos e da execução. Você deixa de calcular manualmente a necessidade de réplicas.

HUMANO

Controle manual

A IA cuida dos ajustes rotineiros, mas você mantém o controle total. Você decide quando intervir e alterar as configurações.

O fluxo

O que sua IA faz quando recebe o comando.

A IA cuida do trabalho pesado de verificar o inventário e enviar comandos de escala.

  1. Auditar inventário

    A IA analisa sua implantação atual para identificar quais modelos estão ativos e quantas réplicas estão rodando.

    nim_list_models

  2. Calcular necessidades

    Seu agente compara a lista de modelos ativos com suas metas de capacidade para encontrar a diferença.

    nim_list_models

  3. Ajustar réplicas

    A IA executa o comando para aumentar ou diminuir o número de réplicas de modelos específicos.

    nim_scale_replicas

  4. Verificar estado

    A IA consulta o inventário novamente para confirmar que o comando de escala foi concluído com sucesso.

    nim_list_models

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar o gerenciamento de suas réplicas.

Pontos de partida

Estes são apenas exemplos. Substitua os nomes dos modelos ou o número de réplicas pela sua configuração real.

NVIDIA NIM Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — NVIDIA NIM capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "nvidia-nim-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_70BV0qtRSn6oYi65LbVY4KDoGOvWiulNTIr6cS4G/mcp"
    }
  }
}
Copie no chat04

  • Liste todos os meus modelos atuais e diga quantas réplicas estão rodando para cada um.

  • Escalar o modelo Llama-3-70b para 5 réplicas.

  • Verificar meu inventário de modelos e dizer se tenho capacidade suficiente para uma nova implantação.

  • Reduzir o número de réplicas do meu modelo Mistral para 2.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o NVIDIA NIM uma vez e pronto.

Basta vincular sua conta uma única vez. Suas credenciais ficam criptografadas e você pode começar a enviar comandos para seu cliente de IA imediatamente.

Conectar NVIDIA NIM à sua IA

FAQ

Como esta tarefa funciona

  • 01

    A IA pode excluir meus modelos?

    Não. A IA só pode ajustar o número de réplicas de modelos já existentes.

  • 02

    A IA vai alterar minha configuração de hardware?

    Não. A IA apenas ajusta a contagem de réplicas dos modelos, não as configurações de hardware subjacentes.

  • 03

    A IA precisa do meu login toda vez?

    Não. Você se conecta uma vez e a conexão permanece ativa através do Vinkius.

  • 04

    Posso ver quais modelos estão rodando agora?

    Sim. A IA pode extrair uma lista completa dos seus modelos ativos e suas contagens de réplicas atuais.

  • 05

    A IA pode escalar modelos que ainda não implantei?

    Não. A IA só consegue escalar modelos que já constam no seu inventário ativo.

  • Mais dúvidas sobre o NVIDIA NIM? A página do Connector responde. Veja tudo o que o NVIDIA NIM Connector pode fazer

Conecte NVIDIA NIM ao Claude, Cursor, ChatGPT e outros