• ATIVO
  • ROTEAMENTO
  • CONTROLE
  • HUMANO

Como implantar inferência de modelos com sua IA

Conecte a CoreWeave ao seu cliente de IA para automatizar o gerenciamento de recursos de GPU. Você pode criar novas versões de modelos e configurar regras de roteamento em uma única interface de chat.

Pergunte à IA sobre esta página

Resposta rápida

Como eu implanto inferência de modelos com minha IA?

Você instrui sua IA a criar ou atualizar implantações na CoreWeave para hospedar seus modelos em GPUs. Ela também cuida da configuração do gateway para que seu tráfego chegue aos endpoints corretos. Você tem controle total sobre sua infraestrutura de inferência sem precisar abrir um dashboard.

Resultados da implantação

Resultados de infraestrutura

O que acontece quando sua IA interage com a CoreWeave.

ATIVO

Endpoints de modelos ativos

A IA configura os recursos de GPU necessários. Você recebe endpoints de inferência prontos para receber tráfego.

ROTEAMENTO

Gerenciamento de tráfego

Os gateways são configurados para apontar para suas versões específicas de modelos, garantindo que as requisições cheguem ao alvo certo.

CONTROLE

Atualização de versões

Você pode trocar versões de modelos ou ajustar implantações existentes. A IA executa as mudanças de configuração para você.

HUMANO

Supervisão manual

Você decide quando escalar ou encerrar uma implantação. A IA executa seus comandos específicos, mas não toma decisões autônomas de escala.

O fluxo

O que sua IA faz quando a tarefa chega.

Sua IA atua como a interface entre seus comandos em linguagem natural e a API da CoreWeave.

  1. Verificar estado atual

    A IA analisa o que está rodando na sua conta CoreWeave para entender sua configuração atual.

    list_deploymentslist_gateways

  2. Provisionar recursos

    A IA envia o comando para subir novas instâncias de GPU de acordo com os requisitos do seu modelo.

    create_deployment

  3. Atualizar versões

    Quando você precisa lançar um novo modelo, a IA modifica as configurações da implantação existente.

    update_deployment

  4. Rotear tráfego

    A IA configura ou altera gateways para garantir que as requisições cheguem aos endpoints de inferência corretos.

    create_gatewayupdate_gateway

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar o gerenciamento da sua infraestrutura CoreWeave.

Pontos de partida

Substitua o texto entre colchetes pelos nomes reais dos seus modelos ou IDs de implantação.

CoreWeave Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — CoreWeave capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "coreweave-ai-gpu-cloud-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_a151JnxoNH7y2muaVwaqzr9Q5YKz8wmiZJSE1HZv/mcp"
    }
  }
}
Copie no chat04

  • Liste todas as minhas implantações e gateways atuais da CoreWeave.

  • Crie uma nova implantação para o meu modelo 'llama-3-70b'.

  • Atualize a implantação chamada 'prod-inference' para usar a versão mais recente do modelo.

  • Crie um novo gateway para rotear o tráfego para o meu endpoint 'vision-model'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte a CoreWeave uma vez e depois é só pedir.

Vincule sua conta CoreWeave ao Vinkius. Suas credenciais ficam criptografadas e você pode começar a gerenciar implantações imediatamente pelo seu cliente de IA favorito.

Conectar CoreWeave à sua IA

FAQ

Como esta tarefa funciona

  • 01

    A IA pode excluir minhas implantações?

    Não. Não há nenhuma ferramenta fornecida para excluir implantações ou gateways, portanto a IA não consegue remover seus recursos.

  • 02

    A IA vai escalar meus GPUs automaticamente?

    Não. A IA apenas executa as ações específicas que você solicita, como criar ou atualizar uma implantação. Ela não monitora a carga nem escala de forma independente.

  • 03

    Como eu vejo o que está rodando no momento?

    Você pode pedir para sua IA listar suas implantações ou gateways para visualizar sua infraestrutura ativa.

  • 04

    Posso alterar a versão do modelo de uma implantação existente?

    Sim. Você pode pedir para a IA atualizar uma implantação existente com uma nova configuração de modelo.

  • 05

    A IA gerencia o faturamento da CoreWeave?

    Não. A IA gerencia apenas a implantação técnica e a configuração de gateways. Todo o faturamento é tratado diretamente pela CoreWeave.

  • Mais dúvidas sobre a CoreWeave? A página do Connector responde. Veja tudo o que o Connector da CoreWeave pode fazer

Conecte CoreWeave ao Claude, Cursor, ChatGPT e outros