• STATUS
  • RECURSOS
  • CONFIG
  • HUMANO

Como auditar implantações de modelos com sua IA

Conecte o Baseten ao seu cliente de IA uma única vez. Depois disso, seu agente pode buscar dados reais de implantação para verificar o status da sua infraestrutura.

Pergunte à IA sobre esta página

Resposta rápida

Como posso auditar minhas implantações de modelos usando IA?

Seu cliente de IA busca dados em tempo real do Baseten para verificar contagem de réplicas, configurações de autoscaling e limites de inferência. Você obtém uma visão clara da sua infraestrutura ativa por meio de consultas diretas. Este detalhamento mostra como seu agente realiza a auditoria.

Resultados da auditoria

Para onde vão seus dados.

O que acontece quando seu agente analisa sua configuração no Baseten.

STATUS

Verificação de implantações

A IA busca as contagens de réplicas atuais e as configurações de escala. Você vê exatamente como seus modelos estão rodando agora.

RECURSOS

Inventário de modelos

Seu agente lista todos os modelos da sua conta. Isso ajuda a identificar modelos ociosos ou redundantes rapidamente.

CONFIG

Auditoria de escala

A IA revisa os limites de autoscaling e de inferência. Você consegue identificar se suas configurações condizem com o tráfego real.

HUMANO

Ajustes manuais

A IA identifica problemas, mas não altera configurações. Você deve acessar o Baseten para corrigir qualquer erro de configuração.

O fluxo

O que sua IA faz ao receber o pedido de auditoria.

O agente passa de uma descoberta ampla para verificações de configuração específicas.

  1. Varredura de inventário

    Seu agente começa buscando uma lista completa de todos os modelos disponíveis na sua conta Baseten.

    list_models

  2. Descoberta de implantações

    A IA identifica cada implantação ativa que está executando esses modelos no momento.

    list_deployments

  3. Análise detalhada

    Seu agente busca detalhes específicos de configuração de uma única implantação para verificar seus limites.

    get_deployment

  4. Geração de relatório

    A IA compara as contagens de réplicas e as configurações de escala obtidas com os seus requisitos.

    get_deployment

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar sua auditoria.

Pontos de partida

Estes são apenas exemplos. Substitua os nomes de implantação ou IDs de modelos pelos dados reais da sua conta Baseten.

Baseten Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
Copie no chat04

  • Liste todos os meus modelos no Baseten e me diga quais estão implantados no momento.

  • Verifique a contagem de réplicas e as configurações de autoscaling da minha implantação 'llama-3-70b'.

  • Alguma das minhas implantações no Baseten está rodando com contagem de réplicas insuficiente?

  • Mostre os limites de inferência para a implantação do modelo 'stable-diffusion-v1'.

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o Baseten uma vez e depois é só perguntar.

Você só precisa vincular sua conta uma vez. Suas credenciais ficam criptografadas e você pode começar a fazer perguntas sobre suas implantações imediatamente.

Conectar Baseten à sua IA

FAQ

Como funciona esta tarefa

  • 01

    A IA pode alterar minhas configurações de autoscaling?

    Não. A IA só consegue ler suas configurações atuais. Qualquer alteração deve ser feita manualmente no painel do Baseten.

  • 02

    A IA pode excluir uma implantação se ela parecer ineficiente?

    Não. A IA não tem permissão para excluir ou modificar suas implantações.

  • 03

    Como a IA sabe quais modelos eu tenho?

    Ela utiliza a ferramenta list_models para buscar todo o seu inventário de modelos.

  • 04

    Posso auditar os custos das minhas implantações?

    Não. Este conector fornece acesso apenas à contagem de implantações, escala e dados dos modelos.

  • 05

    A IA tem acesso aos pesos dos meus modelos?

    Não. A IA visualiza apenas os metadados da implantação e as configurações de sistema.

  • Mais dúvidas sobre o Baseten? A página do Connector responde. Veja tudo o que o Baseten Connector pode fazer

Conecte Baseten ao Claude, Cursor, ChatGPT e outros