• INFERÊNCIA
  • INVENTÁRIO
  • VALIDAÇÃO
  • HUMANO

Como executar previsões de modelos com seu AI

Conecte sua IA ao Baseten para acionar inferências em pesos hospedados. Você envia os dados e recebe os resultados na mesma conversa.

Pergunte à IA sobre esta página

Resposta rápida

Como posso executar previsões de modelos com minha IA?

Você envia os dados diretamente para os modelos implantados no Baseten. Sua IA usa essa conexão para acionar a inferência e traz a resposta do modelo para a sua interface de chat. Assim, você testa pesos e valida resultados sem sair do seu cliente.

O destino dos seus pedidos

Onde seus dados chegam

O que acontece após sua IA interagir com o Baseten.

INFERÊNCIA

Execuções em tempo real

Sua IA envia os dados para a GPU. Você recebe a previsão do modelo como texto ou dados estruturados.

INVENTÁRIO

Visibilidade de modelos

Seu agente identifica quais modelos estão ativos e prontos para uso, mantendo seus comandos precisos.

VALIDAÇÃO

Checagem de saída

Você pode pedir imediatamente para sua IA avaliar se a resposta do modelo atende aos seus requisitos.

HUMANO

Supervisão manual

Você decide se a previsão é boa o suficiente para seu app ou se precisa ajustar a entrada.

O fluxo

O que sua IA faz quando o pedido chega.

A IA gerencia a comunicação entre seu comando e o hardware da GPU.

  1. Identificar modelos disponíveis

    A IA verifica quais endpoints de modelos específicos estão implantados e prontos para inferência.

    list_models

  2. Formatar o payload

    Seu agente transforma seu pedido em linguagem natural no formato JSON que o modelo espera.

    predict

  3. Executar inferência

    A IA envia os dados formatados para o endpoint do Baseten para acionar a carga de trabalho na GPU.

    predict

  4. Entregar o resultado

    A IA recebe a saída bruta do modelo e a apresenta para você no chat.

    predict

Teste

Copie estes comandos para começar.

Use estes prompts para iniciar a interação com seus modelos.

Pontos de partida

Substitua os nomes dos modelos e os tipos de dados pelo seu caso de uso específico.

Baseten Connector

Tudo pronto. Escolha seu cliente MCP e siga as instruções de configuração.

Link do conectorhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

Siga os passos abaixo para conectar em segundos.

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
Configuração · claude_desktop_config.jsonCopiar
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
Copie no chat04

  • Liste meus modelos implantados para eu saber o que posso usar.

  • Execute uma previsão no meu modelo de geração de imagem usando esta descrição: um pôr do sol sobre uma cidade neon.

  • Teste meu modelo de análise de sentimento com o texto: 'O atendimento foi ok, mas a comida estava fria.'

  • Quais modelos tenho disponíveis agora?

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

Comece aqui

Conecte o Baseten uma vez e pronto.

Você só precisa vincular sua conta uma vez. Suas credenciais ficam criptografadas e você pode começar as previsões imediatamente.

Conectar Baseten à sua IA

FAQ

Perguntas frequentes

  • 01

    Minha IA pode implantar novos modelos no Baseten?

    Não. A IA só pode interagir com modelos que já estão implantados e listados na sua conta.

  • 02

    A IA pode alterar meus tipos de instância de GPU?

    Não. A IA apenas aciona previsões em endpoints existentes; ela não pode modificar sua infraestrutura ou configurações de hardware no Baseten.

  • 03

    Como a IA sabe qual modelo usar?

    Ela utiliza a lista de modelos disponíveis para identificar o endpoint correto para a tarefa que você descreveu.

  • 04

    A IA tem acesso aos meus dados brutos?

    Sim, a IA precisa processar sua entrada para formatar o payload para a previsão do modelo.

  • 05

    Posso usar isso para monitorar custos de modelos?

    Não. Este conector serve para executar previsões e listar modelos, não para acessar faturamento ou métricas de uso.

  • Mais dúvidas sobre o Baseten? A página do conector responde. Veja tudo o que o conector Baseten pode fazer

Conecte Baseten ao Claude, Cursor, ChatGPT e outros