AIからBasetenのモデル予測を実行する方法

Baseten上にデプロイされたモデルへ、データペイロードを直接送信します。AIがその接続を利用して推論をトリガーし、モデルの応答をチャットインターフェースに返します。これにより、クライアントを離れることなく、ウェイトのテストや出力の検証が可能です。

1. 01

   利用可能なモデルの特定

   AIは、現在デプロイされており推論に使用できる特定のモデルエンドポイントを確認します。

   list_models
2. 02

   ペイロードの整形

   エージェントが自然言語によるリクエストを、モデルが期待する特定のJSON形式に変換します。

   predict
3. 03

   推論の実行

   AIが整形されたデータをBasetenエンドポイントに送信し、GPUのワークロードをトリガーします。

   predict
4. 04

   結果の提供

   AIがモデルからの生出力を受け取り、チャット画面に表示します。

   predict

Baseten Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcpコピー

Claude Desktop

以下の手順で数秒で接続できます。

1. 1In Claude Desktop, open Settings → Connectors.
2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
3. 3Click Add and start a new chat — Baseten capabilities are ready to use.

設定 · claude_desktop_config.jsonコピー

{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}

• Claude
• ChatGPT
• Cursor
• VS Code
• Windsurf
• Claude Code
• JetBrains
• Cline

アカウントの連携は一度だけで済みます。認証情報は暗号化され、すぐに予測を実行できるようになります。

• 01

  AIを使ってBasetenに新しいモデルをデプロイできますか？

  いいえ。AIは、アカウントに既にデプロイされ、リストに登録されているモデルとやり取りすることしかできません。

• 02

  AIがGPUインスタンスのタイプを変更することはできますか？

  いいえ。AIは既存のエンドポイントに対して予測を実行するだけで、Basetenのインフラやハードウェア設定を変更することはできません。

• 03

  AIはどのモデルを使うべきかどうやって判断しますか？

  利用可能なモデルのリストを参照し、指示されたタスクに適したエンドポイントを特定します。

• 04

  AIは入力した生データを見ることができますか？

  はい。モデルの予測用にペイロードを整形するために、AIは入力内容を処理する必要があります。

• 05

  モデルのコスト監視にこれを使えますか？

  いいえ。このconnectorは予測の実行とモデルのリスト取得のためのものであり、請求情報や使用量メトリクスにアクセスするためのものではありません。

• Basetenについてさらに詳しく知りたいですか？ Baseten Connectorの全機能を見る