• STATUS
  • RESOURCES
  • CONFIG
  • HUMAN

AIを活用してBasetenのモデルデプロイメントを監査する方法

BasetenをAIクライアントに一度接続するだけで、エージェントが最新のデプロイメントデータを取得し、インフラの状態をチェックできるようになります。

このページについてAIに聞く

すぐに答え

AIでモデルデプロイメントを監査するには?

AIクライアントがBasetenからリアルタイムデータを取得し、レプリカ数、オートスケーリング設定、推論境界を確認します。直接クエリを投げることで、稼働中のインフラ状況を明確に把握できます。以下のプロセスでエージェントが監査を実行します。

監査の結果

データの活用先

エージェントがBasetenの設定をスキャンした際のアウトカムです。

STATUS

デプロイ状況の確認

AIが現在のレプリカ数やスケーリング構成を取得します。モデルが今どのように稼働しているかを正確に把握できます。

RESOURCES

モデルの棚卸し

アカウント内の全モデルをエージェントがリストアップします。未使用のモデルや重複しているモデルを素早く特定できます。

CONFIG

スケーリング監査

AIがオートスケーリングの制限や推論境界を検証します。設定が実際のトラフィックに見合っているかを確認可能です。

HUMAN

手動での調整

AIは問題の特定は行いますが、設定の変更はできません。設定ミスを修正するには、Basetenにログインして手動で行う必要があります。

ワークフロー

監査リクエストを受けた際のAIの動き

エージェントは全体的な調査から、個別の設定確認へと進みます。

  1. インベントリのスキャン

    エージェントはまず、Basetenアカウント内で利用可能なすべてのモデルのリストを取得します。

    list_models
  2. デプロイメントの特定

    AIは、それらのモデルを実行しているすべての稼働中のデプロイメントを特定します。

    list_deployments
  3. 詳細分析

    エージェントは特定のデプロイメントの詳細な構成情報を取得し、境界値などを検証します。

    get_deployment
  4. レポート作成

    AIは取得したレプリカ数やスケーリング設定を、要件と照らし合わせて比較します。

    get_deployment

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使って監査を開始できます。

出発点

これらは入力例です。実際のBaseten環境に合わせて、デプロイメント名やモデルIDを書き換えて使用してください。

Baseten Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Baseten capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "baseten-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_Iok4x74580t8DfXgX0kQJnXTan6vttePrqZ5XRGU/mcp"
    }
  }
}
チャットにコピー04
  • Baseten内のすべてのモデルをリストアップし、現在デプロイされているものを教えてください。

  • 「llama-3-70b」デプロイメントのレプリカ数とオートスケーリング設定を確認してください。

  • Basetenのデプロイメントの中で、レプリカ数が不足しているものはありますか?

  • 「stable-diffusion-v1」モデルデプロイメントの推論境界を教えてください。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

一度接続すれば、あとは聞くだけです

アカウントの連携は一度だけで完了します。認証情報は暗号化されて保持されるため、すぐにデプロイメントに関する質問を開始できます。

BasetenをAIに接続する

FAQ

動作に関する詳細

  • 01

    AIはオートスケーリング設定を変更できますか?

    いいえ。AIは現在の設定を読み取ることしかできません。変更を行うには、Basetenのダッシュボードから手動で行う必要があります。

  • 02

    非効率なデプロイメントをAIが削除することはできますか?

    いいえ。AIにはデプロイメントを削除したり、変更したりする権限はありません。

  • 03

    AIはどのようにして所有しているモデルを把握するのですか?

    list_modelsツールを使用して、モデルのインベントリ全体を取得します。

  • 04

    デプロイメントのコストを監査することはできますか?

    いいえ。このコネクターがアクセスできるのは、デプロイメント数、スケーリング、およびモデルデータのみです。

  • 05

    AIはモデルの重み(weights)を見ることができますか?

    いいえ。AIが参照できるのは、デプロイメントのメタデータと構成設定のみです。

  • Basetenについてさらに詳しく知りたいですか? Baseten Connectorの全機能を見る

『Baseten』を Claude、Cursor、ChatGPT などに接続