• 監視
  • 保護
  • 監査
  • 手動操作

AIを活用してLLMの予算ポリシーを自動で適用する方法

Portkeyをエージェントに接続すれば、トークン消費量をリアルタイムで追跡し、コストの暴走を未然に止めることができます。

このページについてAIに聞く

すぐに答え

AIによるトークンの過剰消費を防ぐには?

エージェントがPortkeyを使用して使用ログを取得し、特定の支出制限を適用します。一定のしきい値に達した際に動作するハードリミットを設定できるため、エージェントの支出を自動的に予算内に収めることが可能です。

すべての制限をコントロール

予算管理の成果

AIがPortkeyの設定を管理し、コストを予測可能な状態に保ちます。

監視

リアルタイムの使用量追跡

エージェントが最新のログを取得し、使用したトークン量を正確に示します。現在の支出状況を明確に把握できます。

保護

支出の上限設定

エージェントが新しいポリシーを作成し、制限に達したリクエストを遮断します。ループによる高額請求を防ぎます。

監査

ポリシー管理

エージェントが既存のルールをリストアップし、制限の重複や競合がないか確認します。常に透明性を維持できます。

手動操作

人間による監督

古いルールの削除やしきい値の調整は、あなた自身が行います。AIは変更を提案しますが、最終決定権はあなたにあります。

ワークフロー

予算を超過した際、AIが実行すること

エージェントがLLM呼び出しの財務監視役として機能します。

  1. 使用量の分析

    エージェントが最新のトークン消費量をチェックし、制限に近づいていないかを確認します。

    list_logs
  2. ルールの確認

    現在適用されているPortkeyの設定を確認し、どのような制約があるかを把握します。

    list_policies
  3. 制限の適用

    特定の予算に達した場合に、それ以上のリクエストをブロックする新しいポリシーを作成します。

    create_policy
  4. クリーンアップ

    不要になったポリシーがある場合、エージェントがそれを削除して設定を整理します。

    delete_policy

試してみる

以下のプロンプトをコピーして開始

これらのプロンプトを使って、Portkeyの予算管理を開始しましょう。

出発点

ポリシー名やトークン数は、ご自身の要件に合わせて書き換えてください。

Portkey Connector

準備完了です。MCPクライアントを選択し、セットアップ手順に従ってください。

コネクタリンクhttps://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp

Claude Desktop

以下の手順で数秒で接続できます。

  1. 1In Claude Desktop, open Settings → Connectors.
  2. 2Click “Add custom connector” and paste the connector link above as the remote MCP server URL.
  3. 3Click Add and start a new chat — Portkey capabilities are ready to use.
設定 · claude_desktop_config.jsonコピー
{
  "mcpServers": {
    "portkey-mcp": {
      "url": "https://edge.vinkius.com/vk_preview_BpHtQMK896fkGyepmah9cM552NpibU6fUP5BakNG/mcp"
    }
  }
}
チャットにコピー04
  • 今日のPortkeyの使用ログを確認して、トークンをどれくらい使ったか教えて。

  • 現在設定されているPortkeyのポリシーをすべてリストアップして、有効な制限を確認したい。

  • このプロジェクトのトークン消費を制限するために、新しいPortkeyポリシーを作成して。

  • 「test-limit-123」という名前の古い予算ポリシーを削除して。

  • Claude
  • ChatGPT
  • Cursor
  • VS Code
  • Windsurf
  • Claude Code
  • JetBrains
  • Cline

ここから始める

Portkeyを接続して、指示を出すだけ

Portkeyアカウントを連携させるだけで準備完了です。認証情報は暗号化されて保護されるため、すぐにエージェント経由で制限の管理を開始できます。

PortkeyをAIに接続する

FAQ

動作について

  • 01

    AIがPortkeyの支払い設定を直接変更することはありませんか?

    ありません。AIは提供されたツールを通じてポリシーとログを管理するだけで、クレジットカード情報や請求アカウントにアクセスすることはできません。

  • 02

    AIが確認なしにポリシーを削除することはありませんか?

    ありません。エージェントは、プロンプトで明示的に指示があった場合にのみポリシーを削除します。

  • 03

    どのモデルが最もコストをかけているか特定できますか?

    はい。エージェントがログを取得し、どのモデルがトークン消費の主な要因となっているかを特定するお手伝いをします。

  • 04

    コストが高すぎるリクエストを、AIが自動的に停止することはありますか?

    はい。エージェントが作成または確認したポリシーが設定されていれば、Portkeyがその制限を適用してリクエストを停止します。

  • 05

    特定のAPIキーに対してポリシーを作成できますか?

    はい。エージェントは、異なるキーやプロジェクトごとに制約を管理するためのポリシーを作成できます。

  • Portkeyに関するその他の質問 Portkey Connectorの全機能を見る

『Portkey』を Claude、Cursor、ChatGPT などに接続