Cloud/AI Governance/Circuit Breaker

Circuit Breaker

VinkiusについてAIに質問

予算の最後の防衛線です。スライディングウィンドウ内のリクエスト数に上限を設け、超過するとエージェントのトラフィックを自動的に停止させ、クールダウンの間保持し、再開の判断をあなたに委ねます。

Circuit Breaker は、使わずに済むことを願いつつ、存在してくれてよいと感じられる画面です。8つの Reports は何が起きたかを示します。このスイッチは、決して起きてはならないことを約束します。暴走したエージェントループは予算を燃やせません。リクエストレートが上限を超えると、エージェントのトラフィックが自ら停止するからです。コンソール自身の説明: "Automatically halts agent traffic when request rates exceed your defined budget ceiling."

R

Circuit Breaker Tripped

Agent traffic is currently halted. Your budget is protected. Approve resumption when ready.

Auto-resets in 15m 00s

Rate Protection

Automatically halts agent traffic when request rates exceed your defined budget ceiling.

Max Requests5,000

Maximum number of requests allowed within the detection window before the circuit breaker trips.

Detection Window5 min

Sliding time window in minutes used to count requests. Shorter windows detect spikes faster.

Cooldown Period15 min

Duration in minutes the circuit stays open before auto-resetting. You can also manually resume anytime.

Circuit breaker settings apply globally to all servers on your account.

Documentation
Circuit Breaker, live. Open mid incident, the way your team would meet it: the amber trip alert with the auto-reset countdown running by the second, the three policy sliders below, and Approve Resumption to release it.

モックアップは、インシデント時にチームがこの画面に出会うであろう状態で開きます。トリップし、トラフィックは停止し、auto-resetのカウントダウンがライブで進行しています。Approve Resumption をクリックして解放すると、ポリシーを定義する3つのスライダーが現れます。

アンバーの警告: 保護された予算

ブレーカーがトリップすると、アンバーのバナーがすべての上に現れ、コンソールの言葉がそのまま表示されます: "Agent traffic is currently halted. Your budget is protected. Approve resumption when ready." 何が起きているかについても、誰のせいかについても、曖昧さはありません。エージェントが上限を超え、ブレーカーは自分の仕事を果たしたのです。

Cooldown Period が進行中なら、バナーはライブでカウントダウンします: "Auto-resets in 14m 52s"、1秒ごとに。そして自動復旧があなたの望む判断とは限らないため、バナーには Approve Resumption ボタンがあります。準備ができたその瞬間に、自分の条件で停止を解除できます。

「多すぎ」を定義する3つの数値

  • Max Requests(100〜50,000): "Maximum number of requests allowed within the detection window before the circuit breaker trips."
  • Detection Window(1〜60分): "Sliding time window in minutes used to count requests. Shorter windows detect spikes faster." 5分なら暴走ループを数分で捉えます。より長いウィンドウは、バーストするが正当なトラフィックを許容します。
  • Cooldown Period(1〜60分): "Duration in minutes the circuit stays open before auto-resetting. You can also manually resume anytime." トリップは恒久的な施錠ではありません。システムはタイマーで自力で復旧し、いつでも早めに承認できます。

3つは1文として機能します: Detection Window の中では Max Requests まで、さもなければ Cooldown Period の間すべてが停止します。

設計上グローバル

1行が画面を締めくくります: "Circuit breaker settings apply globally to all servers on your account." 暴走ループが、どのコネクタを燃やすかを交渉することはありません。上限はフリート全体を守ります。Connector Policy(ルール)、DLP Protection(マスキング)、FinOps Guard(節約)とともに、ここで Settings グループが完成します。Reports は何が起きたかを伝え、この4つの画面が何が起きてよいかを決めるのです。