AI HOT 精选

OpenRouter 实测六模型并给出四层防护,解决 AI Agent 无限循环烧钱问题

6.9内容质量

TL;DR · AI 摘要

OpenRouter å®žæµ‹å ­æ¨¡åž‹å¹¶ç»™å‡ºå››å±‚é˜²æŠ¤ï¼Œè§£å†³ AI Agent æ— é™å¾ªçŽ¯çƒ§é’±é—®é¢˜ · AIHOT OpenRouter:Announc...

核心要点

  • 主题聚焦:OpenRouter 实测六模型并给出四层防护,解决 AI Agent 无限循环烧钱问题
  • 来源:AI HOT 精选,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#后端
打开原文

OpenRouter å®žæµ‹å ­æ¨¡åž‹å¹¶ç»™å‡ºå››å±‚é˜²æŠ¤ï¼Œè§£å†³ AI Agent æ— é™å¾ªçŽ¯çƒ§é’±é—®é¢˜ · AIHOT

OpenRouter:Announcements

·

2026-11-12 08:00

· 15 小时前

精选

AI 评分

72

OpenRouter å®žæµ‹å ­æ¨¡åž‹å¹¶ç»™å‡ºå››å±‚é˜²æŠ¤ï¼Œè§£å†³ AI Agent æ— é™å¾ªçŽ¯çƒ§é’±é—®é¢˜

How to Stop an AI Agent Stuck in an Infinite Loop

AI 导读

OpenRouter 发布教程,讲解 AI Agent å› å·¥å ·åå¤å¤±è´¥è€Œé™·å ¥æ— é™å¾ªçŽ¯çš„æˆå› ï¼Œå¹¶ç»™å‡ºå››å±‚é˜²æŠ¤ï¼šdoom-loop 检测、loopKey 参数归一化、stopWhen 步数与成本上限、API key 信用额度。

推荐理由

åŽŸæ–‡ç”¨å ­ä¸ªæ¨¡åž‹çš„å®žæµ‹æ•°æ®ç»™å‡ºé˜²æ­¢ Agent æ­»å¾ªçŽ¯çš„å››å±‚é˜²æŠ¤ï¼Œå«é ç½®ç»†èŠ‚å’Œæˆæœ¬å¯¹æ¯”ï¼Œæ–¹æ³•å¯ç›´æŽ¥è¿ç§»åˆ°è‡ªå·±çš„ Agent ä»£ç ã€‚

正文 · AI 翻译

å½“æ¨¡åž‹åå¤è°ƒç”¨ä¸€ä¸ªå¤±è´¥çš„å·¥å ·ã€è€Œä¸”å‚æ•°å¾€å¾€ä¸€æ¨¡ä¸€æ ·æ—¶ï¼ŒAI æ™ºèƒ½ä½“å°±ä¼šé™·å ¥æ­»å¾ªçŽ¯ï¼Œå› ä¸ºæ™ºèƒ½ä½“å¾ªçŽ¯é‡Œæ²¡æœ‰ä»»ä½•æœºåˆ¶å«å®ƒåœä¸‹æ¥ã€‚æ¯æ¬¡é‡è¯•éƒ½ä¼šæŠŠæ•´æ®µå¯¹è¯é‡æ–°å‘ä¸€éï¼ŒäºŽæ˜¯æ¯ä¸€è½®éƒ½æ¯”ä¸Šä¸€è½®æ›´è´µï¼Œä¸€ä¸ªè·‘äº†ä¸€æ•´å¤œçš„ç©ºè½¬å¾ªçŽ¯å¯èƒ½çƒ§æŽ‰æ•°åƒç¾Žå ƒã€‚

æœ¬æŒ‡å—ç”¨å››é“é˜²çº¿æŠŠå¾ªçŽ¯æ‹¦ä½ï¼Œæˆ‘ä»¬åœ¨å ­ä¸ªå½“å‰æ¨¡åž‹ä¸Šåšäº†æµ‹è¯•ã€‚å ¶ä¸­ä¸‰é“é€šè¿‡ OpenRouter Agent SDK (@openrouter/agent 0.11.0ï¼‰è¿è¡Œåœ¨ä½ çš„æ™ºèƒ½ä½“å† éƒ¨ï¼šæ­»å¾ªçŽ¯æ£€æµ‹ã€åˆ¤å®šå“ªäº›è°ƒç”¨ç®—é‡å¤çš„è§„åˆ™ï¼Œä»¥åŠå¯¹æ­¥æ•°å’Œæˆæœ¬çš„ä¸Šé™ã€‚ç¬¬å››é“æ˜¯ä½ API å¯†é’¥ä¸Šçš„é¢åº¦ä¸Šé™ã€‚è¿™é“é˜²çº¿ç”±æˆ‘ä»¬è¿™è¾¹æ‰§è¡Œï¼Œæ‰€ä»¥å³ä½¿ä½ çš„æ™ºèƒ½ä½“ä»£ç æœ‰ bug 也依然有效。

TL;DR

  • å¼€å¯æ­»å¾ªçŽ¯æ£€æµ‹åŽï¼Œæˆ‘ä»¬æµ‹è¯•çš„å ­ä¸ªæ¨¡åž‹å ¨éƒ¨åœ¨ç¬¬ä¸‰æ¬¡ç›¸åŒçš„å·¥å ·è°ƒç”¨æ—¶è¢«æ‹¦ä¸‹ã€‚ä¸å¼€å¯æ—¶ï¼Œ18 次运行中有 4 次一直重试到 40 步上限。开启后,18 次运行中有 16 æ¬¡åœ¨ä¸¤æ¬¡çœŸå®žçš„å·¥å ·è°ƒç”¨åŽå°±ç»“æŸäº†ã€‚
  • 在 callModel 里设置 doomLoop: trueï¼Œä¼šæ‹¦ä¸‹ç¬¬ä¸‰æ¬¡ç›¸åŒçš„è°ƒç”¨ï¼Œå¹¶åœ¨ç¬¬å ­æ¬¡æ—¶ç»“æŸè¿è¡Œã€‚
  • 有些模型会稍微改动参数来绕过检测。用一个对参数做归一化的 loopKey 就能拦住它们。
  • stopWhen: [stepCountIs(n), maxCost(x)] ä¼šç»™æ¯æ¬¡è¿è¡Œè®¾ä¸Šé™ï¼Œä¸ç®¡å¾ªçŽ¯æ˜¯ä»€ä¹ˆåŽŸå› å¼•èµ·çš„ã€‚
  • å¯†é’¥ä¸Šçš„é¢åº¦ä¸Šé™åˆ™å°é¡¶ä½ çš„æ€»èŠ±è´¹ã€‚æ”¾ä¸ä¸‹çš„è¯·æ±‚ä¼šå¤±è´¥ï¼Œè¿”å›ž 402 和 limit_source: “openrouter_key_limit”。

为什么 AI æ™ºèƒ½ä½“ä¼šé™·å ¥æ­»å¾ªçŽ¯ï¼Ÿ

å½“æ¨¡åž‹ä¸è¯·æ±‚å·¥å ·ã€ç›´æŽ¥ç»™å‡ºå›žç­”æ—¶ï¼Œæ™ºèƒ½ä½“å¾ªçŽ¯å°±ç»“æŸäº†ã€‚è€Œä¸€ä¸ªæŒç»­å¤±è´¥çš„å·¥å ·ï¼Œè®©æ¨¡åž‹æ²¡æœ‰ç†ç”±è¿™ä¹ˆåšã€‚é”™è¯¯è¢«é€å›žå¯¹è¯é‡Œï¼ŒæŒ‡ä»¤ä»ç„¶è¦æ±‚å®Œæˆä»»åŠ¡ï¼ŒäºŽæ˜¯å†è¯•ä¸€æ¬¡çœ‹èµ·æ¥å°±æ˜¯æ­£ç¡®çš„ä¸‹ä¸€æ­¥ã€‚é™¤éžä½ åŠ ä¸Šä»£ç åŽ»è®¡æ•°ï¼Œå¦åˆ™å¾ªçŽ¯é‡Œæ²¡æœ‰ä»»ä½•ä¸œè¥¿ä¼šç»Ÿè®¡å°è¯•æ¬¡æ•°ã€‚

å¾ªçŽ¯è¿˜ä¼šè¶Šè·‘è¶Šè´µï¼Œå› ä¸ºæ¯ä¸€è½®éƒ½ä¼šæŠŠæ•´æ®µå¯¹è¯é‡æ–°å‘ä¸€éï¼ŒåŒ æ‹¬ä¹‹å‰æ¯ä¸€æ¬¡å¤±è´¥ã€‚åœ¨ä¸€æ¬¡è¿è¡Œä¸­æˆ‘ä»¬é€è½®åšäº†è®°å½•ï¼Œè¾“å ¥ä»Ž 131 个 token 涨到 3,262 ä¸ªï¼Œæ¯è½®æˆæœ¬å‡ ä¹Žç¿»äº†ä¸¤ç•ªã€‚å¦‚æžœæ¢æˆæ›´è´µçš„æ¨¡åž‹ã€åŒæ—¶è·‘å¾ˆå¤šä¼šè¯ï¼Œè¿™ç§å¢žé•¿æ­£æ˜¯ä¸€å¤œä¹‹é—´ç´¯ç§¯åˆ°æ•°åƒç¾Žå ƒçš„åŽŸå› ã€‚

ä¸ºäº†äº²çœ¼çœ‹åˆ°å®ƒå‘ç”Ÿï¼Œæˆ‘ä»¬åšäº†ä¸€ä¸ªè´¦å•æ™ºèƒ½ä½“ï¼Œå®ƒå”¯ä¸€çš„å·¥å ·ä¼šåƒè´¦å•æœåŠ¡å®•æœºé‚£æ ·å¤±è´¥ã€‚è¦è¿è¡Œå®ƒï¼ŒæŠŠå®ƒä¿å­˜ä¸º agent.ts,执行 bun add @openrouter/agent zod,设置 OPENROUTER_API_KEY,然后运行 bun agent.ts:

code
import
{ OpenRouter, tool, stepCountIs }
from
'@openrouter/agent'
;
import
{ z }
from
'zod'
;
const
openrouter
=
new
OpenRouter
({ apiKey: process.env.
OPENROUTER_API_KEY
});
let
attempts
=
0
;
const
fetchInvoice
=
tool
({
name:
'fetch_invoice'
,
description:
'Fetch an invoice from the billing service by ID.'
,
inputSchema: z.
object
({ invoice_id: z.
string
() }),
execute
:
async
({
invoice_id
})
=>
{
attempts
++
;
console.
log
(
`  fetch_invoice("${
invoice_id
}")`
);
throw
new
Error
(
`billing-service timeout after 30s fetching ${
invoice_id
}`
);
},
});
let
cost
=
0
;
const
result
=
openrouter.
callModel
({
model:
'mistralai/mistral-large-4-0'
,
instructions:
'You are a billing agent. Complete the task. If a tool call fails, retry it. '
+
'Do not stop until you have the invoice total.'
,
input:
'Get the total of invoice INV-2291.'
,
tools: [fetchInvoice]
as
const
,
stopWhen:
stepCountIs
(
40
),
// so the demo ends
hooks: {
PostModelCall: [{
handler
: ({
usage
})
=>
{ cost
+=
usage?.cost
??
0
; } }],
DoomLoopDetected: [{
handler
: ({
action
,
streak
})
=>
console.
log
(
`DoomLoopDetected: ${
action
} (streak ${
streak
})`
) }],
SessionEnd: [{
handler
: ({
reason
})
=>
console.
log
(
`SessionEnd: ${
reason
}`
) }],
},
});
const
text
=
await
result.
getText
();
const
verdict
=
await
result.
getDoomLoopVerdict
();
// set only when detection stopped the run
console.
log
(
`attempts: ${
attempts
}, cost: $${
cost
.
toFixed
(
4
)
}`
);
console.
log
(verdict
?
`stopped: ${
verdict
.
message
}`
:
text.
slice
(
0
,
160
));
code
fetch_invoice("INV-2291")
fetch_invoice("INV-2291")
fetch_invoice("INV-2291")
...
SessionEnd: max_turns
attempts: 41, cost: $0.0309
I was unable to retrieve the total for invoice INV-2291. The billing service
consistently timed out after 30 seconds on all 41 attempts to fetch this invoice, r

å ¨éƒ¨ 41 æ¬¡è°ƒç”¨å®Œå ¨ç›¸åŒï¼Œè¿è¡Œä¹‹æ‰€ä»¥ç»“æŸï¼Œåªæ˜¯å› ä¸º stepCountIs(40)。多出来的那次调用是上限触发时模型已经请求过的,SDK 仍会执行它(第 3 步会讲到这一点)。如果没有 stopWhen,Agent SDK ä¼šä¸€ç›´å¾ªçŽ¯ï¼Œç›´åˆ°æ¨¡åž‹ä¸å†è¯·æ±‚å·¥å ·ï¼Œæ‰€ä»¥è¿™æ¬¡è¿è¡Œæœ¬æ¥ä¸ä¼šè‡ªå·±åœä¸‹æ¥ã€‚æœ€ç»ˆå›žç­”é‡Œè¯´æœåŠ¡è¶ æ—¶äº†ï¼Œå¯è§æ¨¡åž‹æ¯ä¸€è½®éƒ½çŸ¥é“è¿™ä¸€ç‚¹ï¼Œå´è¿˜æ˜¯ç §æ ·é‡è¯•ã€‚

æˆ‘ä»¬åœ¨å ­ä¸ªæ¨¡åž‹ä¸Šå„è·‘äº†åŒä¸€ä¸ªæ™ºèƒ½ä½“ä¸‰æ¬¡ï¼Œåˆ†åˆ«å¼€å¯å’Œå ³é—­æ£€æµ‹ï¼š

模型

æ¯æ¬¡è¿è¡Œçš„å·¥å ·è°ƒç”¨æ•°ï¼ˆæ— é˜²æŠ¤ï¼‰

触发 40 步上限

æ¯æ¬¡è¿è¡Œçš„å·¥å ·è°ƒç”¨æ•°ï¼ˆdoomLoop: true)

anthropic/claude-haiku-5.5

6, 6, 6

0/3

2, 2, 2

deepseek/deepseek-v4.1-flash

6, 5, 7

google/gemini-3.8-flash

5, 6, 5

mistralai/mistral-large-4-0

11, 41, 41

2/3

2, 12, 2

openai/gpt-6-luna

17, 37, 21

2, 2, 20

x-ai/grok-4.7

41, 12, 41

å¾ªçŽ¯æƒ å†µåœ¨ä¸åŒè¿è¡Œä¹‹é—´ä¹Ÿä¼šå˜åŒ–ã€‚Grok 4.7 åœ¨åŒæ ·çš„è¾“å ¥ä¸‹åˆ†åˆ«è°ƒç”¨äº† 41 次、12 次和 41 æ¬¡ï¼Œæ‰€ä»¥ä¸€æ¬¡å¹²å‡€çš„æµ‹è¯•å¹¶ä¸èƒ½è¯æ˜Žä½ çš„æ™ºèƒ½ä½“ä¸ä¼šå¾ªçŽ¯ã€‚åœ¨å ¨éƒ¨ 18 æ¬¡è¿è¡Œä¸­ï¼Œæ£€æµ‹æŠŠå·¥å ·è°ƒç”¨ä»Ž 314 次降到 64 次,花费从 $0.29 降到 $0.05。

第 1 步:开启死循环检测

在 callModel è°ƒç”¨é‡ŒåŠ ä¸€ä¸ªé€‰é¡¹ï¼š

code
doomLoop: true,
code
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
DoomLoopDetected: block (streak 4)
DoomLoopDetected: block (streak 5)
DoomLoopDetected: stop (streak 6)
SessionEnd: doom_loop
attempts: 2, cost: $0.0034
stopped: Doom loop suspected: tool "fetch_invoice" was invoked in 6 consecutive rounds
with identical arguments (fingerprint 64be4614c5ea3e26…). Repeating the call will not
change the result. Take a different approach, or explain why repetition is required.

死循环检测 ä¼šæŒ‰å·¥å ·åå’Œå‚æ•°ä¸ºæ¯æ¬¡å·¥å ·è°ƒç”¨ç”ŸæˆæŒ‡çº¹ã€‚å®ƒå ˆå¯¹å‚æ•°åšè§„èŒƒåŒ–å¤„ç†ï¼Œæ‰€ä»¥å³ä½¿ JSON é”®çš„é¡ºåºè¢«æ‰“ä¹±ï¼Œä¹Ÿæ— æ³•æŽ©ç›–é‡å¤ã€‚åªæœ‰æ¨¡åž‹å·²ç»çœ‹åˆ°ä¸Šä¸€æ¬¡ç»“æžœã€å´å†æ¬¡å‘èµ·è¯·æ±‚æ—¶ï¼Œæ‰ç®—ä¸€æ¬¡é‡å¤ï¼Œå› æ­¤åŒä¸€è½®é‡Œäº”æ¬¡å®Œå ¨ç›¸åŒçš„è°ƒç”¨åªè®¡ä¸ºä¸€æ¬¡ã€‚éšç€è¿žç»­é‡å¤æ¬¡æ•°å¢žåŠ ï¼Œå®ƒä¼šæ²¿é»˜è®¤é˜¶æ¢¯é€çº§å‡çº§ï¼š2 次时观察,3 次时拦截,6 次时终止。

调用被拦截时,SDK 会跳过 executeï¼Œå¹¶è¿”å›žä¸€ä¸ªå·¥å ·é”™è¯¯ï¼Œå‘Šè¯‰æ¨¡åž‹å®ƒæ­£åœ¨é‡å¤è‡ªå·±ã€‚ä¸Žè¶ æ—¶ä¸åŒï¼Œè¿™ä¸ªé”™è¯¯æ˜Žç¡®è¡¨ç¤ºå†è¯•ä¸€æ¬¡ä¹Ÿæ²¡ç”¨ã€‚åœ¨å¤§å¤šæ•°è¿è¡Œä¸­ï¼Œæ¨¡åž‹è¯»åˆ°å®ƒåŽå°±ç›´æŽ¥å†™å‡ºæœ€ç»ˆç­”æ¡ˆï¼Œä»¥ SessionEnd: complete 结束。在上面那次运行中,模型仍继续请求,于是 stop 以 reason: doom_loop 终止了运行。getDoomLoopVerdict() åªåœ¨æ£€æµ‹å¯¼è‡´è¿è¡Œç»“æŸæ—¶æ‰è¿”å›žæ¶ˆæ¯ï¼Œå› æ­¤å®ƒæ˜¯åº”å½“è§¦å‘å‘Šè­¦çš„ä¿¡å·ã€‚

想更早终止,就调低阈值。设置 doomLoop: { ladder: { observe: 2, block: 3, stop: 4 } } 后,一次 GPT-6 Luna 运行在连续重复 4 次时结束,花费 $0.0002ã€‚è¿™ä¸ªé˜¶æ¢¯è¿˜æœ‰ä¸¤çº§é»˜è®¤å ³é—­ã€‚steer 会向模型发送一条提示,说明它在重复自己;escalate ä¼šè®©ä½ æŒ‡å®šçš„æ›´å¼ºæ¨¡åž‹æ¥æ‰§è¡Œä¸‹ä¸€è½®ã€‚

第 2 步:告诉检测器什么算同一次调用

é»˜è®¤æƒ å†µä¸‹ï¼Œåªæœ‰å‚æ•°å®Œå ¨ä¸€è‡´ï¼Œä¸¤æ¬¡è°ƒç”¨æ‰ç®—åŒä¸€æ¬¡ã€‚è¢«æ‹¦æˆªåŽï¼Œæœ‰äº›æ¨¡åž‹ä¼šç¨å¾®æ”¹åŠ¨å‚æ•°ï¼Œè®©è¿™æ¬¡è°ƒç”¨èŽ·å¾—æ–°æŒ‡çº¹å¹¶å¼€å¯æ–°çš„è¿žç»­è®¡æ•°ï¼š

code
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
fetch_invoice("2291")
fetch_invoice("inv-2291")
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
fetch_invoice("INV2291")
...
SessionEnd: complete
attempts: 13, cost: $0.0125

在另外九次开启检测的 Mistral Large 4 è¿è¡Œä¸­ï¼Œæ¨¡åž‹è¿™æ ·åšäº†äº”æ¬¡ï¼Œå ¶ä¸­ä¸‰æ¬¡è¾¾åˆ° 40 步上限,主要是在 INV-2291 和 inv-2291 之间来回切换。GPT-6 Luna åˆ™ç”¨å°¾éšç©ºæ ¼å’Œæ¢è¡Œåšäº†åŒæ ·çš„äº‹ã€‚æ¨¡åž‹æ˜¯åœ¨éµå¾ªæ‹¦æˆªæ¶ˆæ¯ï¼Œé‚£æ¡æ¶ˆæ¯è®©å®ƒä»¬æ¢ä¸€ç§åšæ³•ã€‚åªæœ‰ä¸€ä¸ªå·¥å ·æ—¶ï¼Œå®ƒä»¬èƒ½æ¢çš„åªæœ‰è¾“å ¥ã€‚

å·¥å ·ä¸Šçš„ loopKey å‘Šè¯‰æ£€æµ‹å™¨è¾“å ¥ä¸­å“ªä¸€éƒ¨åˆ†ç”¨äºŽæ ‡è¯†è¿™æ¬¡è°ƒç”¨ã€‚å¯¹äºŽå‘ç¥¨ IDï¼Œå°±æ˜¯å ¶ä¸­çš„æ•°å­—ï¼š

code
loopKey: ({ invoice_id }) => invoice_id.replace(/\D/g, ''), // "inv-2291 " and "INV-2291" are one call
code
fetch_invoice("INV-2291")
DoomLoopDetected: observe (streak 2)
fetch_invoice("INV-2291")
DoomLoopDetected: block (streak 3)
DoomLoopDetected: block (streak 4)
DoomLoopDetected: block (streak 5)
SessionEnd: complete
attempts: 2, cost: $0.0039

çŽ°åœ¨æ‰€æœ‰å˜ä½“éƒ½æ˜ å°„åˆ° 2291ï¼Œè¿žç»­è®¡æ•°ä¼šç»§ç»­å¢žé•¿ï¼Œé‡å¤è°ƒç”¨ä¹ŸæŒç»­è¢«æ‹¦æˆªã€‚å ­æ¬¡è¿è¡Œä¸­æœ‰äº”æ¬¡åœ¨ä¸¤æ¬¡çœŸå®žè°ƒç”¨åŽå°±åœæ­¢äº†ã€‚ç¬¬å ­æ¬¡é‡Œï¼Œæ¨¡åž‹å°è¯•äº†å¦ä¸€å¼ å‘ç¥¨ INV-0000,这正确地重置了连续计数。

è¦è§„èŒƒåŒ–å¤§å°å†™ã€ç©ºæ ¼ã€å‰ç¼€ï¼Œä»¥åŠä»»ä½•ä¸å½±å“å·¥å ·å–åˆ°å“ªæ¡è®°å½•çš„å·®å¼‚ã€‚å¦‚æžœæƒ³å®Œå ¨å¿½ç•¥æŸä¸ªå­—æ®µï¼Œæ¯”å¦‚æ¨¡åž‹æ¯æ¬¡é‡è¯•éƒ½ä¼šè°ƒé«˜çš„è¶ æ—¶æ—¶é—´ï¼Œå°±åªåˆ—å‡ºçœŸæ­£é‡è¦çš„å­—æ®µï¼šloopKey: [‘invoice_id’]ã€‚å¦‚æžœå·¥å ·æœ¬èº«å°±æ˜¯ç”¨æ¥é‡å¤çš„ï¼Œæ¯”å¦‚è½®è¯¢ä»»åŠ¡çŠ¶æ€ï¼Œå°±ç”¨ loopKey: false。

第 3 步:为每次运行设置步数和成本上限

检测只能抓住重复。如果模型每轮都尝试新东西,就永远不会重复同一个指纹;而模型在被拦截后仍继续请求,也要等到 stop 触发才会被终止。 停止条件 不管运行为什么变长,都能结束它。把 maxCost 和 stepCountIs ä¸€èµ·å¯¼å ¥ï¼Œæ›¿æ¢ stopWhenï¼Œå¹¶æ·»åŠ ä¸¤ä¸ª 生命周期钩子 :

code
let failuresInARow = 0; // tool errors in a row, whatever the arguments
stopWhen: [stepCountIs(15), maxCost(0.01), () => failuresInARow >= 5],
hooks: {
// ...the hooks from before, plus:
PostToolUse: [{ handler: () => { failuresInARow = 0; } }],
PostToolUseFailure: [{ handler: () => { failuresInARow++; } }],
},

stopWhen 在每一轮之后检查,只要任一条件为真,运行就停止。maxCost ä¼šç´¯åŠ æˆ‘ä»¬åœ¨æ¯ä¸ªå“åº”ä¸­è¿”å›žçš„ usage.costï¼Œå› æ­¤ç»Ÿè®¡çš„æ˜¯ä½ å®žé™ è¢«è®¡è´¹çš„éƒ¨åˆ†ã€‚å¤±è´¥è®¡æ•°å™¨å¿½ç•¥å‚æ•°ï¼Œæ‰€ä»¥å³ä½¿æ²¡æœ‰ loopKey,也能抓住第 2 æ­¥é‡Œé‚£ç§æ”¹åŠ¨å‚æ•°çš„æƒ å†µã€‚åœ¨ä¸€æ¬¡ä»¥åŒæ ·æ–¹å¼æ”¹åŠ¨å‚æ•°çš„ Mistral Large 4 è¿è¡Œä¸­ï¼Œå®ƒåœ¨å ­æ¬¡è°ƒç”¨åŽä»¥ $0.0062 结束了会话,SessionEnd: max_turns。

每个 stopWhen 条件都会以 reason: max_turns ç»“æŸä¼šè¯ï¼Œæ‰€ä»¥å¦‚æžœéœ€è¦åŒºåˆ†æ˜¯å“ªä¸ªä¸Šé™è§¦å‘çš„ï¼Œå°±å¾—è‡ªå·±è®°å½•åŽŸå› ã€‚å¦‚æžœä¸Šé™è§¦å‘æ—¶æ¨¡åž‹è¿˜æœ‰å¾ æ‰§è¡Œçš„å·¥å ·è°ƒç”¨ï¼ŒSDK ä¼šå ˆæŠŠå®ƒä»¬è·‘å®Œï¼Œå†åœ¨ç¦ç”¨å·¥å ·è°ƒç”¨çš„æƒ å†µä¸‹åšæœ€åŽä¸€è½®ï¼Œè®©è¿™æ¬¡è¿è¡Œä»¥ä¸€æ®µæ–‡å­—å›žç­”æ”¶å°¾ã€‚è¿™å°±æ˜¯ä¸ºä»€ä¹ˆè¿™æ¬¡è¿è¡Œåœ¨ä¸Šé™ä¸ºäº”çš„æƒ å†µä¸‹å‘å‡ºäº†å ­æ¬¡è°ƒç”¨ï¼Œä¹Ÿæ˜¯ä¸ºä»€ä¹ˆç¬¬ä¸€ä¸ªæ¼”ç¤ºåœ¨ä¸Šé™ä¸ºå››åçš„æƒ å†µä¸‹è·‘äº†å››åä¸€æ¬¡ã€‚æŠŠ allowFinalResponse 设为 false 可以跳过这一轮。

ä¸¤ä¸ªä¸Šé™éƒ½æŒ‰ä½ å¹³æ—¶çš„è¿è¡Œæƒ å†µæ¥è®¾ã€‚æˆ‘ä»¬çš„è¿è¡Œç”¨äº†å››åˆ°å ­è½®ï¼Œåœ¨ Mistral Large 4 上花费 $0.0018 到 $0.0053,所以 15 步和 $0.01 留有余地,又不至于放任一次 40 è½®çš„è¿è¡Œã€‚ä¸¤è€ ä¹‹ä¸­ï¼Œæˆæœ¬ä¸Šé™æ›´é‡è¦ï¼Œå› ä¸ºåŽé¢çš„è½®æ¬¡æ¯”å‰é¢çš„æ›´è´µã€‚

不用 Agent SDKï¼ŒåŒæ ·çš„é˜²æŠ¤ä¹Ÿèƒ½æ”¾è¿›ä»»ä½•å¾ªçŽ¯é‡Œã€‚æŒ‰å·¥å ·åå’Œå½’ä¸€åŒ–åŽçš„å‚æ•°ç»Ÿè®¡è°ƒç”¨æ¬¡æ•°ï¼Œç¬¬ä¸‰æ¬¡é‡å¤æ—¶ä¸è¦æ‰§è¡Œï¼Œè€Œæ˜¯è¿”å›žä¸€æ¡å·¥å ·ç»“æžœï¼Œæ¯”å¦‚â€œå·²æ‹¦æˆªï¼šå‘Šè¯‰ç”¨æˆ·å‡ºäº†ä»€ä¹ˆé—®é¢˜â€ï¼Œå¹¶åœ¨æ­¥æ•°æˆ–ç´¯è®¡çš„ usage.cost è¶ è¿‡ä¸Šé™æ—¶åœæ­¢ã€‚æˆ‘ä»¬çš„ Python 版本对接 chat completions API,在三次运行中都于四步之后停掉了 Mistral Large 4,花费不到 $0.002。

第 4 步:给 API 密钥设置额度上限

åˆ°ç›®å‰ä¸ºæ­¢ï¼Œæ‰€æœ‰é˜²æŠ¤éƒ½è¿è¡Œåœ¨æ™ºèƒ½ä½“è‡ªå·±çš„è¿›ç¨‹é‡Œã€‚å¦‚æžœé‚£æ®µä»£ç æœ‰ bugã€ä¸Šçº¿æ—¶æ²¡å¸¦ä¸Šé™ï¼Œæˆ–è€ è·‘äº†ä¸€ç™¾ä¸ªå„è‡ªéƒ½ä¸è¶ è¿‡ maxCost çš„ä¼šè¯ï¼Œæ€»é‡å°±æ²¡æœ‰ä»»ä½•é™åˆ¶ã€‚ç»™å¯†é’¥è®¾é¢åº¦ä¸Šé™å°±èƒ½ç®¡ä½è¿™ä¸€ç‚¹ï¼Œå› ä¸ºæˆ‘ä»¬ä¼šåœ¨è¯·æ±‚åˆ°è¾¾æä¾›å•†ä¹‹å‰ï¼Œå ˆåœ¨è‡ªå·±è¿™è¾¹åšæ£€æŸ¥ã€‚

在控制台或用 create key API 设置 limitï¼ˆä»¥ç¾Žå ƒè®¡ï¼‰å’Œ limit_reset(daily、weekly、monthly 或 null)。如果密钥使用 BYOK,还要把 include_byok_in_limit 设为 trueï¼Œå› ä¸ºå®ƒé»˜è®¤æ˜¯ false,否则 BYOK çš„èŠ±è´¹ä¸ä¼šè®¡å ¥ä¸Šé™ã€‚æ¯æ—¥ä¸Šé™åœ¨ UTC åˆå¤œé‡ç½®ï¼Œæ¯å‘¨ä¸Šé™åœ¨å‘¨ä¸€é‡ç½®ã€‚ç»™æ¯ä¸ªæ™ºèƒ½ä½“æˆ–æ¯ä¸ªå®¢æˆ·åˆ†é ç‹¬ç«‹çš„å¯†é’¥ï¼Œè¿™æ ·ä¸€ä¸ªå¾ªçŽ¯æœ€å¤šåªèƒ½èŠ±æŽ‰è¯¥å¯†é’¥çš„é‚£ä¸€ä»½é¢åº¦ã€‚å¦‚æžœå¤šä¸ªæ™ºèƒ½ä½“å¿ é¡»å ±ç”¨ä¸€ä¸ªå¯†é’¥ï¼Œè¯·å‚è€ƒ ä¸ºå ±äº«çš„æ™ºèƒ½ä½“å¯†é’¥è®¾ä¸Šé™ 。

åœ¨è·¯ç”±è¯·æ±‚ä¹‹å‰ï¼Œæˆ‘ä»¬ä¼šå ˆæŒ‰æœ€åæƒ å†µè®¡ä»·ï¼Œä¹Ÿå°±æ˜¯è¾“å ¥åŠ ä¸Š max_tokensã€‚å¦‚æžœè¿™ä¸ªæ•°é¢è¶ å‡ºäº†å¯†é’¥å‰©ä½™é¢åº¦ï¼Œè¯·æ±‚å°±ä¼šå¤±è´¥ï¼Œè€Œä¸”ä¸ä¼šå‘ä½ æ”¶è´¹ã€‚æˆ‘ä»¬ç”¨ä¸€ä¸ªè¿˜å‰© $9.97 的密钥,向一个昂贵的模型发送了一条 max_tokens: 900000 的 chat completions è¯·æ±‚ï¼Œå¾—åˆ°äº†è¿™æ ·çš„è¿”å›žï¼š

code
402
{
"error": {
"message": "This request requires more credits, or fewer max_tokens. You requested up to 900000 tokens, but can only afford 664657. To increase, visit https://openrouter.ai/workspaces/<workspace-slug>/keys/<key-hash> and adjust the key's total limit",
"code": 402,
"metadata": {
"limit_source": "openrouter_key_limit",
"remedy_hint": "Raise or remove this API key's usage limit at https://openrouter.ai/settings/keys, or use a key without a limit.",
"provider_name": null
}
},
"user_id": "<org-id>"
}

我们替换了工作区 slug、密钥哈希和组织 ID。

è¦æ ¹æ® error.metadata.limit_source åˆ†æ”¯å¤„ç†ï¼Œè€Œä¸æ˜¯æ ¹æ®æ¶ˆæ¯æ–‡æœ¬æˆ–çŠ¶æ€ç ã€‚å¯†é’¥é¢åº¦è€—å°½æ—¶ä¹Ÿä¼šæŠ¥å‘Š openrouter_key_limit, limits 文档 把该来源同时列在 402 额度错误和 403 é¢„ç®—é”™è¯¯ä¹‹ä¸‹ã€‚å¦‚æžœæ¶ˆæ¯è¯´è¯¥å¯†é’¥èƒ½è´Ÿæ‹ çš„ token æ›´å°‘ï¼Œå°±åƒä¸Šé¢çš„ä¾‹å­é‚£æ ·ï¼Œå°±ç”¨æ›´ä½Žçš„ max_tokens 重试。如果密钥已耗尽,在额度重置之前重试不可能成功,所以应当把它当作停止信号。Agent SDK 会把 402 抛出为 PaymentRequiredResponseError。唯一值得重试的 402 是 openrouter_in_flight_budget,要按它的 Retry-After 头来重试。速率限制则返回 429,我们的 LLM API 速率限制指南 对此有说明。

工作区预算 æŒ‰å¤©ã€å‘¨ã€æœˆæˆ–æ•´ä¸ªç”Ÿå‘½å‘¨æœŸï¼ŒæŠŠé¢åº¦ä¸Šé™åˆ†æ‘Šåˆ°å·¥ä½œåŒºå† çš„æ¯ä¸ªå¯†é’¥ä¸Šã€‚è¢«æ‹¦æˆªçš„è¯·æ±‚ä¼šè¿”å›ž 403,并附带类似“Workspace monthly budget of $500.00 exceeded. Contact your org admin.â€çš„æç¤ºã€‚ï¼ˆè¿™æ¡æç¤ºå¹¶éžæˆ‘ä»¬å®žé™ è§¦å‘ï¼Œè€Œæ˜¯æ¥è‡ªæ–‡æ¡£ã€‚ï¼‰å·²ç»åœ¨å¤„ç†ä¸­çš„è¯·æ±‚ä»ä¼šå®Œæˆï¼Œæ‰€ä»¥å®žé™ æ”¯å‡ºå¯èƒ½ç•¥å¾®è¶ å‡ºä¸Šé™ï¼Œä½†æ•´å¤œè¿è¡Œçš„å¾ªçŽ¯ä¼šåœ¨æŽ¥è¿‘æ¯æ—¥ä¸Šé™æ—¶åœä¸‹ã€‚ 支出控制指南 ä»‹ç»äº†å·¥ä½œåŒºé¢„ç®—ä¸Žæˆå‘˜çº§é˜²æŠ¤æŽªæ–½å¦‚ä½•é åˆä½¿ç”¨ã€‚

哪种防护能拦住哪种循环?

每种防护拦下的循环类型不同。密钥限额能拦住所有循环,但要等密钥额度花完才生效,所以最适合作为最后一道防线。

循环类型

doomLoop

loopKey

stopWhen 上限

密钥限额或工作区预算

åŒæ ·çš„è°ƒç”¨ã€åŒæ ·çš„å‚æ•°

能拦住

不需要

在额度上限处拦住

在限额处拦住

åŒæ ·çš„è°ƒç”¨ã€å‚æ•°ç•¥æœ‰ä¸åŒ

拦不住

每一轮都换新方法

多次运行,每次都在各自上限å†

ä» é™å•æ¬¡è¿è¡Œ

拦住总量

部署时漏掉了这些防护

常见问题

ä¸ºä»€ä¹ˆæˆ‘çš„æ™ºèƒ½ä½“åœ¨æŠ¥é”™åŽä¸€ç›´è°ƒç”¨åŒä¸€ä¸ªå·¥å ·ï¼Ÿ

å·¥å ·è¿”å›žçš„ç»“æžœè¯´è°ƒç”¨å¤±è´¥ï¼Œè€Œæç¤ºè¯åˆè¦æ±‚å®Œæˆä»»åŠ¡ï¼Œæ‰€ä»¥åœ¨æ¨¡åž‹çœ‹æ¥å†è¯•ä¸€æ¬¡æ‰æ˜¯æ­£ç¡®åšæ³•ã€‚è¿”å›žé”™è¯¯æ—¶ï¼Œè¦å‘Šè¯‰æ¨¡åž‹ä¸‹ä¸€æ­¥è¯¥æ€Žä¹ˆåšï¼Œæ¯”å¦‚â€œè®¡è´¹æœåŠ¡å·²å®•æœºã€‚å‘ŠçŸ¥ç”¨æˆ·å¹¶åœæ­¢ã€‚â€ä¸è¦å‘Šè¯‰æ¨¡åž‹ä¸€ç›´é‡è¯•åˆ°æˆåŠŸä¸ºæ­¢ã€‚

最大迭代次数限制能阻止成本失控吗?

æœ€å¤§è¿­ä»£æ¬¡æ•°é™åˆ¶èƒ½é˜»æ­¢å•æ¬¡è¿è¡Œæ— é™è¿›è¡Œä¸‹åŽ»ï¼Œä½†å®ƒå¹¶ä¸èƒ½é™åˆ¶ä½ çš„èŠ±è´¹ï¼Œå› ä¸ºè¶Šå¾€åŽçš„è½®æ¬¡æˆæœ¬è¶Šé«˜ï¼Œè€Œä¸”å¤šæ¬¡è¿è¡Œå³ä½¿éƒ½åœ¨é™åˆ¶ä¹‹å† ï¼ŒåŠ èµ·æ¥ä»ç„¶å¾ˆå¯è§‚ã€‚LangChain 的 AgentExecutor 中的 max_iterations 和 CrewAI 中的 max_iter 这类设置,与 OpenRouter Agent SDK 中的 stepCountIs 作用相同。要把它们与单次运行的成本上限以及 API å¯†é’¥çš„é¢åº¦é™åˆ¶é åˆä½¿ç”¨ã€‚

后续步骤

  • 死循环检测 ï¼šåˆ†çº§å¤„ç†ã€å¼•å¯¼ã€å‡çº§ä»¥åŠæŒ‰å·¥å ·è¦†ç›–ã€‚
  • 停止条件 :stepCountIs、maxCost、maxTokensUsed 以及自定义条件。
  • 设置团队 AI 支出控制 ï¼šåœ¨ä»ªè¡¨ç›˜ä¸­é ç½®å·¥ä½œåŒºé¢„ç®—å’Œé˜²æŠ¤æŽªæ–½ã€‚
  • Agent SDK:在 OpenRouter 上构建多轮智能体工作流 :callModel 如何运行智能体循环。

来源: OpenRouter:Announcements · openrouter.ai

OpenRouter

Agent 智能体

教程实践