 ThearchyHelios
|
4905de728c
|
核查截断的回复一律不采信，触顶原因的先后照旧，截断的建议按模型从哪来的说
复核第 1 轮的发现（主要一条）：Anthropic 的工具调用写到一半到了上限时，回复照样带着 tool_use（input 是空的，有的网关给半截对象）。工具循环只在没有工具调用时才看截断，于是一轮轮执行空参数的查询，撞到步数上限，最后记成「没有按结构交结果」；收尾的强制工具调用截在半路时解析出空对象或半截对象，空对象记成没按结构交，反方审稿的半截对象（结论写完、理由写到一半）被当成「经受住」，质询把半句话当成回答。
- 工具循环：回复被截断就停，带着的工具调用不执行（半截的 SQL 查出来的数是错的），也不收尾
- 截断前查到过东西的也不再按查到的收尾：截断前查到的不一定是要的那个数，交出去的结果只在 notes 里写一句「可能不完整」，审批卡、反方结论、质询回答都看不到，残缺的结果还照常参与比对和处置。同时长到点一样算半路被掐断，原因照截断说，查过的照记；TRUNCATED_SETTLED 和日志里的 delivered 字段去掉
- 收尾：回复被截断时，解析出来的、从回复里抠出来的都不采信（结构化、普通调用都是），也不退回普通调用
- 上一轮的 give_up 把触顶原因的先后从「先 stopped」换成了「先 refused」：去掉 give_up，收尾被上限拦下时照旧报先撞上的那个（双盲复算按它写无法复算的原因，反方审稿按每日上限决定还派不派后面的句子）
- 截断的原因开头只说「未能给出结果」（质询里提问人看到的就是这句，不说「核查未能完成」）；建议在节点里说「在节点上指定不带推理的模型，或在设置里更换核查模型」（节点上的模型优先于设置，和时间线上的下一步一致），质询只说设置
- 退回小额度按 budget_refused 认，按 (接入, 模型, 额度) 记在进程里
- 时间线：verify_truncated 的副标题固定说「这次核查未能给出结果」，check-decode 跟上；review.py 里 verify_truncated 的注释跟上
测试补上真实 ChatAnthropic（只有 HTTP 层是假的）的循环截断、收尾截断（空对象、半截对象），真实 ChatOpenAI 写到一半的工具调用参数，Bearer 鉴权下 SDK 在本地拒绝时退回 4096，自建服务的 max_new_tokens，跨次核查记住被嫌大，触顶原因的先后
|
2026-10-06 14:30:03 +08:00 |
|
|
ThearchyHelios
|
ed6f5d064a
|
截断和退回小额度在真实的 ChatOpenAI、openai SDK 上也核对一遍：只有 HTTP 层是假的（经 OpenAI 兼容网关接入的推理模型就是这一路）
核查：工具循环那次只有 reasoning_content、finish_reason=length；收尾走 json_schema 时 SDK 抛 LengthFinishReasonError（用量从异常里取）；网关嫌 16384 太大回 400 时退回 4096，之后工具循环和收尾都用小的。裁判：json_schema 那次被截断记未裁判（truncated）、不退回纯文本；网关回 400 时退回 4096。请求体里的额度（max_completion_tokens）逐个核对。
|
2026-10-06 13:17:19 +08:00 |
|
|
ThearchyHelios
|
2c2672cc04
|
时间线认得核查模型的输出被截断（verify_truncated）：标题说「核查模型的输出达到上限（N token）被截断」，副标题说这次核查未能完成或已按截断前查到的结果收尾，下一步指到换不带推理的模型，入口落到节点的模型
decode.ts 按结构化字段（max_tokens、delivered）解读，不从原话里认，缺字段时只给不带数的标题；文案放在 terms.ts 新的 VERIFY_TRUNCATED_TEXT。check-decode 加一节：先核对 verify_agent.py 还是这么发的，再核对三种取值（没交出结果、退回 4096 后交了结果、缺字段）的标题、副标题、下一步、入口和原话。
跑完之后的复核层（engine/review.py 的 WARN_CODES）登记 verify_truncated：同 verify_limit 记成它自己的 kind、degraded，不落成笼统的 warn，也不触发「重跑一次大概率能好」。
|
2026-10-06 13:06:18 +08:00 |
|
|
ThearchyHelios
|
a552f4feab
|
核查模型的输出额度改为 16384、服务方嫌大时退回 4096，截断照实说：工具循环、收尾的每次调用都看有没有到了上限被截断
额度：judge.MAX_TOKENS 从 4096 改为 16384（核查的 verify_model_spec 沿用它）。经 OpenAI 兼容接入的推理模型收不到 thinking=off，思考算在额度里，4096 常常想完就没额度发查询、交结果；16384 是常见网关接受的输出上限里偏大的一档，cite_fields 的抽取也是这个数。服务方嫌大（400/422 且报错提到 max_tokens 一类）时退回 judge.FALLBACK_MAX_TOKENS（4096）再试一次，工具循环和收尾共用一个开关，之后都用小的；小额度的模型要退回时才建。
截断：工具循环里没有工具调用、finish_reason=length（或 stop_reason=max_tokens）不再当成「模型说完了」，一条查询都没成功时不再收尾（收尾只能交「查不到」，双盲复算就会记成「盲算没有查到这个数」）；查到过东西的照常收尾，取不到要的数时同样交回截断的原因，取得到的照常交、notes 里注明。收尾被截断（Anthropic 强制工具调用写到一半、openai 结构化输出抛 LengthFinishReasonError、普通调用只有思考）时交回截断的原因，不再退回普通调用多花一次额度；截断那次的用量从异常里取，照记账。给人看的原因写明「核查模型的输出达到上限（N token）被截断，核查未能完成。通常是推理占满了输出额度，可在「设置 → 偏好设置 → 核查」中换用不带推理的模型」，经 error 交给双盲复算的无法复算原因、反方审稿的「反查未完成」、质询的报错；节点里调用时另记一条 verify_truncated，llm.end 标出 truncated 和额度。没有截断时原有说法不变。
测试：新增 test_verify_truncation（假模型返回 finish_reason=length、只有思考、LengthFinishReasonError，覆盖工具循环、收尾结构化和普通调用、退回 4096、别的 400 不重试、三条渠道）；三处钉着 4096 的断言改成 16384。
|
2026-10-06 12:58:37 +08:00 |
|