2 Commits

Author	SHA1	Message	Date
ThearchyHelios	62aac187d8	工具审批三档、智能体护栏取代固定 12 步、检查脚本分道并行 ... MCP / 自定义工具的审批三档（tools/trust.py） - 平台看不出这两类工具做什么，以前审批关卡一律当它们安全、照跑不误。现在默认每次调用都等审批； 工具页可以逐个改成「始终允许 · 门控把关」或「始终允许」，审批卡上的「始终允许」等于前者 - 门控把关：每次调用先由门控模型审一遍工具说明、参数和节点任务；判可疑、出错、超时、答不成格式， 一律交还给人，不会变成放行。判定包进 checkpoint，审批恢复重放时不再问一遍 - agent 节点、工具节点、协作团队三处关卡都接上；团队成员停不下来等人，门控没放行的调用不执行 - 每次运行在发起时快照档位（runs.tool_trust），恢复和接着跑沿用同一份；正式运行不看档位，一律等审批； 升级前发起的运行照旧不问——它们可能正停在某个审批上，多问一次答复就会对错号 - 接口：GET /api/tools 带 trust / trust_key，PUT /api/tools/trust；设置新增门控模型；新事件 tool.gated - 界面：工具页三选一、审批卡「始终允许」、设置页门控模型、运行记录解码 tool.gated； 顺手修了 MCP 工具详情 404、工具审批被驳回却显示成放行 智能体护栏（engine/guards.py），取代固定的「最多 12 步」 - 步数只留兜底：默认 100，设置里可改；以前画布自动写进节点的 12 按「没填」处理 - 同一个工具、同样的参数第二次不再执行，把上次的结果交还给它；连续 3 步拿不到新信息就收尾 - 每个节点的令牌预算（默认 200 万）和金额预算（默认不限），都可以在设置里改成不限 - 上下文用到窗口的 60% 先压缩早期的工具结果，到 85% 就收尾；临近任何一个上限先提醒模型一次 - 下游结构化校验失败时写明是上游哪个 agent 提前收了尾；复核信号带上收尾原因， 问数据页只在真是步数用满时才给「放宽步数重跑」 - 上限在发起时快照（runs.agent_limits）；升级前发起的运行一字不改走旧逻辑 检查脚本 - check-all 默认 4 道并行：量时间最多的两项互不重叠；并行时没过的最后单独重跑一遍，重跑才过的 单列成「偶发」。16 项全量从约 21 分钟降到约 7 分钟（加上一次重跑约 10 分钟）；--lanes 1 回到串行 顺带修的 - 设置接口里的 limits 改为只读：库里存着旧版设置页写进去的一份（max_agent_steps: 25），从不生效， 却盖住了真实上限，问数据页照着错的数许诺 - test_kb 里嵌入模型那条测试不再真连 api.openai.com（代理慢时一条要等近 4 分钟） - check-stream 读滚动容器前先等它挂上，并行跑时不再偶发 验证（沙箱）：tsc 干净，生产构建通过，pytest 1655 passed（两遍），check-all 16 项检查、3562 项全过； 新增后端测试 53 条，关键逻辑做了 22 处变异验证、全部抓到。	2026-09-28 11:47:45 +08:00
ThearchyHelios	a819f92903	审批只认明确的"同意"，而且每个会执行危险操作的地方都得过这道门 ... 三个口子，都实测复现过： 1. 回复"拒绝"，工具照样执行。四个节点四套审批解析：工具节点和代码节点对 回复一律 bool()，"拒绝"、"no" 都是真；{"decision": "approve"} 反被当成 拒绝；{"approved": "false"} 也是批准。现在收成一份 engine/approval.py： 只认明确的批准，看不懂的一律按拒绝。填内容的 human input/edit 模式另算—— 裸字符串是交稿，只有结构体里明说"不"才驳回。 2. 可写数据源上的 DELETE 从来不问人。数据源工具是动态生成的，查不到 ToolSpec，任何审批模式下都被当成安全；is_dangerous_call 写好了但全仓库 没人调用。现在危险与否逐次判定：registry.call_is_dangerous 统一问，数据源 工具把判定挂在 metadata["dangerous_if"] 上——同一个 db_query，查询直接 跑，可写源上的写要先确认。工具节点、agent 节点、协作成员都走它。 这一步以前没出事，只因为写入从不提交：run_query 走 stream，拿不到结果集就 抛 ResourceClosedError，连接关闭时再回滚——审批通过的写也没落过库。审批接 好之后才让写真正提交（先后不能反，反过来就是一个无审批写库的窗口）； RETURNING 这类带结果集的写照样返回行。工具页的"试一下"是人自己在执行， 不设审批。 3. 协作团队的成员调工具完全不经审批。成员们并行跑在一个节点里、停不下来等 人（恢复时节点整个重放，几个人的 interrupt 对不上号），所以需要确认的调用 不执行，把原因交还给成员让它换做法；节点上显式设成"全部自动放行"才跑。 前端补了这个选项。顺带修了同一处的两个老问题：成员步数不受 max_agent_steps 约束；步数用完时把工具的原始返回当结论交上去（agent 节点在 4057cdc 修过 同一个问题，这里没跟上）——现在补一轮不带工具的收尾。 连带修的：多条审批并存时，交给引擎的是库里存的那份回复，而它存之前被 _safe 截到了 2000 字，解包时又只留 value——人工改过的长稿被砍一截，带了内容的驳回 被当成交稿。现在存全文、只拆自己包的那层 {"value": x}。 test_approval.py 36 例；去掉修复重跑，引擎层 10 例全部失败，各对应一个真问题。 并行驳回那例翻出了一个运行卡死的老 bug，已在上一个提交单独修掉。 338 → 374 passed，连跑三次全绿。	2026-09-25 15:21:20 +08:00