mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-20 02:11:59 +00:00
把 Copilot 的思考显示出来:模型一直在想,只是被丢掉了
用户问能不能看到"正在理解需求、规划步骤"里面发生了什么。查下来是这样:
模型确实在想,reasoning 花了实打实的 token,但一路上被丢了三次。
1. langchain 的 ChatOpenAI **故意**不保留第三方的 reasoning_content——它的
文档原话是 "Non-standard response fields added by third-party providers
are not extracted or preserved",建议换 ChatDeepSeek 之类的专用包。可
"用哪个供应商"在这个产品里是用户在设置页配的(DeepSeek / Qianfan /
vLLM / OpenRouter 都可能),为每种装一个专用包不现实。在 factory 里
子类化捞回 additional_kwargs,只加字段,不动 langchain 对正文的处理。
2. thinking_text 只认 Anthropic 的 thinking 块。补上兼容端点那一种。
3. 前端把一段思考的标题固定成开头 60 个字。思考是流式的,开头往往是
"用户想要一个……"这类复述,之后几十秒里它一直在推进——固定显示开头
等于把一段活的叙述冻在起点上,看着就像卡住了。改成:还在想的时候显示
最新一句,想完了换回开头那句(那时它是一条历史记录)。
实测一次真实生成,60 秒里侧栏逐句变化:
3s 可用数据源 bi
9s 人工节点 approve 模式,审核
18s 我们可以用 db_query__sales 执行 SELECT COUNT(*) FROM orders 等
36s 更合理:rejected -> query_agent(重新
45s 对于 bi 有 53 个对象,靠
57s (plan 到达,思考收尾,换回开头那句)
顺带运行期的 LLM 节点也跟着有了思考——走的是同一个 thinking_text,之前
同样只有 Anthropic 系才有。已验证流式合并后思考连成完整一段,不是只剩
最后一片。
tests/test_thinking.py 守两种形态、合并、以及"不产思考的模型不硬凑"。
check-decode 补 5 条守"还在想显示最新一句、想完了换开头"。
This commit is contained in:
@@ -234,6 +234,30 @@ console.log('\n=== Copilot 操作流 ===')
|
||||
check('连续思考并成一条', steps.filter((s) => s.kind === 'think').length === 1,
|
||||
`${steps.filter((s) => s.kind === 'think').length} 条`)
|
||||
check('思考全文保留在详情', steps.find((s) => s.kind === 'think')?.detail?.includes('先看表结构'))
|
||||
|
||||
// 编排期那 50 秒里,界面上只有一行不动的"正在理解需求"。思考是流式的,
|
||||
// 固定显示开头那句等于把一段活的叙述冻在起点上,看着就像卡住了
|
||||
const thinkingNow = mod.decodeCopilot([
|
||||
{ op: 'thinking', delta: '用户想要一个能查销量的流程。' },
|
||||
{ op: 'thinking', delta: '先看看画布上现有的节点有哪些。' },
|
||||
{ op: 'thinking', delta: '这里需要一个分支' },
|
||||
])
|
||||
const live = thinkingNow[thinkingNow.length - 1]
|
||||
check('还在想的时候显示最新一句', live.title.includes('这里需要一个分支'), live.title)
|
||||
check('还在想的时候是进行中状态', live.status === 'running', live.status)
|
||||
check('全文一句不丢', live.detail?.includes('用户想要') && live.detail?.includes('现有的节点'))
|
||||
|
||||
// 想完了它就是条历史记录,开头那句最接近"这段在想什么"
|
||||
const settled = mod.decodeCopilot([
|
||||
...thinkingNow.length ? [
|
||||
{ op: 'thinking', delta: '用户想要一个能查销量的流程。' },
|
||||
{ op: 'thinking', delta: '先看看画布上现有的节点有哪些。' },
|
||||
] : [],
|
||||
{ op: 'plan', summary: '三步走' },
|
||||
])
|
||||
const done = settled.find((s) => s.kind === 'think')
|
||||
check('想完了换成开头那句', done?.title.startsWith('用户想要'), done?.title)
|
||||
check('想完了不再转圈', done?.status === 'done', done?.status)
|
||||
check('连线不单独成行', !steps.some((s) => s.title.includes('edge')))
|
||||
check('节点用标签不用 id', steps.some((s) => s.kind === 'node' && s.title === '取数'))
|
||||
// 生成完了那条"正在理解需求…"还在转圈的话,看上去像卡住了
|
||||
|
||||
Reference in New Issue
Block a user