mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-18 08:51:58 +00:00
Copilot 流式生成:图在画布上实时长出来
此前点击生成后是 20-30 秒黑盒等待,模态框关着,用户看不到任何过程。 改成操作流协议:模型按 NDJSON 逐行输出 add_node / add_edge / update_node / remove_node / done,后端边流边经 SSE 转发,前端每收 一个操作就应用到画布——节点带紫色描边逐个出现(临时摆位跟着入边源), 左下角浮条显示当前动作并可随时取消;done 后后端统一排版+校验, 以 final 事件整体落位,高亮几秒后淡出。修改现有图的场景只输出改动 操作,用户能看到 Copilot 具体动了哪里。 行解析对模型犯规免疫:markdown 围栏、夹杂的解释文字、done 之后的 多余输出都被跳过或截断(单测覆盖跨块行缓冲)。 顺手修结构化输出必失败的 bug:langchain 靠 title 字段识别裸 JSON Schema dict,四处 with_structured_output 的 schema 都缺它,抛 ValueError: Unsupported function 后靠 fallback 文本解析兜底—— 每次都白调一次模型。补上 title(llm 节点 output_schema、branch 语义分类、supervisor 路由、旧版 copilot generate)。 实测:首节点 7.2s 上画布(原先干等 27s),浏览器采样节点数 0→2→3→4→5→6 逐步生长,6 个新节点全部高亮,零页面错误。
This commit is contained in:
@@ -202,6 +202,56 @@ export const api = {
|
||||
},
|
||||
}
|
||||
|
||||
/**
|
||||
* 流式生成工作流:SSE 逐操作回调,返回取消函数。
|
||||
* 每个操作(add_node / add_edge / …)到达即回调,画布边收边长。
|
||||
*/
|
||||
export function streamCopilot(
|
||||
body: { instruction: string; base_graph?: GraphSpec | null },
|
||||
onOp: (op: any) => void,
|
||||
onEnd: (error?: string) => void,
|
||||
): () => void {
|
||||
const controller = new AbortController()
|
||||
void (async () => {
|
||||
try {
|
||||
const res = await fetch(`${BASE}/copilot/generate-stream`, {
|
||||
method: 'POST',
|
||||
headers: { 'Content-Type': 'application/json', ...actorHeader() },
|
||||
body: JSON.stringify(body),
|
||||
signal: controller.signal,
|
||||
})
|
||||
if (!res.ok || !res.body) {
|
||||
let detail = `${res.status} ${res.statusText}`
|
||||
try { detail = (await res.json()).detail ?? detail } catch { /* keep */ }
|
||||
onEnd(String(detail))
|
||||
return
|
||||
}
|
||||
const reader = res.body.getReader()
|
||||
const decoder = new TextDecoder()
|
||||
let buffer = ''
|
||||
for (;;) {
|
||||
const { done, value } = await reader.read()
|
||||
if (done) break
|
||||
buffer += decoder.decode(value, { stream: true })
|
||||
let idx: number
|
||||
while ((idx = buffer.indexOf('\n\n')) >= 0) {
|
||||
const frame = buffer.slice(0, idx)
|
||||
buffer = buffer.slice(idx + 2)
|
||||
if (!frame.startsWith('data: ')) continue
|
||||
try {
|
||||
onOp(JSON.parse(frame.slice(6)))
|
||||
} catch { /* 半截帧,忽略 */ }
|
||||
}
|
||||
}
|
||||
onEnd()
|
||||
} catch (e: any) {
|
||||
if (e?.name !== 'AbortError') onEnd(e?.message ?? '连接中断')
|
||||
else onEnd()
|
||||
}
|
||||
})()
|
||||
return () => controller.abort()
|
||||
}
|
||||
|
||||
/**
|
||||
* 订阅一次运行的事件流。
|
||||
*
|
||||
|
||||
Reference in New Issue
Block a user