问数据整轮放到服务端跑(前端):store/chat.ts 改成「发起 + 播放」,断线按 seq 重连补齐,刷新、关掉再打开接着看

为什么:一轮问数据搬到服务端之后(上一个提交),页面不该再推这一轮:建图那条流、发起运行、复核、按复核重来、落库都和页面
绑在一起,页面一断这一轮就停。现在页面只发起、只看,要不要运行、要不要重来、什么时候交付都照服务端说的。

做了什么:
- 新的 api/chatTurns.ts:发起、查询、停止(挂在 api.chatTurns),streamChatTurn 订阅这一轮的事件日志——先回放、再接实时;
  断了按收到的最后一个 seq 自动重连(收到东西马上接着连,连不上按退避),45 秒什么都没收到(服务端 15 秒一拍心跳)当连接死了。
- store/chat.ts:plan / launch / settle / retry 换成发起(launchTurn)+ 播放(play)。收到的操作照原来的渲染逻辑画(画布边收
  边长、过程步骤、思考、查看、用量);收到 run 就接上运行自己的实时流画过程(watch 只画过程,不再判结局);stage 说到了
  哪一步(停在审批上立刻去拿待审批);turn.retry 照原来自动重来那样重置;end 照服务端落库的那一行摆结局(和刷新之后从库里
  恢复的是同一份 restoreTurn)。「重试本轮」「重新运行本轮」「放宽步数」「跑一下」「继续运行」「停止」都走新接口。
- 页面不再写这一轮的结局(不再 PATCH 轮次、不再调 /copilot/review、不再发 POST /api/runs);失败的说法照服务端记的原因
  (meta.cause)按 lib/explain 讲,老轮次记的 failure 照旧认。
- 刷新、关掉再打开:服务端还在跑的一轮(ConversationTurn.job)从这一次尝试的第一条事件接着播;库里停在半路、服务端又没在跑
  的(老轮次、服务重启后停着的)请服务端接着收尾(mode=resume),不在页面上自己收尾。问数据页的显示不变。
- 页面上那份退路(MAX_ATTEMPTS、fillInput、retryInstruction、等复核的计时)去掉:决定只在服务端一处。后端对照测试改成守
  「页面上不再有这几样」。
- scripts/check-chat.mjs:伪造的服务端照 backend/app/chat/job.py 的做法用原来那几份剧本把一轮跑完(生成、发起运行、等运行的剧本
  放完、复核、拼那一行),原有各段照过;守落库的几处改成守「页面不 PATCH 这一轮」和照服务端那一行摆;新加「断线重连补齐」
  「刷新、关掉再打开接着看」「停止(建图中也停得下)」几段,并核对发起、重试、放宽步数、继续运行、停止的请求体。
- 服务端顺带:turn.attempt 带上到目前为止的用量、从什么时候算起(补交付的到运行结束为止),turn.retry 带上换下来的那次运行
  并进之后的用量(页面上的运行壳子里没有用量);接着收尾(resume)不要求运行还在,运行记录删了的照实收成「运行记录不见了」。
This commit is contained in:
ThearchyHelios
2026-10-18 16:49:14 +08:00
parent d18a496ef9
commit 5ff3e1136d
8 changed files with 1822 additions and 1278 deletions
+153
View File
@@ -0,0 +1,153 @@
/**
* 问数据的一轮在服务端跑(docs/design/orchestration-round/00-总方案.md §1;服务端 backend/app/api/chat_turns.py),挂在
* api.chatTurns 上。页面只发起、只看:建图、运行、复核、按复核重来、落库都在服务端,页面断了这一轮也会跑完。
*
* - start:发起一轮(新问,或者对已有的一轮重试、重新运行、放宽步数、跑一下、继续运行、接着收尾),202 {turn_id, turn};
* - get:这一轮的任务现在怎样;cancel:停止(取消生成、取消运行);
* - streamChatTurn:这一轮的事件日志(SSE)。先回放 seq > after 的,再推实时;断了按收到的最后一个 seq 自动重连,补齐、
* 不重复;45 秒什么都没收到(服务端每 15 秒有一拍心跳)就当连接死了,重连。服务端说这一轮结束了(stream.end)才停。
*
* 请求函数从 ./http 导入,不从 ./client 导入:client.ts 要导入这个文件把它挂到 api 上,反过来导入就成了循环。
*/
import type { ConversationTurn } from '../types'
import { ApiError, BASE, NETWORK_MESSAGE, actorHeader, failure, get, parseBody, post, report } from './http'
/** 发起一轮的方式(服务端 app/chat/job.MODES) */
export type ChatTurnMode = 'ask' | 'retry' | 'rerun' | 'max_steps' | 'run' | 'continue' | 'resume'
export interface ChatTurnStart {
conversation_id: string
question?: string
/** 只查这几个数据源。新问不给是不限;重试不给沿用这一轮的,空数组是不限 */
datasource_ids?: string[]
retry_of?: string
mode?: ChatTurnMode
max_steps?: number
}
/** 事件日志里的一条(服务端 app/chat/job.py 的模块说明列了各种 type) */
export interface ChatTurnEvent {
seq: number
type: string
data: Record<string, any>
ts: number
}
/** 实时流结束时的情况:status 是服务端说的任务状态(stream.end);error 是这一轮读不了(不存在、没权限) */
export interface ChatTurnStreamEnd {
status?: string
error?: string
httpStatus?: number
}
const turn = (id: string) => `/chat/turns/${encodeURIComponent(id)}`
export const chatTurns = {
start: (body: ChatTurnStart) => post<{ turn_id: string; turn: ConversationTurn | null }>('/chat/turns', body),
get: (id: string) => get<{ id: string; conversation_id: string; job: ConversationTurn['job']; turn: ConversationTurn }>(turn(id)),
cancel: (id: string) => post<{ ok: boolean }>(`${turn(id)}/cancel`, {}),
}
/** 多久什么都没收到就当连接死了(服务端心跳 15 秒一拍) */
const STALL_MS = 45_000
/** 连不上时重连的退避上限 */
const RETRY_MAX_MS = 5000
/**
* 订阅这一轮的事件日志。返回取消函数(关掉连接、不再重连)。
*
* 连接正常结束却没收到 stream.end(服务端重启、代理断开):按最后一个 seq 马上重连;连不上(网络断了、服务端在重启)按
* 退避重试,直到服务端回来——这一轮在服务端照跑,回来之后补齐中间漏掉的那段
*/
export function streamChatTurn(
turnId: string,
after: number,
onEvent: (event: ChatTurnEvent) => void,
onEnd: (end: ChatTurnStreamEnd) => void,
): () => void {
let closed = false
let lastSeq = after
let failures = 0
let controller: AbortController | null = null
let stall: ReturnType<typeof setTimeout> | undefined
let again: ReturnType<typeof setTimeout> | undefined
const finish = (end: ChatTurnStreamEnd) => {
if (closed) return
closed = true
clearTimeout(stall)
onEnd(end)
}
const arm = () => {
clearTimeout(stall)
stall = setTimeout(() => controller?.abort(), STALL_MS)
}
const connect = async () => {
if (closed) return
controller = new AbortController()
/** 这一次连接收到了事件(不只是心跳) */
let got = false
let alive = false
try {
arm()
const path = `${turn(turnId)}/stream?after=${lastSeq}`
const res = await fetch(BASE + path, { headers: { Accept: 'text/event-stream', ...actorHeader() }, signal: controller.signal })
if (!res.ok || !res.body) {
const err = failure(res.status, res.statusText, await res.text().catch(() => ''), path)
// 这一轮读不了(删了、不是你的):再连也一样
if (err.kind !== 'network' && res.status < 500) {
finish({ error: err.message, httpStatus: res.status })
return
}
throw err
}
report(true)
alive = true
const reader = res.body.getReader()
const decoder = new TextDecoder()
let buffer = ''
for (;;) {
const { done, value } = await reader.read()
if (done) break
arm()
buffer += decoder.decode(value, { stream: true })
let idx: number
while ((idx = buffer.indexOf('\n\n')) >= 0) {
const frame = buffer.slice(0, idx)
buffer = buffer.slice(idx + 2)
if (!frame.startsWith('data: ')) continue // 心跳(: ping)
let event: any
try { event = parseBody(frame.slice(6)) } catch { continue }
if (!event || typeof event !== 'object') continue
if (event.type === 'stream.end') {
finish({ status: event.data?.status ?? event.status })
controller.abort()
return
}
if (typeof event.seq !== 'number' || event.seq <= lastSeq) continue // 重连时重叠的那段只要一份
lastSeq = event.seq
got = true
if (!closed) onEvent(event as ChatTurnEvent)
}
}
} catch (e: any) {
if (closed) return
if (e instanceof TypeError) report(false, new ApiError(0, NETWORK_MESSAGE, { kind: 'network', raw: String(e) }))
}
if (closed) return
clearTimeout(stall)
// 收到了东西就马上接着连;只有心跳的稍等一下;连不上的按退避
failures = got ? 0 : alive ? 0 : failures + 1
const delay = got ? 0 : alive ? 300 : Math.min(300 * 2 ** failures, RETRY_MAX_MS)
again = setTimeout(() => void connect(), delay)
}
void connect()
return () => {
closed = true
clearTimeout(stall)
clearTimeout(again)
controller?.abort()
}
}
+5
View File
@@ -39,6 +39,8 @@ import { caliberLedger } from './caliberLedger'
import { capabilities, endpoints, notify } from './capabilities'
// 普通用户建应用(typesBlueprint.ts 是接口约定)
import { blueprints, files, personal, templates } from './blueprints'
// 问数据的一轮在服务端跑(编排完善第 1 波):发起、看、停,实时流在 chatTurns.ts 的 streamChatTurn
import { chatTurns } from './chatTurns'
// 请求层搬到了 http.ts(见那边的说明)。原先从这里导出的照旧从这里导出,调用方不用改;
// 请求函数也一并转出,给不在 api/ 下、又想直接发请求的地方用。api/ 下的命名空间文件请直接从 http.ts 导入
@@ -986,6 +988,9 @@ export const api = {
templates,
files,
personal,
// 问数据的一轮(服务端跑整轮:发起、看、停)
chatTurns,
}
/**