mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-19 00:22:00 +00:00
问数据整轮放到服务端跑(前端):store/chat.ts 改成「发起 + 播放」,断线按 seq 重连补齐,刷新、关掉再打开接着看
为什么:一轮问数据搬到服务端之后(上一个提交),页面不该再推这一轮:建图那条流、发起运行、复核、按复核重来、落库都和页面 绑在一起,页面一断这一轮就停。现在页面只发起、只看,要不要运行、要不要重来、什么时候交付都照服务端说的。 做了什么: - 新的 api/chatTurns.ts:发起、查询、停止(挂在 api.chatTurns),streamChatTurn 订阅这一轮的事件日志——先回放、再接实时; 断了按收到的最后一个 seq 自动重连(收到东西马上接着连,连不上按退避),45 秒什么都没收到(服务端 15 秒一拍心跳)当连接死了。 - store/chat.ts:plan / launch / settle / retry 换成发起(launchTurn)+ 播放(play)。收到的操作照原来的渲染逻辑画(画布边收 边长、过程步骤、思考、查看、用量);收到 run 就接上运行自己的实时流画过程(watch 只画过程,不再判结局);stage 说到了 哪一步(停在审批上立刻去拿待审批);turn.retry 照原来自动重来那样重置;end 照服务端落库的那一行摆结局(和刷新之后从库里 恢复的是同一份 restoreTurn)。「重试本轮」「重新运行本轮」「放宽步数」「跑一下」「继续运行」「停止」都走新接口。 - 页面不再写这一轮的结局(不再 PATCH 轮次、不再调 /copilot/review、不再发 POST /api/runs);失败的说法照服务端记的原因 (meta.cause)按 lib/explain 讲,老轮次记的 failure 照旧认。 - 刷新、关掉再打开:服务端还在跑的一轮(ConversationTurn.job)从这一次尝试的第一条事件接着播;库里停在半路、服务端又没在跑 的(老轮次、服务重启后停着的)请服务端接着收尾(mode=resume),不在页面上自己收尾。问数据页的显示不变。 - 页面上那份退路(MAX_ATTEMPTS、fillInput、retryInstruction、等复核的计时)去掉:决定只在服务端一处。后端对照测试改成守 「页面上不再有这几样」。 - scripts/check-chat.mjs:伪造的服务端照 backend/app/chat/job.py 的做法用原来那几份剧本把一轮跑完(生成、发起运行、等运行的剧本 放完、复核、拼那一行),原有各段照过;守落库的几处改成守「页面不 PATCH 这一轮」和照服务端那一行摆;新加「断线重连补齐」 「刷新、关掉再打开接着看」「停止(建图中也停得下)」几段,并核对发起、重试、放宽步数、继续运行、停止的请求体。 - 服务端顺带:turn.attempt 带上到目前为止的用量、从什么时候算起(补交付的到运行结束为止),turn.retry 带上换下来的那次运行 并进之后的用量(页面上的运行壳子里没有用量);接着收尾(resume)不要求运行还在,运行记录删了的照实收成「运行记录不见了」。
This commit is contained in:
@@ -0,0 +1,153 @@
|
||||
/**
|
||||
* 问数据的一轮在服务端跑(docs/design/orchestration-round/00-总方案.md §1;服务端 backend/app/api/chat_turns.py),挂在
|
||||
* api.chatTurns 上。页面只发起、只看:建图、运行、复核、按复核重来、落库都在服务端,页面断了这一轮也会跑完。
|
||||
*
|
||||
* - start:发起一轮(新问,或者对已有的一轮重试、重新运行、放宽步数、跑一下、继续运行、接着收尾),202 {turn_id, turn};
|
||||
* - get:这一轮的任务现在怎样;cancel:停止(取消生成、取消运行);
|
||||
* - streamChatTurn:这一轮的事件日志(SSE)。先回放 seq > after 的,再推实时;断了按收到的最后一个 seq 自动重连,补齐、
|
||||
* 不重复;45 秒什么都没收到(服务端每 15 秒有一拍心跳)就当连接死了,重连。服务端说这一轮结束了(stream.end)才停。
|
||||
*
|
||||
* 请求函数从 ./http 导入,不从 ./client 导入:client.ts 要导入这个文件把它挂到 api 上,反过来导入就成了循环。
|
||||
*/
|
||||
import type { ConversationTurn } from '../types'
|
||||
import { ApiError, BASE, NETWORK_MESSAGE, actorHeader, failure, get, parseBody, post, report } from './http'
|
||||
|
||||
/** 发起一轮的方式(服务端 app/chat/job.MODES) */
|
||||
export type ChatTurnMode = 'ask' | 'retry' | 'rerun' | 'max_steps' | 'run' | 'continue' | 'resume'
|
||||
|
||||
export interface ChatTurnStart {
|
||||
conversation_id: string
|
||||
question?: string
|
||||
/** 只查这几个数据源。新问不给是不限;重试不给沿用这一轮的,空数组是不限 */
|
||||
datasource_ids?: string[]
|
||||
retry_of?: string
|
||||
mode?: ChatTurnMode
|
||||
max_steps?: number
|
||||
}
|
||||
|
||||
/** 事件日志里的一条(服务端 app/chat/job.py 的模块说明列了各种 type) */
|
||||
export interface ChatTurnEvent {
|
||||
seq: number
|
||||
type: string
|
||||
data: Record<string, any>
|
||||
ts: number
|
||||
}
|
||||
|
||||
/** 实时流结束时的情况:status 是服务端说的任务状态(stream.end);error 是这一轮读不了(不存在、没权限) */
|
||||
export interface ChatTurnStreamEnd {
|
||||
status?: string
|
||||
error?: string
|
||||
httpStatus?: number
|
||||
}
|
||||
|
||||
const turn = (id: string) => `/chat/turns/${encodeURIComponent(id)}`
|
||||
|
||||
export const chatTurns = {
|
||||
start: (body: ChatTurnStart) => post<{ turn_id: string; turn: ConversationTurn | null }>('/chat/turns', body),
|
||||
get: (id: string) => get<{ id: string; conversation_id: string; job: ConversationTurn['job']; turn: ConversationTurn }>(turn(id)),
|
||||
cancel: (id: string) => post<{ ok: boolean }>(`${turn(id)}/cancel`, {}),
|
||||
}
|
||||
|
||||
/** 多久什么都没收到就当连接死了(服务端心跳 15 秒一拍) */
|
||||
const STALL_MS = 45_000
|
||||
/** 连不上时重连的退避上限 */
|
||||
const RETRY_MAX_MS = 5000
|
||||
|
||||
/**
|
||||
* 订阅这一轮的事件日志。返回取消函数(关掉连接、不再重连)。
|
||||
*
|
||||
* 连接正常结束却没收到 stream.end(服务端重启、代理断开):按最后一个 seq 马上重连;连不上(网络断了、服务端在重启)按
|
||||
* 退避重试,直到服务端回来——这一轮在服务端照跑,回来之后补齐中间漏掉的那段
|
||||
*/
|
||||
export function streamChatTurn(
|
||||
turnId: string,
|
||||
after: number,
|
||||
onEvent: (event: ChatTurnEvent) => void,
|
||||
onEnd: (end: ChatTurnStreamEnd) => void,
|
||||
): () => void {
|
||||
let closed = false
|
||||
let lastSeq = after
|
||||
let failures = 0
|
||||
let controller: AbortController | null = null
|
||||
let stall: ReturnType<typeof setTimeout> | undefined
|
||||
let again: ReturnType<typeof setTimeout> | undefined
|
||||
|
||||
const finish = (end: ChatTurnStreamEnd) => {
|
||||
if (closed) return
|
||||
closed = true
|
||||
clearTimeout(stall)
|
||||
onEnd(end)
|
||||
}
|
||||
const arm = () => {
|
||||
clearTimeout(stall)
|
||||
stall = setTimeout(() => controller?.abort(), STALL_MS)
|
||||
}
|
||||
|
||||
const connect = async () => {
|
||||
if (closed) return
|
||||
controller = new AbortController()
|
||||
/** 这一次连接收到了事件(不只是心跳) */
|
||||
let got = false
|
||||
let alive = false
|
||||
try {
|
||||
arm()
|
||||
const path = `${turn(turnId)}/stream?after=${lastSeq}`
|
||||
const res = await fetch(BASE + path, { headers: { Accept: 'text/event-stream', ...actorHeader() }, signal: controller.signal })
|
||||
if (!res.ok || !res.body) {
|
||||
const err = failure(res.status, res.statusText, await res.text().catch(() => ''), path)
|
||||
// 这一轮读不了(删了、不是你的):再连也一样
|
||||
if (err.kind !== 'network' && res.status < 500) {
|
||||
finish({ error: err.message, httpStatus: res.status })
|
||||
return
|
||||
}
|
||||
throw err
|
||||
}
|
||||
report(true)
|
||||
alive = true
|
||||
const reader = res.body.getReader()
|
||||
const decoder = new TextDecoder()
|
||||
let buffer = ''
|
||||
for (;;) {
|
||||
const { done, value } = await reader.read()
|
||||
if (done) break
|
||||
arm()
|
||||
buffer += decoder.decode(value, { stream: true })
|
||||
let idx: number
|
||||
while ((idx = buffer.indexOf('\n\n')) >= 0) {
|
||||
const frame = buffer.slice(0, idx)
|
||||
buffer = buffer.slice(idx + 2)
|
||||
if (!frame.startsWith('data: ')) continue // 心跳(: ping)
|
||||
let event: any
|
||||
try { event = parseBody(frame.slice(6)) } catch { continue }
|
||||
if (!event || typeof event !== 'object') continue
|
||||
if (event.type === 'stream.end') {
|
||||
finish({ status: event.data?.status ?? event.status })
|
||||
controller.abort()
|
||||
return
|
||||
}
|
||||
if (typeof event.seq !== 'number' || event.seq <= lastSeq) continue // 重连时重叠的那段只要一份
|
||||
lastSeq = event.seq
|
||||
got = true
|
||||
if (!closed) onEvent(event as ChatTurnEvent)
|
||||
}
|
||||
}
|
||||
} catch (e: any) {
|
||||
if (closed) return
|
||||
if (e instanceof TypeError) report(false, new ApiError(0, NETWORK_MESSAGE, { kind: 'network', raw: String(e) }))
|
||||
}
|
||||
if (closed) return
|
||||
clearTimeout(stall)
|
||||
// 收到了东西就马上接着连;只有心跳的稍等一下;连不上的按退避
|
||||
failures = got ? 0 : alive ? 0 : failures + 1
|
||||
const delay = got ? 0 : alive ? 300 : Math.min(300 * 2 ** failures, RETRY_MAX_MS)
|
||||
again = setTimeout(() => void connect(), delay)
|
||||
}
|
||||
void connect()
|
||||
|
||||
return () => {
|
||||
closed = true
|
||||
clearTimeout(stall)
|
||||
clearTimeout(again)
|
||||
controller?.abort()
|
||||
}
|
||||
}
|
||||
@@ -39,6 +39,8 @@ import { caliberLedger } from './caliberLedger'
|
||||
import { capabilities, endpoints, notify } from './capabilities'
|
||||
// 普通用户建应用(typesBlueprint.ts 是接口约定)
|
||||
import { blueprints, files, personal, templates } from './blueprints'
|
||||
// 问数据的一轮在服务端跑(编排完善第 1 波):发起、看、停,实时流在 chatTurns.ts 的 streamChatTurn
|
||||
import { chatTurns } from './chatTurns'
|
||||
|
||||
// 请求层搬到了 http.ts(见那边的说明)。原先从这里导出的照旧从这里导出,调用方不用改;
|
||||
// 请求函数也一并转出,给不在 api/ 下、又想直接发请求的地方用。api/ 下的命名空间文件请直接从 http.ts 导入
|
||||
@@ -986,6 +988,9 @@ export const api = {
|
||||
templates,
|
||||
files,
|
||||
personal,
|
||||
|
||||
// 问数据的一轮(服务端跑整轮:发起、看、停)
|
||||
chatTurns,
|
||||
}
|
||||
|
||||
/**
|
||||
|
||||
Reference in New Issue
Block a user