mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-22 07:32:00 +00:00
应用库可移植到 PostgreSQL:AGENTLAB_DATABASE_URL 设成 postgresql+asyncpg://… 时整个应用库用 PostgreSQL,断点用官方的 langgraph-checkpoint-postgres(同一个库,AGENTLAB_CHECKPOINT_URL 可另给);不设时照旧是数据目录里的 SQLite,行为不变
- 配置:database_url、checkpoint_url(启动时校验写法,只认 PostgreSQL)、连接池四项;启动日志写用的是哪种库(主机、库名、用户,不写密码) - 引擎(db/base.make_engine):SQLite 照旧 WAL、外键、忙等;PostgreSQL 用连接池、探活、会话时区 UTC,装上方言调整(db/postgres.py):建表时 String(n) 是不限长的 VARCHAR(SQLite 从不查长度,导过来的存量也可能超长)、ORDER BY 里可空列的 NULL 位置照 SQLite 补写(升序在前、降序在后,窗口函数里同样);Integer 列在 PostgreSQL 上是 BIGINT(列挂到表上时换成 with_variant,绑定参数跟着列按 BIGINT 转换);JSON 列两边都存原文(PostgreSQL 的 json,不用 JSONB:JSONB 重排对象里的键,快照的列序、表的先后读回来就变了);JSON 里的 NaN 写成 null、NUL 去掉(PostgreSQL 不收) - 迁移按方言:已有的列和索引用 inspector 认;PostgreSQL 上补列的类型取模型里这一列的、缺省值取迁移表里的(布尔 0/1 换成 false/true),ADD COLUMN IF NOT EXISTS;去重语句里的布尔按方言写;部分唯一索引补 postgresql_where;init_db 在 PostgreSQL 上拿咨询锁(几个进程同时启动不撞) - 应用库上的 SQLite 专用写法改成按方言编译的表达式(db/portable.py):json_extract 的十几处(口径召回、出具、对账、个人应用、幂等键、访问控制、数据源变化通知、剖析任务、待办超时)换成 json_eq / json_flag / json_text,json_type 换成 json_is_string(两种库同一套带类型的比较);能力登记的 sqlite insert 换成按会话方言的 insert_ignore;能力使用次数的 json_each 按方言分支;附件「没绑记录」的条件不靠 json 的等号;按报错文字认唯一约束的地方换成 unique_violation(按表和列认,两种库的报错都认得) - 断点(engine/checkpoints.py):PostgreSQL 时开 psycopg 连接池、在咨询锁里 setup;runner 只认 BaseCheckpointSaver,读断点仍只走 saver 的公开接口 - 依赖:新 extra postgres(asyncpg、psycopg[binary] 3、psycopg-pool、langgraph-checkpoint-postgres 3.1.2);langgraph-checkpoint 卡在 <4.3(断点格式就在这个包里,postgres 包新版要 4.3,不动已装的 4.2.0);锁文件补上新包 - 运行收尾:记 action.unknown、安排核实做完才把运行摘掉(以前先摘掉,等「不在跑了」再读事件的一方在库慢时读不到这一条) - 测试:AGENTLAB_TEST_DATABASE_URL 时跑在 PostgreSQL 上(每个 xdist 进程建自己的库、按事件循环分的连接池 tests/pgpool.py),不设时盖掉环境里的数据库地址照旧用 SQLite;scripts/test-postgres.sh 起临时的 postgres:16 容器跑全量;sqlite_only 标记;另开连接改库的几个竞态测试、触发器测试改成两种库都能跑(tests/appdb.py);新增 test_db_portable 守着方言调整、JSON 键序、超长字符串、大整数、NULL 排序、时区、PostgreSQL 老库迁移
This commit is contained in:
@@ -10,7 +10,7 @@ from collections.abc import Callable, Sequence
|
||||
from datetime import datetime, timezone
|
||||
from typing import Any
|
||||
|
||||
from langgraph.checkpoint.sqlite.aio import AsyncSqliteSaver
|
||||
from langgraph.checkpoint.base import BaseCheckpointSaver
|
||||
from langgraph.errors import GraphRecursionError
|
||||
from langgraph.types import Command
|
||||
from sqlalchemy import case, func, select, update
|
||||
@@ -71,7 +71,7 @@ class RunManager:
|
||||
|
||||
def __init__(self) -> None:
|
||||
self._tasks: dict[str, asyncio.Task[None]] = {}
|
||||
self._checkpointer: AsyncSqliteSaver | None = None
|
||||
self._checkpointer: BaseCheckpointSaver | None = None
|
||||
self._cm: Any = None
|
||||
self._semaphore = asyncio.Semaphore(settings.max_concurrent_runs)
|
||||
#: 正在关停。此时收到的取消来自关停而不是用户,运行要记成可恢复的中断
|
||||
@@ -86,7 +86,10 @@ class RunManager:
|
||||
async def setup(self) -> None:
|
||||
self._closing = False
|
||||
settings.ensure_dirs()
|
||||
self._cm = AsyncSqliteSaver.from_conn_string(str(settings.checkpoint_path))
|
||||
# SQLite:数据目录里的 checkpoints.db;PostgreSQL:同一个库(或 AGENTLAB_CHECKPOINT_URL),见 engine/checkpoints.py
|
||||
from app.engine.checkpoints import open_saver
|
||||
|
||||
self._cm = open_saver()
|
||||
self._checkpointer = await self._cm.__aenter__()
|
||||
# 上次进程被强杀时留下的记录。running 和 queued 要分开处理:
|
||||
# running 至少跑过一步、有 checkpoint,可以续;queued 还在排队,
|
||||
@@ -163,7 +166,7 @@ class RunManager:
|
||||
await self._cm.__aexit__(None, None, None)
|
||||
|
||||
@property
|
||||
def checkpointer(self) -> AsyncSqliteSaver:
|
||||
def checkpointer(self) -> BaseCheckpointSaver:
|
||||
if self._checkpointer is None:
|
||||
raise RuntimeError("RunManager 还没初始化")
|
||||
return self._checkpointer
|
||||
@@ -889,6 +892,15 @@ class RunManager:
|
||||
try:
|
||||
await self._finalize(run_id, status, error, final_state, elapsed,
|
||||
terminal=terminal, error_node=error_node, end_reason=end_reason)
|
||||
# 记 action.unknown、安排核实也算收尾:做完才把自己摘掉。以前摘掉之后才做,等运行「不在跑了」
|
||||
# 再去读事件的一方(接口、测试)有一小段读不到这一条;库慢一点(PostgreSQL 满载时)就读不到
|
||||
if pending_action is not None:
|
||||
from app.process.actions import on_unknown
|
||||
|
||||
try:
|
||||
await on_unknown(pending_action)
|
||||
except Exception: # noqa: BLE001 - 运行已经收成挂起;没安排上的核实,下次启动时 actions.startup 补上
|
||||
logger.exception("run %s 的动作 %s 结果未知,安排核实时出错", run_id, pending_action)
|
||||
finally:
|
||||
# 收尾被打断(关停时的取消、库连接出错)也得把自己摘掉。以前写在
|
||||
# _finalize 后面,一被打断就漏掉,留下的任务让下一次 shutdown 的
|
||||
@@ -896,13 +908,6 @@ class RunManager:
|
||||
self._finalizing.discard(run_id)
|
||||
self._tasks.pop(run_id, None)
|
||||
self._stopped_by.pop(run_id, None)
|
||||
if pending_action is not None:
|
||||
from app.process.actions import on_unknown
|
||||
|
||||
try:
|
||||
await on_unknown(pending_action)
|
||||
except Exception: # noqa: BLE001 - 运行已经收成挂起;没安排上的核实,下次启动时 actions.startup 补上
|
||||
logger.exception("run %s 的动作 %s 结果未知,安排核实时出错", run_id, pending_action)
|
||||
# 运行到终态就把沙箱会话收掉。thread_id 每个 run 都是新的,
|
||||
# 不收的话每跑一次带代码节点的图就多一台常驻 microVM(几百 MB),
|
||||
# 而且没有任何自动回收路径会碰它——闲置回收只在"下次有人执行
|
||||
|
||||
Reference in New Issue
Block a user