mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-17 20:52:01 +00:00
Excel 导入改造期 1:止血与版本底座——写错的列名不再静默得 0,导入不再悄悄读错,每次上传生成不可变的版本,运行固定发起时的数据版本
连接层 - 所有 SQLite 数据源关闭双引号字符串兼容(DQS),写错的双引号列名直接报错;设置失败就拒绝连接,启动时自检 - 连接缓存按数据源加版本快照分键、按源整体失效、最多 32 个;版本快照以 immutable 只读打开,建连接前核对文件哈希,并在借出连接时核对文件指纹,被改过就拒绝查询 - 结构探查遇到取不了列的视图时逐个对象重取,只跳过坏的那个并注明原因 解析(新 xlsx_scan + tabular) - 先流式扫描真实边界和版式(不信 dimension),再按边界读值,不整表进内存;按 Excel 自身上限设硬上限,并发解析最多两个 - 隐藏和深度隐藏的工作表不导入;稀疏区域、无缓存值的公式、同名工作表、DTD 拒收 - 去掉空行和两侧空列;列名表名统一规范化(新 names 模块)并保留原表头,撞名不再互相覆盖 - 前导零、超长数字按文本;千分位按数字;日期不带 T;带单位的数字文本写进回执 - 数字列混入非数字、交叉表和多块结构必须由用户决定(422),可选存空值或按原样导入(未规整);STRICT 建表,整份在一个事务里写完 版本底座(新 table_versions、raw_store) - 每次上传写新库文件、落盘、0444,事务里写构建、导入记录、快照后才切指针;失败时旧版完整可查 - 原件按哈希存档,不提供下载,可以清除;上传源不许改连接字段、不再重新探查;手工 SQLite 源不许指向上传目录和应用自己的数据文件(按文件身份判断) - 启动时清理半成品与孤儿文件、给老上传补初始版本;被运行引用的版本不回收,发起运行与回收互斥 - 上传接口的解析移到线程池 运行固定数据版本 - 发起时把图里(含子工作流)用到的上传源的当前快照记进运行记录和 run.started,续跑、审批恢复沿用;数据源工具按固定的快照生成描述、表结构并查询 - 固定的版本没了、源被删除后同名重建,都明确报错,不改用当前版本或同名的新源;查询快照记 data_version 证据层 - 新报告记 entity_syntax: 2,[[t:明细]]、[[c:明细.金额]] 和 SQL 里不加引号的中文表名都认得,名字按 SQLite 的口径查找;老报告按原规则复核,结果不变 - 写作规则改为中文表名、字段名一律用 [[t:]] / [[c:]];未规整的表在工具描述、写作目录和裁判摘录里标出 前端 - 上传弹窗接上导入前的决定(混合列、交叉表)和导入回执(跳过的隐藏表、类型转换、警告、原表头对照、未规整标记),上传前告知原件会保存 - 数据源卡片按 origin 认上传的表格,显示当前版本;上传的表格不再给「探查结构」
This commit is contained in:
@@ -14,7 +14,7 @@ from app.db.models import CustomTool, McpServer
|
||||
from app.tools.custom import ToolFailure, schema_problem, trial
|
||||
from app.tools.mcp_manager import mcp_manager
|
||||
from app.tools.registry import (
|
||||
ToolArgsError, ToolBuildError, ToolContext, all_specs, build_tools, call_is_dangerous,
|
||||
ToolArgsError, ToolBuildError, ToolContext, Versions, all_specs, build_tools, call_is_dangerous,
|
||||
call_tool, get_spec,
|
||||
)
|
||||
from app.tools.trust import load_trust, set_trust
|
||||
@@ -135,8 +135,9 @@ async def _side_effect(name: str, args: dict[str, Any], session: AsyncSession) -
|
||||
return (f"将调用自定义接口「{name}」"
|
||||
f"({cfg.get('method') or 'GET'} {cfg.get('url') or '(未填写地址)'})")
|
||||
return f"将在沙箱中执行自定义工具「{name}」的代码"
|
||||
# 数据源工具:只读源上的查询没有副作用,可写源上的写操作有
|
||||
tools = await build_tools([name], ToolContext(run_id="playground", node_id="playground"),
|
||||
# 数据源工具:只读源上的查询没有副作用,可写源上的写操作有。不在运行里,上传表格看当前版本
|
||||
tools = await build_tools([name], ToolContext(run_id="playground", node_id="playground",
|
||||
data_versions=Versions.CURRENT),
|
||||
session=session)
|
||||
if tools and call_is_dangerous(tools[0], name, args):
|
||||
return f"将在可写数据源上执行写操作:{str(args.get('sql') or '')[:120]}"
|
||||
@@ -163,8 +164,9 @@ async def run_tool(
|
||||
# 放进确认框里读起来就不对
|
||||
raise HTTPException(409, f"{effect}。在工具库中执行不经过审批,确认后才会执行。")
|
||||
|
||||
# 不在运行里:上传表格查当前版本(运行里查的是发起时固定的那一版)
|
||||
ctx = ToolContext(run_id="playground", node_id="playground",
|
||||
sandbox_session=payload.sandbox_session)
|
||||
sandbox_session=payload.sandbox_session, data_versions=Versions.CURRENT)
|
||||
import time
|
||||
|
||||
started = time.perf_counter()
|
||||
@@ -285,7 +287,8 @@ async def _trial(row: CustomTool, args: dict[str, Any]) -> dict[str, Any]:
|
||||
import json
|
||||
import time
|
||||
|
||||
ctx = ToolContext(run_id="playground", node_id="test", sandbox_session="playground")
|
||||
ctx = ToolContext(run_id="playground", node_id="test", sandbox_session="playground",
|
||||
data_versions=Versions.CURRENT)
|
||||
started = time.perf_counter()
|
||||
|
||||
def took() -> int:
|
||||
|
||||
Reference in New Issue
Block a user