mirror of
https://github.com/ThearchyHelios/AgentLab.git
synced 2026-11-15 02:01:57 +00:00
ThearchyHelios
5e6742b905
口径卡上记着每个输入的值和代入式：cell() 取的遮罩格、按位置取的 vars.res.rows[0][1]，以前原样嵌进这份要发给别人的文件， 证据面板上已经遮住的号码在这里照样看得到。现在口径卡有一个输入取自遮罩列（遮没遮核对不了的也算），整张卡和带遮罩的快照一样 只给 id——没法只拿掉几个值，拿掉了哈希就对不上。认法和证据面板、推演同一个（recompute.input_origin）：按定位里的列认，按位置 取的一格顺着取值链从写变量的节点在口径卡那次执行之前的产出起走；快照或产出读不出来、结果没存快照只带着数据源名的宁可多挡。 核对页（verifier.js）把带遮罩的口径卡当成正常的无法核对（「含遮罩列，未随文件附带，只能核对到哈希」），引用它的数字同样无法 核对；只有报告文档标着遮罩才判被改过。check-bundle 原来那项「口径卡标成遮罩判不通过」相应改成「报告文档标成遮罩判不通过」， 另加样本页 masked-card：口径卡在 ③ 无法核对、引用它的数字无法核对、总览通过、页面里找不到那个号码。去掉核对页的改动，这几项变红。
850 lines
53 KiB
JavaScript
850 lines
53 KiB
JavaScript
// 可验证报告的检查：真服务端导出、断网打开核对、篡改变红；虚构样本页上的各种形状；外加记录页上的导出按钮。
|
||
//
|
||
// 跑之前前后端都得起着（check-all 另起的那套，或者 ./scripts/dev.sh）。默认连 5273 / 8000；对别的实例跑时带上地址：
|
||
// AGENTLAB_WEB=http://localhost:<前端端口> AGENTLAB_API=http://localhost:<后端端口>/api node scripts/check-bundle.mjs
|
||
// 样本页用后端解释器生成（CHECK_PYTHON，默认 ~/miniforge3/envs/agentlab/bin/python），从这份工作区的 backend 导入。
|
||
//
|
||
// 分几段：
|
||
// - 导出：从服务端找一份已封存、封存核对一致、有报告文档的运行（GET /api/runs 找成功结束的，再看 /verify 和证据接口），
|
||
// 下载 bundle.html：状态码、类型、附件名（RFC 5987）、页面本身零外链。找不到可导出的运行时照实报失败并说明原因；
|
||
// - 断网打开：拦掉一切网络请求，从本地文件打开：各项核对没有不通过、总览通过、没有发出任何请求，数字点开看得到出处；
|
||
// - 去掉 crypto.subtle：页面加载前删掉它，照常全部通过，页脚写明用的是本页内置的实现；
|
||
// - 篡改：① 一条带规范字符串的事件内容、② 一份嵌入工件的一个字节、③ 元信息里的封存哈希，各自对应的核对项不通过、
|
||
// 总览显示不通过；另做一次「哈希全部重算」的伪造：改报告里一个数字的引用值，文档、事件、清单、页面顶部的封存哈希
|
||
// 都重算一遍，①–④ 都对得上，只有 ⑤ 拿口径卡、快照对出来不通过，报告标题旁的徽标跟着不通过；
|
||
// - 深浅色、窄屏：390 宽不横向溢出，点开的数字面板在窄屏上从底部抽出，深色下底是深的、字是浅的；
|
||
// - 样本页：tests/bundle_samples.py 用虚构数据真实生成的几份页面（遮罩快照、两份报告、早期运行、失败结束、先失败后
|
||
// 经继续运行跑到成功的早期运行、两条出具
|
||
// 判定、服务端缺文件、裸 NaN、别的运行的文档、口径卡有输入取自遮罩列），逐份断言各项结果和原因文案；在上面篡改 ④
|
||
// 引用链（换文档、拿掉报告、多一份没人引用的工件）、⑥ 运行信息（运行结果、类别、出具档位）、拿掉被引用的口径卡、把
|
||
// 报告文档标成遮罩、只改页面顶部的封存哈希；宽屏点开表格里右对齐的数字不被面板盖住；不执行脚本时封存哈希、运行 ID 照样看得到，状态写「尚未核对」；
|
||
// - 记录页的导出按钮（预览用例 ?syn=bundle-provenance-*，page.route 假装导出接口）：已封存时可点、下载的文件名同服务端；
|
||
// 未封存时不可点并说明原因（左边写着「已封存」却不能点时原因写在屏幕上）；服务端回 409 时提示原因；失败结束的运行
|
||
// 提示之后继续运行会重新封存。
|
||
//
|
||
// 读的是真数据：输出里不打印工作流名、报告内容和数字，只打印计数和运行号前 8 位。下载的文件写在临时目录，跑完删掉。
|
||
// 导出接口只读（不追加事件、不改运行），页面检查里的写接口一律是假的。
|
||
import { spawnSync } from 'node:child_process'
|
||
import { createHash } from 'node:crypto'
|
||
import { existsSync, mkdtempSync, readFileSync, readdirSync, rmSync, writeFileSync } from 'node:fs'
|
||
import { homedir, tmpdir } from 'node:os'
|
||
import { dirname, join } from 'node:path'
|
||
import { fileURLToPath, pathToFileURL } from 'node:url'
|
||
import { chromium } from '../frontend/node_modules/playwright-core/index.mjs'
|
||
|
||
const WEB = process.env.AGENTLAB_WEB ?? 'http://localhost:5273'
|
||
const API = process.env.AGENTLAB_API ?? 'http://localhost:8000/api'
|
||
const CHROME = process.env.CHROME_PATH ?? '/Applications/Google Chrome.app/Contents/MacOS/Google Chrome'
|
||
const BACKEND = join(dirname(dirname(fileURLToPath(import.meta.url))), 'backend')
|
||
const PYTHON = [process.env.CHECK_PYTHON, join(homedir(), 'miniforge3/envs/agentlab/bin/python')]
|
||
.find((p) => p && existsSync(p))
|
||
|
||
let failed = 0
|
||
const check = (name, cond, detail = '') => {
|
||
console.log(` ${cond ? '✓' : '✗'} ${name}${detail ? ` — ${detail}` : ''}`)
|
||
if (!cond) failed++
|
||
}
|
||
const note = (text) => console.log(` · ${text}`)
|
||
/** 等一处元素出现：locator.isVisible() 不等待，提示、按钮恢复要等一会儿才到 */
|
||
const appears = (locator, timeout = 5000) => locator.first().waitFor({ state: 'visible', timeout }).then(() => true, () => false)
|
||
|
||
const TMP = mkdtempSync(join(tmpdir(), 'agentlab-bundle-'))
|
||
// 导出的页面带着真数据：中途崩了也要删掉
|
||
process.on('exit', () => rmSync(TMP, { recursive: true, force: true }))
|
||
const browser = await chromium.launch({ executablePath: CHROME })
|
||
const cleanup = async () => {
|
||
await browser.close().catch(() => {})
|
||
rmSync(TMP, { recursive: true, force: true })
|
||
}
|
||
|
||
/** 一节一节地跑：某一节里元素找不到、等待超时，只记成这一节失败，接着跑下一节 */
|
||
async function section(name, fn) {
|
||
console.log(`\n=== ${name} ===`)
|
||
try {
|
||
await fn()
|
||
} catch (e) {
|
||
check(`${name} 中途出错`, false, String(e?.message ?? e).split('\n')[0])
|
||
}
|
||
}
|
||
|
||
// ---------------------------------------------------------------- 页面数据的读写（篡改用）
|
||
|
||
const DATA_RE = /(<script type="application\/json" id="bundle-data">)([\s\S]*?)(<\/script>)/
|
||
const SEAL_RE = /(<code id="seal-hash" class="hash">)([^<]*)(<\/code>)/
|
||
const dataOf = (html) => JSON.parse(DATA_RE.exec(html)[2])
|
||
// 和服务端 bundle_json 一样转义 < > & 和 U+2028 / U+2029，改过的数据照样截不断数据块
|
||
const escapeJson = (obj) => JSON.stringify(obj)
|
||
.replace(/[<>&\u2028\u2029]/g, (c) => `\\u${c.charCodeAt(0).toString(16).padStart(4, '0')}`)
|
||
const withData = (html, obj) => html.replace(DATA_RE, (_, open, __, close) => open + escapeJson(obj) + close)
|
||
/** 只改页面顶部静态写出的封存哈希（不执行脚本也看得到的那一份） */
|
||
const withSeal = (html, hash) => html.replace(SEAL_RE, (_, open, __, close) => open + hash + close)
|
||
const sha = (data) => createHash('sha256').update(data).digest('hex')
|
||
|
||
function writePage(name, html) {
|
||
const file = join(TMP, name)
|
||
writeFileSync(file, html)
|
||
return file
|
||
}
|
||
|
||
/**
|
||
* 断网打开一份本地文件：除了 file:// 本身，任何请求都拦掉并记下来。等页面核对完（html[data-verified]）再交回。
|
||
* noSubtle：页面脚本跑之前删掉 crypto.subtle（Crypto.prototype 上的 getter），逼它走内置实现
|
||
*/
|
||
async function openFile(file, { noSubtle = false, colorScheme = 'light', width = 1280 } = {}) {
|
||
const ctx = await browser.newContext({ viewport: { width, height: 900 }, colorScheme })
|
||
const requests = []
|
||
await ctx.route('**/*', (route) => {
|
||
const url = route.request().url()
|
||
if (url.startsWith('file:')) return route.continue()
|
||
requests.push(url)
|
||
return route.abort('blockedbyclient')
|
||
})
|
||
const page = await ctx.newPage()
|
||
const errors = []
|
||
page.on('pageerror', (e) => errors.push(`pageerror: ${e.message}`))
|
||
page.on('console', (m) => { if (m.type() === 'error') errors.push(m.text()) })
|
||
if (noSubtle) {
|
||
await page.addInitScript(() => {
|
||
Object.defineProperty(Crypto.prototype, 'subtle', { get: () => undefined, configurable: true })
|
||
})
|
||
}
|
||
await page.goto(pathToFileURL(file).href)
|
||
await page.waitForSelector('html[data-verified]', { timeout: 30_000 })
|
||
return { ctx, page, requests, errors }
|
||
}
|
||
|
||
const stateOf = (page) => page.evaluate(() => ({
|
||
overall: document.getElementById('overall')?.getAttribute('data-overall'),
|
||
text: document.getElementById('overall-text')?.textContent ?? '',
|
||
checks: Object.fromEntries([...document.querySelectorAll('[data-check]')].map((c) => [c.dataset.check, c.dataset.result])),
|
||
sums: Object.fromEntries([...document.querySelectorAll('[data-check]')].map((c) => [c.dataset.check,
|
||
c.querySelector('.check-sum')?.textContent ?? ''])),
|
||
failsIn: Object.fromEntries([...document.querySelectorAll('[data-check]')].map((c) => [c.dataset.check,
|
||
new Set([...c.querySelectorAll('li[data-result="fail"]')].map((li) => li.textContent)).size])),
|
||
// 每一条核对：在哪一块、结果、文字（含原因）、是不是收在「展开全部」里
|
||
items: [...document.querySelectorAll('[data-check] li[data-result]')].map((li) => ({
|
||
check: li.closest('[data-check]').dataset.check, result: li.dataset.result, text: li.textContent,
|
||
folded: !!li.closest('details'),
|
||
})),
|
||
reports: [...document.querySelectorAll('article.report')].map((a) => ({
|
||
node: a.dataset.report, result: a.dataset.result, parts: a.querySelector('[data-report-parts]')?.textContent ?? '',
|
||
warn: a.querySelector('.warn')?.textContent ?? '', why: a.querySelector('.warn')?.dataset.why ?? '',
|
||
})),
|
||
meta: Object.fromEntries([...document.querySelectorAll('[data-meta]')].map((m) => [m.dataset.meta,
|
||
{ result: m.dataset.result, text: m.textContent }])),
|
||
numbers: document.querySelectorAll('button.num').length,
|
||
numberStates: [...document.querySelectorAll('button.num')].reduce((acc, b) => {
|
||
acc[b.dataset.result] = (acc[b.dataset.result] ?? 0) + 1
|
||
return acc
|
||
}, {}),
|
||
sha: document.querySelector('[data-sha]')?.dataset.sha ?? null,
|
||
seal: document.getElementById('seal-hash')?.textContent ?? '',
|
||
overflow: document.documentElement.scrollWidth - document.documentElement.clientWidth,
|
||
}))
|
||
|
||
const describe = (s) => Object.entries(s.checks).map(([k, v]) => `${k}=${v}`).join(' ')
|
||
/** 有通过、没有不通过：「部分无法核对」也算（遮罩快照、没有出处的数字是正常的无法核对） */
|
||
const noFail = (r) => r === 'pass' || r === 'partial'
|
||
const hasItem = (s, check, result, text) => s.items.some((i) => i.check === check && i.result === result
|
||
&& (!text || i.text.includes(text)))
|
||
|
||
/**
|
||
* 「哈希全部重算」的伪造：改报告里一个能核对的数字的引用值，再把文档、引用它的事件、清单哈希、页面顶部的封存哈希
|
||
* 全部重算。返回改了哪一处的说明，找不到可改的数字返回 null
|
||
*/
|
||
function forge(data) {
|
||
const docArt = data.artifacts.find((a) => a.kind === 'report_doc' && typeof a.b64 === 'string')
|
||
if (!docArt) return null
|
||
const doc = JSON.parse(Buffer.from(docArt.b64, 'base64').toString('utf8'))
|
||
const embedded = new Set(data.artifacts.filter((a) => typeof a.b64 === 'string').map((a) => a.id))
|
||
let hit = null
|
||
for (const block of doc.blocks ?? []) for (const unit of block.units ?? []) for (const seg of unit.segments ?? []) {
|
||
const c = seg.cite
|
||
if (!hit && c?.status === 'resolved' && ['metric', 'cell'].includes(c.kind) && typeof c.value === 'number'
|
||
&& embedded.has(doc.catalog?.[c.alias]?.artifact)) hit = seg
|
||
}
|
||
if (!hit) return null
|
||
hit.cite.value += 1
|
||
const bytes = Buffer.from(JSON.stringify(doc), 'utf8')
|
||
const oldId = docArt.id
|
||
const newId = sha(bytes)
|
||
docArt.id = newId
|
||
docArt.b64 = bytes.toString('base64')
|
||
for (const r of data.reports) if (r.doc_artifact === oldId) r.doc_artifact = newId
|
||
for (const ev of data.events) {
|
||
if (typeof ev.canonical === 'string' && ev.canonical.includes(oldId)) {
|
||
ev.canonical = ev.canonical.split(oldId).join(newId)
|
||
ev.data_sha256 = sha(ev.canonical)
|
||
}
|
||
}
|
||
const lines = data.events.map((e, i) => [e, i]).sort((x, y) => x[0].seq - y[0].seq || x[1] - y[1])
|
||
.map(([e]) => `${e.seq}|${e.type}|${e.node_id ?? ''}|${e.data_sha256}`)
|
||
data.meta.manifest_hash = sha(lines.join('\n'))
|
||
return { what: `片段 ${hit.id}（${hit.cite.kind}）`, node: data.reports.find((r) => r.doc_artifact === newId)?.node_id }
|
||
}
|
||
|
||
/** 改一份嵌入工件的一个字节（优先改数字），返回说明 */
|
||
function flipByte(art) {
|
||
const bytes = Buffer.from(art.b64, 'base64')
|
||
const at = bytes.findIndex((b) => b >= 0x30 && b <= 0x39)
|
||
const index = at >= 0 ? at : bytes.length - 2
|
||
bytes[index] = at >= 0 ? (bytes[index] === 0x39 ? 0x30 : bytes[index] + 1) : bytes[index] ^ 0x01
|
||
art.b64 = bytes.toString('base64')
|
||
return `${art.kind} ${art.id.slice(0, 8)} 的第 ${index} 字节`
|
||
}
|
||
|
||
// ---------------------------------------------------------------- 导出
|
||
|
||
async function getJson(path) {
|
||
const r = await fetch(API + path, { signal: AbortSignal.timeout(20_000) })
|
||
if (!r.ok) throw new Error(`${path} 返回 HTTP ${r.status}`)
|
||
return r.json()
|
||
}
|
||
|
||
/** 找一份可导出的运行：已封存、核对一致、证据图里有哈希复验通过的报告文档。优先有带出处的数字的那份 */
|
||
async function findRun() {
|
||
let seen = 0
|
||
let sealedCount = 0
|
||
let fallback = null
|
||
let before = ''
|
||
for (let page = 0; page < 5; page++) {
|
||
let runs
|
||
try {
|
||
runs = await getJson(`/runs?status=succeeded&limit=200${before ? `&before=${encodeURIComponent(before)}` : ''}`)
|
||
} catch (e) {
|
||
return { why: `无法读取运行列表：${e.message}` }
|
||
}
|
||
for (const run of runs) {
|
||
seen++
|
||
if (!run.manifest_hash || run.manifest_seq == null) continue
|
||
sealedCount++
|
||
const verdict = await getJson(`/runs/${run.id}/verify`).catch(() => null)
|
||
if (verdict?.ok !== true) continue
|
||
const graph = await getJson(`/runs/${run.id}/evidence`).catch(() => null)
|
||
const reports = (graph?.mode === 'cited' ? graph.reports ?? [] : []).filter((r) => r.doc_artifact && r.hash_ok === true)
|
||
if (!reports.length) continue
|
||
const cited = reports.reduce((n, r) => n + (r.stats?.numbers_cited ?? 0), 0)
|
||
if (cited > 0) return { run, cited, reports: reports.length }
|
||
fallback ??= { run, cited, reports: reports.length }
|
||
}
|
||
if (runs.length < 200) break
|
||
before = runs[runs.length - 1].created_at
|
||
}
|
||
if (fallback) return fallback
|
||
if (!seen) return { why: '服务端里没有成功结束的运行' }
|
||
return { why: `${seen} 次成功结束的运行里 ${sealedCount} 次已封存，没有一次封存核对一致且带报告文档` }
|
||
}
|
||
|
||
let picked = null
|
||
let html = ''
|
||
|
||
await section('导出', async () => {
|
||
picked = await findRun()
|
||
if (!picked.run) {
|
||
check('找到一份已封存、核对一致、有报告文档的运行', false, picked.why)
|
||
return
|
||
}
|
||
const { run } = picked
|
||
check('找到一份已封存、核对一致、有报告文档的运行', true,
|
||
`运行 ${run.id.slice(0, 8)}，${picked.reports} 份报告、${picked.cited} 个带出处的数字`)
|
||
const before = await getJson(`/runs/${run.id}/events`).catch(() => null)
|
||
const resp = await fetch(`${API}/runs/${run.id}/bundle.html`)
|
||
const body = await resp.text()
|
||
const ok = resp.status === 200 && /^text\/html/.test(resp.headers.get('content-type') ?? '')
|
||
check('导出接口返回 200 和 text/html', ok, `HTTP ${resp.status}，${Math.round(Buffer.byteLength(body) / 1024)} KB`)
|
||
// 只有真拿到了页面，后面几节才有东西可查；没拿到的原因上面已经报了，后面几节跳过，不重复报
|
||
html = ok && DATA_RE.test(body) ? body : ''
|
||
const disposition = resp.headers.get('content-disposition') ?? ''
|
||
const star = /filename\*=UTF-8''([^;]+)/.exec(disposition)?.[1]
|
||
let name = ''
|
||
try { name = star ? decodeURIComponent(star) : '' } catch { name = '' }
|
||
check('附件名按 RFC 5987 编码，以「-可验证报告.html」结尾', disposition.startsWith('attachment') && name.endsWith('-可验证报告.html'))
|
||
check('另带一个纯 ASCII 的文件名给老客户端', /filename="[\x20-\x7e]+"/.test(disposition))
|
||
// 页面本身（去掉数据块）不许有任何 http(s):// 引用；数据块里的字是数据，浏览器不会去取
|
||
const shell = html.replace(DATA_RE, '$1$3')
|
||
check('页面零外链：没有 http(s)://、外部脚本、样式表、图片和字体', !/https?:\/\//i.test(shell)
|
||
&& !/<script[^>]*\ssrc\s*=|<link\b|<img\b|@import|url\s*\(/i.test(shell))
|
||
check('内容安全策略默认不许连任何地方', /default-src 'none'/.test(shell))
|
||
check('数据块里没有裸的 < > &（截不断）', !/[<>&]/.test(DATA_RE.exec(html)?.[2] ?? '<'))
|
||
check('封存哈希直接写在页面上（不执行脚本也看得到）', SEAL_RE.exec(html)?.[2] === run.manifest_hash)
|
||
const after = await getJson(`/runs/${run.id}/events`).catch(() => null)
|
||
check('导出不追加事件', !!before && !!after && before.length === after.length, before && after ? `${before.length} → ${after.length} 条` : '')
|
||
// 没封存的，或者还没结束的（失败后接着跑、早年停在审批时封存过的运行留着旧的封存）：都该回 409
|
||
const unfinished = await getJson('/runs?status=queued,running,interrupted,suspended&limit=5').catch(() => [])
|
||
const recent = await getJson('/runs?limit=200').catch(() => [])
|
||
const unsealed = [...unfinished, ...recent].find((r) => !r.manifest_hash || !['succeeded', 'failed', 'cancelled'].includes(r.status))
|
||
if (unsealed) {
|
||
const refused = await fetch(`${API}/runs/${unsealed.id}/bundle.html`)
|
||
const body = await refused.json().catch(() => ({}))
|
||
check('未封存或未结束的运行回 409 并说明原因', refused.status === 409 && body.code === 'bundle_unsealed' && !!body.detail,
|
||
`运行 ${unsealed.id.slice(0, 8)}（${unsealed.manifest_hash ? '留着旧封存' : '未封存'}）HTTP ${refused.status}`)
|
||
} else {
|
||
note('数据里没有未封存或未结束的运行，409 由服务端单测覆盖')
|
||
}
|
||
})
|
||
|
||
// ---------------------------------------------------------------- 断网打开
|
||
|
||
let tamperable = null // 篡改要用：原始数据
|
||
|
||
const skipped = () => {
|
||
if (html) return false
|
||
note('没有拿到导出的页面（原因见上一节），这一节跳过')
|
||
return true
|
||
}
|
||
|
||
await section('断网打开', async () => {
|
||
if (skipped()) return
|
||
tamperable = dataOf(html)
|
||
const { ctx, page, requests, errors } = await openFile(writePage('bundle.html', html))
|
||
try {
|
||
const s = await stateOf(page)
|
||
check('总览通过', s.overall === 'pass', `${s.overall}：${s.text}`)
|
||
for (const key of ['events', 'manifest', 'chain']) check(`核对项「${key}」通过`, s.checks[key] === 'pass', s.checks[key])
|
||
// 遮罩快照、服务端已没有文件的工件是正常的无法核对；没有出处的数字同理
|
||
check('核对项「artifacts」没有不通过', noFail(s.checks.artifacts), s.checks.artifacts)
|
||
check('数字与取值没有不通过的', noFail(s.checks.numbers) || s.checks.numbers === 'na',
|
||
`${s.checks.numbers}：${JSON.stringify(s.numberStates)}`)
|
||
// 早期运行的运行结果、升级前的运行类别核对不了（无法核对），只要求没有对不上的
|
||
check('运行信息没有与已核对的事件对不上的', s.checks.meta !== 'fail', `${s.checks.meta}：${JSON.stringify(s.meta)}`)
|
||
check('没有发出任何网络请求', requests.length === 0, requests.slice(0, 3).join('、'))
|
||
check('页面没有报错', errors.length === 0, errors.slice(0, 2).join(' | '))
|
||
check('用的是浏览器内置的 SHA-256', s.sha === 'subtle', String(s.sha))
|
||
check('封存哈希醒目地写在页面上', s.seal === tamperable.meta.manifest_hash)
|
||
// 页面列出的清单原文：拿出去用别的工具（这里是 node 的 crypto）算，等于封存哈希——读的人可以不信页面上的脚本
|
||
const lines = await page.locator('[data-manifest-lines]').textContent()
|
||
check('页面列出的清单原文在页面之外重算，等于封存哈希', sha(lines ?? '') === tamperable.meta.manifest_hash)
|
||
const sealNote = await page.locator('#seal-note').innerText()
|
||
check('页面写明只证明内部一致、真伪要去系统里对照', /内部一致/.test(sealNote) && /\/api\/runs\/[^/]+\/verify/.test(sealNote))
|
||
check('页面写明哪几项取自运行记录、不在封存范围内', /取自运行记录/.test(await page.locator('#record-note').innerText()))
|
||
if (s.numbers) {
|
||
const first = page.locator('button.num[data-kind="number"][data-result="pass"]').first()
|
||
const target = (await first.count()) ? first : page.locator('button.num').first()
|
||
const key = await target.getAttribute('data-num')
|
||
await target.click()
|
||
await page.locator('#detail').waitFor({ state: 'visible', timeout: 5000 })
|
||
const text = await page.locator('#detail').innerText()
|
||
const cited = await target.getAttribute('data-kind') === 'number'
|
||
check('点开数字看得到出处和核对结果', /出处/.test(text) && /核对结果/.test(text)
|
||
&& (!cited || /显示格式由服务端渲染/.test(text)) && await page.locator('#detail').getAttribute('data-open') === key)
|
||
await page.keyboard.press('Escape')
|
||
check('Esc 关掉出处面板', await page.locator('#detail').isHidden())
|
||
} else {
|
||
check('报告里有可点的数字', picked?.cited === 0, '证据图说有带出处的数字，页面上却一个都没有')
|
||
}
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
})
|
||
|
||
await section('去掉 crypto.subtle', async () => {
|
||
if (skipped()) return
|
||
const { ctx, page, requests, errors } = await openFile(join(TMP, 'bundle.html'), { noSubtle: true })
|
||
try {
|
||
const s = await stateOf(page)
|
||
check('照常全部通过', s.overall === 'pass' && !Object.values(s.checks).includes('fail'), describe(s))
|
||
check('页脚写明用的是本页内置的实现', s.sha === 'js', String(s.sha))
|
||
check('没有发出任何网络请求、没有报错', !requests.length && !errors.length, [...requests, ...errors].slice(0, 2).join(' | '))
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
})
|
||
|
||
// ---------------------------------------------------------------- 篡改
|
||
|
||
/**
|
||
* 在一份页面上篡改后断网打开。mutate(data) 改数据、返回说明（找不到可改的返回 null）；expect(state) 返回
|
||
* [[检查名, 条件, 说明]…]。seal：同时把页面顶部的封存哈希换成改过的数据里的那一份（重算全部哈希的伪造会这么做）
|
||
*/
|
||
async function tamper(source, label, mutate, expect, { seal = false } = {}) {
|
||
const data = structuredClone(dataOf(source))
|
||
const what = mutate(data)
|
||
if (!what) {
|
||
check(`篡改：${label}`, false, '这份页面里找不到可以篡改的对象')
|
||
return
|
||
}
|
||
let page = withData(source, data)
|
||
if (seal) page = withSeal(page, data.meta.manifest_hash)
|
||
const opened = await openFile(writePage(`tampered-${label.replace(/[^\w一-鿿]+/g, '_')}.html`, page))
|
||
try {
|
||
const s = await stateOf(opened.page)
|
||
for (const [name, cond, detail] of expect(s, what)) check(`篡改${label}：${name}`, cond, detail ?? `${typeof what === 'string' ? what : what.what}；${describe(s)}`)
|
||
} finally {
|
||
await opened.ctx.close()
|
||
}
|
||
}
|
||
|
||
/** 一项变红、总览不通过，另几项仍通过 */
|
||
const turnsRed = (key, keepPass = []) => (s) => [
|
||
[`「${key}」不通过、总览不通过`, s.checks[key] === 'fail' && s.overall === 'fail' && s.failsIn[key] >= 1],
|
||
...keepPass.map((k) => [`「${k}」仍没有不通过`, noFail(s.checks[k]), s.checks[k]]),
|
||
]
|
||
|
||
await section('篡改', async () => {
|
||
if (skipped() || !tamperable) return
|
||
// ① 改一条带规范字符串的事件内容（不动它记的哈希）：只有 ① 变红，清单照样对得上
|
||
await tamper(html, '一条事件的内容', (data) => {
|
||
const ev = data.events.find((e) => e.type === 'run.started' && typeof e.canonical === 'string')
|
||
?? data.events.find((e) => typeof e.canonical === 'string')
|
||
if (!ev) return null
|
||
ev.canonical = /\d/.test(ev.canonical) ? ev.canonical.replace(/\d/, (d) => String((Number(d) + 1) % 10)) : `${ev.canonical} `
|
||
return `第 ${ev.seq} 条（${ev.type}）`
|
||
}, turnsRed('events', ['manifest']))
|
||
// ② 改一份嵌入工件的一个字节：优先口径卡、快照，没有就改报告文档
|
||
await tamper(html, '一份工件的一个字节', (data) => {
|
||
const embedded = data.artifacts.filter((a) => typeof a.b64 === 'string')
|
||
const art = embedded.find((a) => a.kind !== 'report_doc') ?? embedded[0]
|
||
return art ? flipByte(art) : null
|
||
}, turnsRed('artifacts', ['events', 'manifest']))
|
||
// 伪造：改报告里一个数字的引用值，再把文档、引用它的事件、清单、页面顶部的封存哈希全部重算
|
||
await tamper(html, '一个数字的引用值并重算全部哈希', forge, (s, forged) => [
|
||
...turnsRed('numbers', ['events', 'manifest', 'artifacts', 'chain'])(s),
|
||
['那份报告标题旁的徽标跟着不通过', s.reports.find((r) => r.node === forged.node)?.result === 'fail',
|
||
JSON.stringify(s.reports.map((r) => [r.node, r.result]))],
|
||
], { seal: true })
|
||
// ③ 改元信息里的封存哈希
|
||
await tamper(html, '元信息里的封存哈希', (data) => {
|
||
const h = data.meta.manifest_hash
|
||
if (typeof h !== 'string' || !h) return null
|
||
data.meta.manifest_hash = h.slice(0, -1) + (h.endsWith('0') ? '1' : '0')
|
||
return '最后一位'
|
||
}, turnsRed('manifest', ['events', 'artifacts']))
|
||
})
|
||
|
||
// ---------------------------------------------------------------- 深浅色、窄屏
|
||
|
||
const luminance = (rgb) => {
|
||
const [r, g, b] = (rgb.match(/\d+(\.\d+)?/g) ?? ['0', '0', '0']).slice(0, 3).map(Number).map((v) => {
|
||
const c = v / 255
|
||
return c <= 0.03928 ? c / 12.92 : ((c + 0.055) / 1.055) ** 2.4
|
||
})
|
||
return 0.2126 * r + 0.7152 * g + 0.0722 * b
|
||
}
|
||
|
||
await section('深浅色与窄屏', async () => {
|
||
if (skipped()) return
|
||
for (const colorScheme of ['light', 'dark']) {
|
||
const { ctx, page } = await openFile(join(TMP, 'bundle.html'), { colorScheme, width: 390 })
|
||
try {
|
||
const s = await stateOf(page)
|
||
check(`${colorScheme === 'dark' ? '深色' : '浅色'} 390 宽：不横向溢出`, s.overflow <= 0, `溢出 ${s.overflow}px`)
|
||
const colors = await page.evaluate(() => {
|
||
const body = getComputedStyle(document.body)
|
||
const doc = document.querySelector('.doc') ?? document.body
|
||
return { bg: body.backgroundColor, fg: getComputedStyle(doc).color }
|
||
})
|
||
const [bg, fg] = [luminance(colors.bg), luminance(colors.fg)]
|
||
const ratio = (Math.max(bg, fg) + 0.05) / (Math.min(bg, fg) + 0.05)
|
||
check(`${colorScheme === 'dark' ? '深色' : '浅色'}：底色${colorScheme === 'dark' ? '深' : '浅'}、正文对比度够`,
|
||
(colorScheme === 'dark' ? bg < 0.1 : bg > 0.8) && ratio >= 7, `对比度 ${ratio.toFixed(1)}`)
|
||
if (s.numbers) {
|
||
await page.locator('button.num').first().click()
|
||
const box = await page.locator('#detail').boundingBox()
|
||
const overflow = await page.evaluate(() => document.documentElement.scrollWidth - document.documentElement.clientWidth)
|
||
check(`${colorScheme === 'dark' ? '深色' : '浅色'} 390 宽：出处面板从底部抽出、不溢出`,
|
||
!!box && box.width <= 390 && box.y > 0 && overflow <= 0, box ? `面板 ${Math.round(box.width)}×${Math.round(box.height)}` : '')
|
||
}
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
})
|
||
|
||
// ---------------------------------------------------------------- 样本页
|
||
|
||
/** tests/bundle_samples.py 生成的页面：{名字: HTML}。生成不了时抛出，原因写清 */
|
||
function samplePages() {
|
||
if (!PYTHON) throw new Error('找不到后端解释器，用 CHECK_PYTHON 指定')
|
||
const out = join(TMP, 'samples')
|
||
const r = spawnSync(PYTHON, ['-m', 'tests.bundle_samples', out], {
|
||
cwd: BACKEND, encoding: 'utf8', timeout: 120_000,
|
||
// 从这份工作区的 backend 导入；导入时会建数据目录，指到临时目录里
|
||
env: { ...process.env, PYTHONPATH: BACKEND, AGENTLAB_DATA_DIR: join(TMP, 'py-data'), AGENTLAB_SECRET_KEY: 'check-bundle-samples' },
|
||
})
|
||
if (r.status !== 0) throw new Error(`生成样本页失败：${(r.stderr || String(r.error ?? '')).trim().split('\n').pop()}`)
|
||
return Object.fromEntries(readdirSync(out).filter((f) => f.endsWith('.html'))
|
||
.map((f) => [f.replace(/\.html$/, ''), readFileSync(join(out, f), 'utf8')]))
|
||
}
|
||
|
||
let samples = null
|
||
|
||
/** 断网打开一份样本页，交给 fn(state, page) 断言 */
|
||
async function sample(name, fn, opts = {}) {
|
||
const { ctx, page, requests, errors } = await openFile(writePage(`sample-${name}.html`, samples[name]), opts)
|
||
try {
|
||
const s = await stateOf(page)
|
||
if (requests.length || errors.length) check(`${name}：没有发出请求、没有报错`, false, [...requests, ...errors].slice(0, 2).join(' | '))
|
||
await fn(s, page)
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
|
||
await section('样本页：各种形状', async () => {
|
||
try {
|
||
samples = samplePages()
|
||
} catch (e) {
|
||
check('生成样本页（tests/bundle_samples.py）', false, String(e?.message ?? e))
|
||
return
|
||
}
|
||
check('生成样本页（tests/bundle_samples.py）', Object.keys(samples).length === 11, Object.keys(samples).join('、'))
|
||
|
||
await sample('base', async (s, page) => {
|
||
check('base：总览通过，有无法核对的项时写「可核对的项全部通过」', s.overall === 'pass' && s.text === '可核对的项全部通过',
|
||
`${s.overall}：${s.text}`)
|
||
check('base：①②④⑥ 通过，③⑤ 部分无法核对', ['events', 'manifest', 'chain', 'meta'].every((k) => s.checks[k] === 'pass')
|
||
&& s.checks.artifacts === 'partial' && s.checks.numbers === 'partial', describe(s))
|
||
check('base：遮罩快照在 ③ 无法核对，写明「含遮罩列，未随文件附带，只能核对到哈希」',
|
||
hasItem(s, 'artifacts', 'na', '含遮罩列，未随文件附带，只能核对到哈希'))
|
||
check('base：引用遮罩快照的数字无法核对，原因同上', hasItem(s, 'numbers', 'na', '含遮罩列，未随文件附带，只能核对到哈希'))
|
||
check('base：没有出处的数字写明未使用引用标记', hasItem(s, 'numbers', 'na', '该数字未使用引用标记，无法核对其来源'))
|
||
const outside = s.items.filter((i) => i.check === 'numbers' && !i.folded)
|
||
check('base：⑤ 超过 20 项收起来时，无法核对的列在外面', outside.length === 2 && outside.every((i) => i.result === 'na')
|
||
&& s.items.some((i) => i.check === 'numbers' && i.folded), `外面 ${outside.length} 条`)
|
||
check('base：⑤ 分开数数字和取值，写明分项', s.sums.numbers.includes('数字 13 个 · 取值 8 个') && s.sums.numbers.includes('无法核对 2'),
|
||
s.sums.numbers)
|
||
check('base：报告徽标连同数字一起算（部分无法核对），旁边写分项', s.reports[0]?.result === 'partial'
|
||
&& s.reports[0].parts.includes('文档 通过') && s.reports[0].parts.includes('无法核对 2'), JSON.stringify(s.reports[0]))
|
||
check('base：运行结果、类别、出具档位标着已核对', ['status', 'class', 'tier'].every((k) => s.meta[k]?.result === 'pass'),
|
||
JSON.stringify(s.meta))
|
||
check('base：封存之后追加的事件单列，标明不在封存范围内',
|
||
(await page.locator('[data-appended]').allTextContents()).some((t) => t.includes('封存之后追加，不在封存范围内')))
|
||
check('base：斜体渲染成斜体', (await page.locator('.doc em').allTextContents()).includes('按发生周统计'))
|
||
const cell = page.locator('td.n button.num')
|
||
check('base：表格里数字列右对齐', await cell.count() === 8)
|
||
// 「显示格式由服务端渲染」只附在带出处的数字上：模型自己写的数、表格里的文字取值都是原文
|
||
const detailOf = async (locator) => {
|
||
await locator.click()
|
||
await page.locator('#detail').waitFor({ state: 'visible', timeout: 5000 })
|
||
const text = await page.locator('#detail').innerText()
|
||
await page.keyboard.press('Escape')
|
||
return text
|
||
}
|
||
const cellNumber = page.locator('td.n button.num[data-kind="number"]').first()
|
||
const value = page.locator('button.num[data-kind="value"]').first()
|
||
const bare = page.locator('button.num[data-kind="number"][data-result="na"]').filter({ hasText: /^42$/ })
|
||
check('base：带出处的数字注明显示格式由服务端渲染', /显示格式由服务端渲染/.test(await detailOf(cellNumber)))
|
||
check('base：文字取值、没有出处的数字不注明显示格式', !/显示格式由服务端渲染/.test(await detailOf(value))
|
||
&& !/显示格式由服务端渲染/.test(await detailOf(bare)))
|
||
check('base：读屏把文字取值读作「取值」、数字读作「数字」', (await value.getAttribute('aria-label')).startsWith('取值 ')
|
||
&& (await cellNumber.getAttribute('aria-label')).startsWith('数字 '))
|
||
})
|
||
|
||
// 宽屏：出处面板停在右侧，正文让出这一栏。点开表格里右对齐的数字，它和同列的数字都不被面板盖住
|
||
for (const width of [1280, 1440]) {
|
||
await sample('base', async (s, page) => {
|
||
const cells = page.locator('td.n button.num')
|
||
await cells.nth(2).click()
|
||
await page.locator('#detail').waitFor({ state: 'visible', timeout: 5000 })
|
||
const covered = await cells.nth(2).evaluate((el) => {
|
||
const r = el.getBoundingClientRect()
|
||
const at = document.elementFromPoint(r.left + r.width / 2, r.top + r.height / 2)
|
||
return !!at && !!at.closest('#detail')
|
||
})
|
||
const panel = await page.locator('#detail').boundingBox()
|
||
const spot = await cells.nth(2).boundingBox()
|
||
check(`${width} 宽：点开的数字不被出处面板盖住`, !covered && !!panel && !!spot && spot.x + spot.width <= panel.x,
|
||
spot && panel ? `数字 ${Math.round(spot.x)}–${Math.round(spot.x + spot.width)}，面板从 ${Math.round(panel.x)} 起` : '')
|
||
const next = await cells.nth(4).click({ timeout: 3000 }).then(() => true, () => false)
|
||
check(`${width} 宽：面板开着时同列别的数字照样点得到`, next
|
||
&& await page.locator('#detail').getAttribute('data-open') === await cells.nth(4).getAttribute('data-num'))
|
||
check(`${width} 宽：不横向溢出`, await page.evaluate(() => document.documentElement.scrollWidth <= document.documentElement.clientWidth))
|
||
}, { width })
|
||
}
|
||
|
||
await sample('two-reports', async (s) => {
|
||
check('two-reports：两份报告各自显示，引用链都通过', s.reports.length === 2 && s.checks.chain === 'pass'
|
||
&& s.items.filter((i) => i.check === 'chain' && i.text.includes('的文档')).length === 2, JSON.stringify(s.reports.map((r) => r.node)))
|
||
check('two-reports：月报的数字全部通过', s.reports.find((r) => r.node === 'monthly')?.result === 'pass')
|
||
})
|
||
await sample('legacy', async (s, page) => {
|
||
check('legacy：总览通过，范围写明按结束事件推算', s.overall === 'pass'
|
||
&& (await page.locator('#meta').innerText()).includes('早期运行，范围按结束事件推算'), s.text)
|
||
check('legacy：运行结果无法核对，写明早期运行的结束事件不在封存范围内', s.meta.status?.result === 'na'
|
||
&& hasItem(s, 'meta', 'na', '早期运行在结束事件落库之前封存'), JSON.stringify(s.meta.status))
|
||
check('legacy：运行结束事件列在封存之后', (await page.locator('[data-appended]').allTextContents()).some((t) => t.includes('运行结束')))
|
||
})
|
||
await sample('failed', async (s, page) => {
|
||
check('failed：运行结果「已失败」与运行失败事件对上', s.meta.status?.result === 'pass' && s.meta.status.text.includes('已失败'))
|
||
check('failed：封存说明写明之后继续运行会重新封存', await page.locator('#seal-failed').isVisible()
|
||
&& (await page.locator('#seal-failed').innerText()).includes('重新封存'))
|
||
})
|
||
await sample('base', async (_, page) => {
|
||
check('成功结束的运行不提重新封存', await page.locator('#seal-failed').isHidden())
|
||
})
|
||
// 早期运行先失败、经继续运行跑到成功：范围里那条运行失败之后运行又继续了，它不是运行的结束；成功结束的那条在范围外
|
||
await sample('continued', async (s) => {
|
||
check('continued：总览通过，运行结果无法核对（成功结束的那条不在封存范围内），不拿中途那条失败去对',
|
||
s.overall === 'pass' && s.meta.status?.result === 'na' && hasItem(s, 'meta', 'na', '早期运行在结束事件落库之前封存'),
|
||
JSON.stringify(s.meta.status))
|
||
})
|
||
await sample('degraded', async (s) => {
|
||
check('degraded：出具档位认最后一条出具判定（降档出具）', s.meta.tier?.result === 'pass' && s.meta.tier.text.includes('降档出具'),
|
||
JSON.stringify(s.meta.tier))
|
||
})
|
||
await sample('missing-doc', async (s, page) => {
|
||
check('missing-doc：总览不是绿色的通过，写明有报告未能核对', s.overall === 'incomplete' && s.text.includes('份报告未能核对'),
|
||
`${s.overall}：${s.text}`)
|
||
check('missing-doc：报告处写明导出时服务端已没有这份报告文档', s.reports[0]?.why === 'missing'
|
||
&& s.reports[0].warn.includes('导出时服务端已没有这份报告文档'), s.reports[0]?.warn)
|
||
check('missing-doc：③ ④ 无法核对，原因写明', hasItem(s, 'artifacts', 'na', '导出时服务端已没有这份工件的文件')
|
||
&& hasItem(s, 'chain', 'na', '导出时服务端已没有这份报告文档'))
|
||
check('missing-doc：总览框不是通过的绿底', await page.locator('#overall').evaluate((el) => {
|
||
const probe = document.body.appendChild(document.createElement('div'))
|
||
probe.style.background = 'var(--ok-soft)'
|
||
const ok = getComputedStyle(probe).backgroundColor
|
||
probe.remove()
|
||
return getComputedStyle(el).backgroundColor !== ok
|
||
}))
|
||
})
|
||
await sample('missing-card', async (s) => {
|
||
check('missing-card：引用口径卡的数字无法核对，写明服务端已没有文件', hasItem(s, 'numbers', 'na', '导出时服务端已没有这份工件的文件'))
|
||
check('missing-card：服务端缺文件是正常的无法核对，总览通过', s.overall === 'pass', `${s.overall}：${s.text}`)
|
||
})
|
||
// 口径卡上有输入取自遮罩列（会员号码）：卡上记着号码原值和代入式，整张卡只给 id。这是正常的无法核对，不是被改过
|
||
await sample('masked-card', async (s, page) => {
|
||
const card = s.items.find((i) => i.check === 'artifacts' && i.text.includes('口径卡'))
|
||
check('masked-card：口径卡在 ③ 无法核对，写明「含遮罩列，未随文件附带，只能核对到哈希」，不判不通过',
|
||
card?.result === 'na' && card.text.includes('含遮罩列，未随文件附带，只能核对到哈希'), card?.text)
|
||
const metricNumber = s.items.find((i) => i.check === 'numbers' && i.text.includes('销售额'))
|
||
check('masked-card：引用这张卡的数字无法核对，原因同上', metricNumber?.result === 'na'
|
||
&& metricNumber.text.includes('含遮罩列'), metricNumber?.text)
|
||
check('masked-card：总览通过（可核对的项全部通过），没有一项不通过', s.overall === 'pass' && s.text === '可核对的项全部通过'
|
||
&& !s.items.some((i) => i.result === 'fail'), `${s.overall}：${s.text}`)
|
||
const html = await page.content()
|
||
check('masked-card：页面里找不到卡上那个遮罩列的号码', !html.includes('000-0001') && !html.includes('000-0002'))
|
||
})
|
||
await sample('nan', async (s) => {
|
||
check('nan：内容里有裸 NaN 的事件和工件照常通过', s.overall === 'pass' && s.checks.events === 'pass'
|
||
&& !s.items.some((i) => i.result === 'fail'), describe(s))
|
||
})
|
||
await sample('stray', async (s) => {
|
||
check('stray：另一次运行的文档，④ 不通过并写明', s.overall === 'fail' && hasItem(s, 'chain', 'fail', '文档记下的运行或节点与这次不符'))
|
||
check('stray：文档没通过核对时数字不予核对', s.checks.numbers === 'na' && hasItem(s, 'numbers', 'na', '所在的报告文档没有通过核对')
|
||
&& s.reports[0]?.warn.includes('其中的数字不予核对'), s.checks.numbers)
|
||
})
|
||
|
||
// 不执行脚本（附件预览、快速查看）：封存哈希、运行 ID、工作流名照样看得到，状态写「尚未核对」，不是一直「正在核对」
|
||
{
|
||
const data = dataOf(samples.base)
|
||
const ctx = await browser.newContext({ viewport: { width: 1280, height: 900 }, javaScriptEnabled: false })
|
||
try {
|
||
const page = await ctx.newPage()
|
||
await page.goto(pathToFileURL(writePage('sample-nojs.html', samples.base)).href)
|
||
check('不执行脚本：封存哈希写在页面上', await page.locator('#seal-hash').innerText() === data.meta.manifest_hash)
|
||
check('不执行脚本：运行 ID、工作流名写在页面上', (await page.locator('#seal-note').innerText()).includes(data.meta.run_id)
|
||
&& await page.locator('#title').innerText() === data.meta.workflow_name)
|
||
check('不执行脚本：状态写「尚未核对」，不显示「正在核对」', await page.locator('.no-js').isVisible()
|
||
&& (await page.locator('#overall').innerText()).includes('尚未核对') && !(await page.locator('#overall').innerText()).includes('正在核对'))
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
})
|
||
|
||
await section('样本页：篡改', async () => {
|
||
if (!samples) {
|
||
note('没有样本页（原因见上一节），这一节跳过')
|
||
return
|
||
}
|
||
const base = samples.base
|
||
const byKind = (data, kind) => data.artifacts.find((a) => a.kind === kind)
|
||
// ④ 引用链
|
||
await tamper(base, '报告记录指向另一份工件', (data) => {
|
||
data.reports[0].doc_artifact = byKind(data, 'metric_set').id
|
||
return '报告的文档换成口径卡'
|
||
}, (s) => [...turnsRed('chain')(s), ['原因写明', hasItem(s, 'chain', 'fail', '这个节点最后一次报告自查记下的不是这份文档')]])
|
||
await tamper(base, '拿掉报告记录', (data) => {
|
||
data.reports = []
|
||
return '清空 reports'
|
||
}, (s) => [...turnsRed('chain')(s), ['原因写明', hasItem(s, 'chain', 'fail', '运行记录里有这个报告节点的自查事件，文件里却没有附带它的文档')]])
|
||
await tamper(base, '多一份没人引用的工件', (data) => {
|
||
const bytes = Buffer.from(JSON.stringify({ columns: ['n'], rows: [[7]], source: 'shop', sql: 'SELECT 7 AS n' }), 'utf8')
|
||
data.artifacts.push({ id: sha(bytes), kind: 'query', node_id: 'fetch', b64: bytes.toString('base64') })
|
||
return '追加一份哈希正确的快照'
|
||
}, (s) => [...turnsRed('chain', ['artifacts'])(s), ['原因写明', hasItem(s, 'chain', 'fail', '已核对的事件和报告文档里都没有引用这份工件')]])
|
||
// 服务端不会给出的状态：只能是改过
|
||
await tamper(base, '拿掉被引用的口径卡', (data) => {
|
||
data.artifacts = data.artifacts.filter((a) => a.kind !== 'metric_set')
|
||
return '删掉口径卡条目'
|
||
}, (s) => [...turnsRed('numbers')(s), ['原因写明', hasItem(s, 'numbers', 'fail', '引用的工件不在文件的工件清单里')]])
|
||
// 口径卡有输入取自遮罩列时服务端照样只给 id（见样本页 masked-card），报告文档从来不会：把它标成遮罩只能是改过
|
||
await tamper(base, '报告文档标成遮罩', (data) => {
|
||
const doc = byKind(data, 'report_doc')
|
||
delete doc.b64
|
||
doc.masked = true
|
||
return '报告文档去掉内容、标遮罩'
|
||
}, (s) => [...turnsRed('artifacts')(s), ['原因写明', hasItem(s, 'artifacts', 'fail', '只有查询快照和口径卡会因遮罩不随文件附带')]])
|
||
await tamper(base, '报告文档的一个字节', (data) => flipByte(byKind(data, 'report_doc')), (s) => [
|
||
...turnsRed('artifacts')(s),
|
||
['数字不予核对', s.checks.numbers === 'na' && hasItem(s, 'numbers', 'na', '所在的报告文档没有通过核对')],
|
||
['报告处写明没有通过核对', s.reports[0]?.result === 'fail' && s.reports[0].why === 'untrusted'],
|
||
])
|
||
// ⑥ 运行信息：改元信息不动事件，清单照样对得上，只有 ⑥ 变红，页面上显示的是事件里的值
|
||
await tamper(base, '运行结果', (data) => {
|
||
data.meta.status = 'failed'
|
||
return 'succeeded → failed'
|
||
}, (s) => [...turnsRed('meta', ['events', 'manifest'])(s),
|
||
['页面显示事件里的「已完成」并标明文件里写的不同', s.meta.status?.result === 'fail' && s.meta.status.text.includes('已完成')
|
||
&& s.meta.status.text.includes('已失败'), JSON.stringify(s.meta.status)]])
|
||
// 先失败、经继续运行跑到成功的早期运行，运行结果改成「已失败」：范围里那条运行失败之后运行又继续了，它不是运行的
|
||
// 结束，不能拿它把「已失败」标成已核对
|
||
for (const [status, label] of [['failed', '已失败'], ['cancelled', '已取消']]) {
|
||
await tamper(samples.continued, `继续运行过的早期运行的运行结果改成${label}`, (data) => {
|
||
data.meta.status = status
|
||
return `succeeded → ${status}`
|
||
}, (s) => [...turnsRed('meta', ['events', 'manifest'])(s),
|
||
['运行结果不再标已核对，写明那条失败之后运行又继续了', s.meta.status?.result === 'fail'
|
||
&& hasItem(s, 'meta', 'fail', '之后运行又继续执行'), JSON.stringify(s.meta.status)]])
|
||
}
|
||
await tamper(base, '运行类别', (data) => {
|
||
data.meta.run_class = 'exploratory'
|
||
return 'formal → exploratory'
|
||
}, (s) => [...turnsRed('meta')(s), ['原因写明', hasItem(s, 'meta', 'fail', '记下的运行参数不符')]])
|
||
await tamper(base, '去掉出具档位', (data) => {
|
||
data.meta.tier = null
|
||
return 'tier → null'
|
||
}, (s) => [...turnsRed('meta')(s), ['页面显示事件里的档位', s.meta.tier?.result === 'fail' && s.meta.tier.text.includes('完整出具')]])
|
||
await tamper(samples.degraded, '出具档位改指早先那条', (data) => {
|
||
const first = data.events.find((e) => e.type === 'issuance')
|
||
data.meta.tier = { value: 'formal', seq: first.seq }
|
||
return `指向第 ${first.seq} 条（完整出具）`
|
||
}, (s) => [...turnsRed('meta')(s),
|
||
['页面显示最后一条的降档出具', s.meta.tier?.result === 'fail' && s.meta.tier.text.includes('降档出具'), JSON.stringify(s.meta.tier)]])
|
||
// 只改页面顶部静态写出的封存哈希：数据里的没动，② 的清单照样对得上，但顶上那份对不上，核对后换成核对用的
|
||
{
|
||
const data = dataOf(base)
|
||
const fake = data.meta.manifest_hash.replace(/^./, (c) => (c === '0' ? '1' : '0'))
|
||
const opened = await openFile(writePage('tampered-seal.html', withSeal(base, fake)))
|
||
try {
|
||
const s = await stateOf(opened.page)
|
||
check('篡改页面顶部的封存哈希：② 不通过、总览不通过', s.checks.manifest === 'fail' && s.overall === 'fail'
|
||
&& hasItem(s, 'manifest', 'fail', '页面被改过'), describe(s))
|
||
check('篡改页面顶部的封存哈希：核对后顶上显示核对用的那一份', s.seal === data.meta.manifest_hash)
|
||
} finally {
|
||
await opened.ctx.close()
|
||
}
|
||
}
|
||
// 重算全部哈希的伪造在样本页上同样露馅：⑤ 不通过，报告徽标跟着不通过
|
||
await tamper(base, '样本页上重算全部哈希的伪造', forge, (s) => [
|
||
...turnsRed('numbers', ['events', 'manifest', 'artifacts', 'chain', 'meta'])(s),
|
||
['报告徽标不通过', s.reports[0]?.result === 'fail' && s.reports[0].parts.includes('不通过 1'), JSON.stringify(s.reports[0])],
|
||
], { seal: true })
|
||
})
|
||
|
||
// ---------------------------------------------------------------- 记录页的导出按钮
|
||
|
||
const SAMPLE_NAME = '门店周报-可验证报告.html'
|
||
// 和服务端 api/bundle.py 的 SEAL_BROKEN 一字不差（服务端单测断言那一边）：提示里原样显示
|
||
const SEAL_BROKEN = '封存核对不一致：封存后有事件被修改、删除或插入，不能导出可验证报告。点「核对」可查看核对结果'
|
||
|
||
async function preview(syn, { width = 1280, bundle } = {}) {
|
||
const ctx = await browser.newContext({ viewport: { width, height: 700 }, acceptDownloads: true })
|
||
const page = await ctx.newPage()
|
||
const hits = []
|
||
// 后注册的路由先匹配：兜底的先注册，假装导出接口的后注册，导出请求才落到假接口上。
|
||
// 别的写接口一律掐掉：预览用例只该请求导出接口
|
||
await page.route('**/api/**', (route) => (route.request().method() === 'GET' ? route.continue() : route.abort()))
|
||
await page.route('**/api/runs/*/bundle.html', (route) => {
|
||
hits.push(new URL(route.request().url()).pathname)
|
||
return route.fulfill(bundle ?? {
|
||
status: 200,
|
||
headers: { 'content-type': 'text/html; charset=utf-8',
|
||
'content-disposition': `attachment; filename="agentlab-f4b0f4b0-bundle.html"; filename*=UTF-8''${encodeURIComponent(SAMPLE_NAME)}` },
|
||
body: '<!doctype html><title>bundle</title>',
|
||
})
|
||
})
|
||
const errors = []
|
||
page.on('pageerror', (e) => errors.push(e.message))
|
||
await page.goto(`${WEB}/preview.html?syn=${syn}`, { waitUntil: 'networkidle' })
|
||
await page.locator('[data-fixture="bundle-provenance"]').waitFor({ timeout: 15_000 })
|
||
return { ctx, page, hits, errors }
|
||
}
|
||
|
||
await section('记录页的导出按钮', async () => {
|
||
{
|
||
const { ctx, page, hits, errors } = await preview('bundle-provenance-sealed')
|
||
try {
|
||
const button = page.locator('[data-bundle-export]')
|
||
check('已封存：导出按钮可点', await button.isEnabled() && await button.getAttribute('data-bundle-export') === 'ready')
|
||
check('按钮写着「导出可验证报告」', (await button.innerText()).includes('导出可验证报告'))
|
||
const [download] = await Promise.all([page.waitForEvent('download', { timeout: 10_000 }), button.click()])
|
||
check('下载的文件名同服务端（RFC 5987 的中文名）', download.suggestedFilename() === SAMPLE_NAME, download.suggestedFilename())
|
||
check('请求的是这次运行的导出接口', hits.length === 1 && hits[0] === '/api/runs/f4b0f4b0f4b0f4b0f4b0f4b0f4b0f4b0/bundle.html',
|
||
hits.join('、'))
|
||
check('导出后提示文件名', await appears(page.getByText(`已导出「${SAMPLE_NAME}」`)))
|
||
check('页面没有报错', !errors.length, errors.slice(0, 2).join(' | '))
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
{
|
||
const refusal = { status: 409, contentType: 'application/json', body: JSON.stringify({ detail: SEAL_BROKEN, code: 'bundle_seal_broken' }) }
|
||
const { ctx, page } = await preview('bundle-provenance-sealed', { bundle: refusal })
|
||
try {
|
||
await page.locator('[data-bundle-export]').click()
|
||
check('服务端回 409 时原样提示原因', await appears(page.getByText(SEAL_BROKEN)))
|
||
check('提示之后按钮恢复可点', await appears(page.locator('[data-bundle-export="ready"]')))
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
{
|
||
// 失败结束的运行：导出前后都说明之后继续运行会重新封存
|
||
const { ctx, page } = await preview('bundle-provenance-failed')
|
||
try {
|
||
const button = page.locator('[data-bundle-export]')
|
||
const hover = await button.locator('xpath=..').getAttribute('title')
|
||
check('失败结束：可以导出，悬停提示写明继续运行会重新封存', await button.isEnabled() && (hover ?? '').includes('重新封存'), hover ?? '')
|
||
const [download] = await Promise.all([page.waitForEvent('download', { timeout: 10_000 }), button.click()])
|
||
check('失败结束：导出后的提示写明继续运行会重新封存', !!download
|
||
&& await appears(page.getByText(`已导出「${SAMPLE_NAME}」。之后若继续运行，系统会重新封存`, { exact: false })))
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
for (const [syn, reason, shown] of [['bundle-provenance-running', '运行结束并封存后才能导出', false],
|
||
['bundle-provenance-waiting', '等待审批中', false], ['bundle-provenance-unsealed', '没有封存清单', false],
|
||
['bundle-provenance-again', '运行结束并封存后才能导出', true]]) {
|
||
const { ctx, page, hits } = await preview(syn)
|
||
const label = syn.replace('bundle-provenance-', '')
|
||
try {
|
||
const button = page.locator('[data-bundle-export]')
|
||
const described = await button.getAttribute('aria-describedby')
|
||
const spoken = described ? await page.locator(`[id="${described}"]`).innerText() : ''
|
||
const hover = await page.locator('[data-bundle-export]').locator('xpath=..').getAttribute('title')
|
||
check(`${label}：按钮不可点，说明原因`, await button.isDisabled()
|
||
&& spoken.includes(reason) && (hover ?? '').includes(reason), spoken || '没有说明')
|
||
if (shown) {
|
||
// 左边写着「已封存」，按钮却不能点：原因要写在屏幕上，触屏看不到悬停提示
|
||
const visible = page.locator('[data-bundle-blocked="shown"]')
|
||
const box = await visible.boundingBox()
|
||
check(`${label}：左边写着「已封存」时，原因直接写在按钮旁`, await page.locator('[data-seal="sealed"]').isVisible()
|
||
&& await visible.isVisible() && !!box && box.width > 20 && (await visible.innerText()).includes(reason))
|
||
}
|
||
await button.click({ force: true }).catch(() => {})
|
||
check(`${label}：点了也不请求导出接口`, hits.length === 0)
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
for (const syn of ['bundle-provenance-sealed', 'bundle-provenance-again']) {
|
||
const { ctx, page } = await preview(syn, { width: 390 })
|
||
try {
|
||
const overflow = await page.evaluate(() => document.documentElement.scrollWidth - document.documentElement.clientWidth)
|
||
const box = await page.locator('[data-bundle-export]').boundingBox()
|
||
check(`390 宽（${syn.replace('bundle-provenance-', '')}）：凭证条不横向溢出，导出按钮在屏幕内`,
|
||
overflow <= 0 && !!box && box.x >= 0 && box.x + box.width <= 390, `溢出 ${overflow}px`)
|
||
} finally {
|
||
await ctx.close()
|
||
}
|
||
}
|
||
})
|
||
|
||
await cleanup()
|
||
if (failed) {
|
||
console.log(`\n✗ 可验证报告：${failed} 项未通过`)
|
||
process.exit(1)
|
||
}
|
||
console.log('\n✓ 可验证报告：全部通过')
|