后台任务的 drain 不再空转:notify.service、eval.cleanup 的 drain 改用新增的 core/background.drain——做完了的任务直接从集合里摘掉,只等本事件循环上没做完的,别的循环上没做完的不等、循环关了的摘掉。以前 while _background: await gather(...) 碰上别的事件循环上做完、discard 回调永远不跑的任务,gather 立刻返回、不让出事件循环,在那里空转(CPU 打满、进程卡死):PostgreSQL 全量里 test_personal_apps 的收尾两次卡在这里。单测在另一个线程里跑 drain、按线程等(空转时事件循环转不动,wait_for 救不了)

This commit is contained in:
ThearchyHelios
2026-10-19 15:29:00 +08:00
parent 39bc76494e
commit b52a67b18d
4 changed files with 117 additions and 4 deletions
+28
View File
@@ -0,0 +1,28 @@
"""进程里「发出去就不管」的后台任务(推送通知、评测收尾的清理):留着引用免得被回收,测试和关停时等它们做完。"""
from __future__ import annotations
import asyncio
from typing import Any
async def drain(tasks: set[asyncio.Future[Any]]) -> None:
"""等 tasks 里本事件循环上的任务都做完。
已经做完的直接从集合里摘掉,不等它们自己的 discard 回调:done 回调排在任务所在的事件循环上,那个循环要是已经不转了(测试里
每个测试一个事件循环,前一个测试末尾刚做完的推送)回调就永远不跑、任务一直留在集合里。以前的写法 `while tasks: await
gather(*tasks)` 碰上这种集合,gather 拿到的全是做完了的、立刻返回,await 不让出事件循环,就在这里空转——CPU 打满、整个
进程卡死(PostgreSQL 全量里 test_personal_apps 收尾时出现过)。别的事件循环上还没做完的等不到(不在这个循环上),不等;
那个循环已经关了的一并摘掉。"""
loop = asyncio.get_running_loop()
while True:
for task in list(tasks):
if task.done() or (task.get_loop() is not loop and task.get_loop().is_closed()):
tasks.discard(task)
mine = [task for task in tasks if task.get_loop() is loop]
if not mine:
return
await asyncio.gather(*mine, return_exceptions=True)
__all__ = ["drain"]
+4 -2
View File
@@ -119,8 +119,10 @@ def spawn(suite_id: str) -> None:
async def drain() -> None:
"""等后台的清理做完(测试、关停用)。"""
while _background:
await asyncio.gather(*list(_background), return_exceptions=True)
from app.core.background import drain as drain_tasks
# 不写成 while _background: await gather(...):别的事件循环上做完、还没摘掉的任务会让那样的循环空转(core/background)
await drain_tasks(_background)
__all__ = ["clean_suite", "drain", "keep_set", "spawn"]
+4 -2
View File
@@ -121,8 +121,10 @@ def spawn(coro: Coroutine[Any, Any, Any]) -> None:
async def drain() -> None:
"""等后台的推送都推完(测试、关停用)。"""
while _background:
await asyncio.gather(*list(_background), return_exceptions=True)
from app.core.background import drain as drain_tasks
# 不写成 while _background: await gather(...):别的事件循环上做完、还没摘掉的任务会让那样的循环空转(core/background)
await drain_tasks(_background)
async def personal_url_problem(url: str) -> str | None: