deepseek-harness/.agents/notes/archived/architecture/2026-06-18-shared-persistence-write-coordinator.zh.md
Turtle bec6805d6a refactor(session-persistence)!: handle-based seam with a lifecycle-owned write path
The persistence seam is now create/open/stat/list returning per-session
SessionHandles (read/append/flush/close); every log read and write flows
through the owning handle. The seam package exports only the service and
handle contracts, consumer-visible errors, and pure durable-data
validation helpers; each backend owns its complete storage runtime, and
the shared contract suites pin equivalent observable behavior. The
backend routes published sessions' live events by id into the active
write handle; agent-loop only acquires, seeds, and closes the handle.
Resume appends interruptedTurnClosers through its write handle;
session-query owns the revision-keyed cold cache. Legacy-only surfaces
are removed in the same swap: locate/readRaw/supportsRawArtifacts, the
legacy event-shape read migration, zstd torn-frame salvage,
DSH_SESSION_JSONL, and hook transcript_path population; a torn final
zstd frame is discarded whole; the session-list cold blank probe returns
on stat metadata (eventCount derived from the last physical row,
sizeBytes). The WebUI ZIP export serializes the logical log from a read
handle, so both backends export identically.

Refs #3245
2026-09-01 23:19:02 +08:00

8.1 KiB
Raw Blame History

Agent Note: 共享持久化写入协调器

Status: implemented Archived: 2026-08-31

English | 中文

问题

JSONL provider 需要在其存储原语周围执行对正确性要求很高的写入编排:逐 Session 状态、session/created 接管、前缀读取、write-behind 控制、按 id 串行执行、HMR 种子注入与 dispose 排空。把该生命周期放在 Service Definition 中,可以避免仓库外 provider 重复实现。已删除的 first-party 数据库 provider 证明了这种重复成本;其删除由 JSONL-only 持久化决策负责。

决策

dsh-session-persistence 导出后端无关的 PersistenceCoordinator。JSONL provider 组合一个协调器实例(new PersistenceCoordinator(ctx, this))、实现小型 PersistenceBackend 钩子接口,并把有状态公开方法(create/append/prepare/load/inspect/readFrom)委托给协调器。由后端拥有的元数据与修订版本列举会绕过协调器。

组合,而非继承。协调器是后端持有的具体类,不是后端继承的基类。协调器让非常规后端与继承层级作斗争的风险由此规避:后端只暴露钩子,无法触及协调器的私有编排状态。第三方后端仍然可以完全不使用协调器、直接实现抽象服务,包括不可变逻辑检查,以及通过 load 实现的默认准备回退。

协调器为每个存活的 Session 实例持有一个生命周期条目:初始化,加上一个包私有写入控制器,后者负责待处理事件、固定批处理截止时间、活跃写入、失败保留和共享 flush 屏障。每个 session/event 都进入这条有界写入路径,session/flush 则绕过等待以观察完全停稳。控制器归并由 flush 控制器简化定义;调度节奏由有界批处理决策定义。

创建流程将 Session.events 的原始快照借作持久化种子。Session 已经分离、验证并深度冻结每个事件,后续追加会替换缓存视图,因此该快照数组保持稳定。协调器及其后端钩子只读取这个有类型的进程内值;再次克隆完整日志会重复 agent scope 运行时决策规定的所有权工作。持久化服务的公开 append() 仍在 API 边界为调用方拥有的输入创建快照。

已准备 Session 的后缀,以及进入 write-behind 队列的事件,仍保留现有复制。这些路径会逐个后缀或事件建立异步队列所有权,且没有已测得的完整日志克隆成本;移除这些复制属于单独的所有权审计,不属于创建种子的借用决策。

协调器通过 session/disposed 退役会话:它等待控制器完成初始化和当前 flush,串行执行最后一次排空,且仅在成功后才移除控制器与其拥有的每 id 状态。失败时保持控制器可被找到,以供后端 teardown(拆除)重试。每个 id 的已结算链尾仅在其仍是当前链尾时才移除自身,因此旧操作完成后不会抹除同一 id 的新操作。后端 teardown 会注销写入路径监听器、flush 每个剩余的控制器、等待所有按 id 串行化的操作,最后关闭后端。

钩子接口(PersistenceBackend<TornMarker>)

五个必需成员加可选的空会话实体化与生命周期钩子,构成协调器与存储之间唯一的边界:

  • name——后端标签,用于 dispose 失败时的 AggregateError。
  • loadStored(id)——按 id 跨所有存储范围读取一个已存储前缀。准备、逻辑加载/检查、物理后缀读取、存活会话接管与创建碰撞探测共用此查找。协调器会断言返回的 id,并在修复或发布状态之前拒绝已存储记录与存活会话的 cwd 不匹配。
  • appendBatch(meta, events, isMaterialized)——持久追加一个连续批次,在尚未物化时原子地惰性物化会话。因此,普通创建不会留下被放弃的已物化空会话。
  • materializeHeader?(meta)——为 SessionPersistence.ensureMaterialized(session) 显式持久化仅含 header 的会话。它只供把空会话本身视为可恢复持久资源的生命周期前端使用;标准 ACP 自动化控制是第一个 consumer。支持该生命周期的后端实现此钩子;惰性创建仍是默认行为。
  • commitRepair(meta, tornMarker, closers)——使崩溃修复持久化:截断损坏的尾部(当且仅当 tornMarker !== undefined)并追加 closers。不要求原子性——JSONL 合理地分两步 fsync,先截断再追加。用于 prepare/load(截断 + 合成收尾事件)和存活会话接管(仅截断,closers = [])。
  • list()——列出所有已存储的元数据。
  • close?()——供拥有资源的 provider 使用的可选生命周期清理;JSONL 省略该钩子。dispose effect 在排空至完全停稳后 await 它,因此 close 失败不会掩盖排空错误。

不透明的 torn marker

保持 seam 整洁的唯一设计选择:崩溃修复中「损坏尾部在哪里」的 token 对协调器是不透明的。协调器计算合成收尾事件(它拥有来自 dsh-session 的 interruptedTurnClosers),但只测试 tornMarker !== undefined 并将值原样传回 commitRepair,从不检视其内容。JSONL 携带要截断到的字节偏移,以及从不完整最终帧中解码出的任何完整事件;其他 provider 可以选择自己的 marker 类型。协调器因此既不了解字节长度,也不了解帧恢复状态。

测试

共享 runPersistenceContract 证明 JSONL 的 inspect 会配平被中断的逻辑视图但不改变存储或修订版本,随后由 prepare 或 load 提交恢复。runCoordinatorContract(tests/coordinator-contract.ts)通过内存参考实现与 JSONL 覆盖接管、HMR、碰撞、Session 与 provider dispose 排空和崩溃尾部修复。persistence.spec.ts、preparations.spec.ts 与 write-behind.spec.ts 覆盖准备复用与预留、有界准备状态淘汰、固定窗口后续批次、存活控制器清理、同 id 链尾竞态、失败批次重试与关闭顺序。JSONL 规格保留存储机制,以及覆盖不透明 marker 分支的经由协调器崩溃尾部用例。

曾考虑的替代方案

  • 后端继承的基类——否决,改用组合:后端只暴露钩子,无法触及协调器的私有编排状态,且第三方后端仍可完全不使用协调器、直接实现抽象服务。
  • 更宽的钩子 API——每个候选钩子都被折叠掉:没有限定存储范围的存活会话查找,因为 loadStored 加上协调器的 cwd 检查即可维持碰撞边界;没有存储定位器泛型,因为经验证的 JSONL 元数据可还原其路径;没有单独的 materialize 钩子,因为首批事件必须与物化原子提交;没有单独的创建碰撞探测,因为它就是 loadStored(id) !== undefined;list() 也不经由协调器透传,因为列举不需要任何编排。

后果

协调器增加一层间接、一个不透明 torn marker、脱离 Session 生命周期的退役任务,以及有界的已准备 Session 状态,但为 JSONL provider 与未来实现集中管理对正确性要求很高的编排。Session dispose 仍是仅观察事件,因此 Session owner 不等待持久化退役;协调器收容失败、在存活控制器中保留待处理事件,并以 provider teardown 为完全停稳边界。其钩子面保持窄小:标识校验、接管、碰撞检查、准备与不可变检查共用 loadStored;物化保持在 appendBatch 内原子完成;列举绕过协调器。读模型使用 inspect 而非 load,因此观察已持久化但仍开放的轮次时不会提交中断收尾事件;复用、预留与发布由 Session 准备阶段决策定义。新 provider 只需实现存储原语,而无需复制有界写入生命周期。