← 返回全部文章

为中断而设计长任务智能体

检查点、持久事件与幂等执行,如何把断线从灾难变成普通状态转换。

长任务智能体一定会被中断:浏览器断线、工具超时、Worker 重启,或者用户几个小时之后才回来。

把这些事件当成异常,会得到脆弱的产品;把它们当成预期中的状态转换,则会改变整个架构。

流式输出不是存储

SSE 很适合展示进度,但一条打开的连接不能成为事实来源。浏览器消失之后,任务应该继续,已产生的事件也应该仍然可以读取。

持久事件记录允许客户端带着 cursor 重连并重放遗漏部分。这样,流就成为已存储进度的投影,而不是一次性的临时叙述。

在有意义的边界建立检查点

保存每个内部 token 会制造噪声,只保存最终报告又太迟。好的检查点位于对业务流程有意义的边界:

  • 上下文已接受;
  • 工具结果已记录;
  • 已请求人工审批;
  • 证据集合已提交;
  • 报告章节已完成。

在每个边界,系统都应该知道重复下一步是否安全。

恢复能力也会改变界面

当状态可持久化,界面就不必只显示“加载中”。它可以告诉用户任务暂停在哪里、哪些内容已经验证、什么需要审批,以及重试是否会重复产生外部副作用。

可恢复性不只是基础设施属性,它也是产品能够向用户解释的承诺。

完

如果它让你想到什么,欢迎从 GitHub 开始交流。

继续阅读 →
读者交流

参与讨论

评论区尚未开放。