为中断而设计长任务智能体
检查点、持久事件与幂等执行,如何把断线从灾难变成普通状态转换。
长任务智能体一定会被中断:浏览器断线、工具超时、Worker 重启,或者用户几个小时之后才回来。
把这些事件当成异常,会得到脆弱的产品;把它们当成预期中的状态转换,则会改变整个架构。
流式输出不是存储
SSE 很适合展示进度,但一条打开的连接不能成为事实来源。浏览器消失之后,任务应该继续,已产生的事件也应该仍然可以读取。
持久事件记录允许客户端带着 cursor 重连并重放遗漏部分。这样,流就成为已存储进度的投影,而不是一次性的临时叙述。
在有意义的边界建立检查点
保存每个内部 token 会制造噪声,只保存最终报告又太迟。好的检查点位于对业务流程有意义的边界:
- 上下文已接受;
- 工具结果已记录;
- 已请求人工审批;
- 证据集合已提交;
- 报告章节已完成。
在每个边界,系统都应该知道重复下一步是否安全。
恢复能力也会改变界面
当状态可持久化,界面就不必只显示“加载中”。它可以告诉用户任务暂停在哪里、哪些内容已经验证、什么需要审批,以及重试是否会重复产生外部副作用。
可恢复性不只是基础设施属性,它也是产品能够向用户解释的承诺。
参与讨论
评论区尚未开放。