智能编程工具的上下文管理架构：从压缩到分层状态管理

一、问题背景：长任务为何会在上下文耗尽时”失忆”

让一个Coding Agent完成跨模块认证中间件迁移，是检验上下文管理能力的典型场景。任务链条通常如下：

1. 梳理调用链，确认旧接口暂时不能删除；
2. 排除统一升级SDK的路线；
3. 完成主链路改造；
4. 集成测试卡在偶现的鉴权失败上。

此时任务尚未结束，上下文窗口却已接近上限。传统做法是把前面的对话、工具调用与结果压缩成一份更短的摘要，再携带摘要继续工作。这个方案实用且成熟，但存在结构性缺陷：

• “旧接口要保留”可能被写入摘要，背后的兼容性原因却丢失；
• “集成测试失败”可能被保留，但首次失败时的完整日志被丢弃；
• 某条已尝试并放弃的路线，若放弃原因被压缩掉，Agent切换窗口后可能重新走一遍。

摘要质量固然关键，但它同时承担了三项互相冲突的职责：保留决策依据、保留执行痕迹、保留外部事实。信息一旦被压成一段自然语言，这三类语义就开始互相挤占空间。

二、四类载体的分工模型

从实现角度看，长任务续跑依赖的不是单一”记忆”，而是四类载体各司其职：

载体	承载内容	生命周期	典型形态
当前上下文	眼前正在处理的信息	单窗口	对话、工具调用、中间结果
交接摘要	跨窗口传递的最小必要信息	跨窗口	结构化摘要
任务笔记	显式记录的目标、约束、决策	全任务	键值化或条目化笔记
历史记录	旧窗口的原始内容	全任务	可回查的持久化日志

关键洞察在于：压缩解决的是”装不下”的问题，分层解决的是”该放哪”的问题。 把四类信息混在一份摘要里，等于让一个载体同时承担四种语义职责，必然出现信息丢失或冗余膨胀。

三、窗口切换机制的工程要点

当上下文接近上限时，与其在原窗口内反复压缩，不如切换到新窗口并携带交接信息。这一机制的核心设计点包括：

1. 交接边界的确定

切换时机不能只看token占用率。更合理的信号是任务阶段边界，例如”主链路改造完成、进入集成测试阶段”就是一个天然切点。在阶段边界切换，交接摘要可以围绕下一阶段的目标组织，而非被动截断。

2. 交接内容的组织

交接摘要应当是结构化的，而非纯叙述。一个可参考的模板：

任务目标: <一句话描述>
当前阶段: <阶段名>
已完成: <关键变更列表>
待验证: <未完成的验证项>
关键约束: <不可违反的约束，如"旧接口保留">
已知风险: <已观察到的异常及现象>
引用笔记: <笔记ID列表>

结构化交接的价值在于：约束和风险不会被”顺带压掉”，它们有固定的字段位置。

3. 旧窗口的可回查性

切换窗口不等于丢弃旧内容。历史记录需要持久化，并支持按需回查。回查能力解决了一个隐蔽问题：摘要中未包含的细节，在后续排查时仍可定位。例如首次集成测试失败的完整日志，可以在鉴权问题复现时被重新调取。

四、任务笔记：被低估的状态载体

任务笔记是这套架构中最值得关注的部分。它与摘要的本质区别在于：

• 摘要是有损压缩的结果，内容取决于压缩时的判断；
• 笔记是显式写入的记录，内容取决于写入时的决策。

笔记适合承载那些”一旦丢失就会导致返工”的信息：

• 已排除的技术路线及排除原因；
• 兼容性约束及其来源；
• 外部系统已经产生的副作用（已提交的变更、已创建的资源等）。

第四类信息尤其关键。任务已经产生的外部事实，无法通过回查对话恢复，必须独立记录。否则Agent在切换窗口后，可能对已经执行过的操作重复执行。

五、与远程压缩的关系

值得注意的是，压缩机制并未被废弃。远程压缩的修复仍在持续，说明两条路线目前是并行的：

• 压缩：在单窗口内延长可用时间，降低切换频率；
• 分层管理：在跨窗口时保证信息完整性，支撑任务续跑。

二者并非替代关系。压缩负责”撑得久一点”，分层负责”接得住”。在实验阶段，分层机制通常默认关闭，且只对特定后端与部分会话开放，API密钥方式、自定义模型提供方、临时结构化线程暂不支持。这意味着该能力仍处于验证期，公开材料不足以判断它是否会最终取代压缩。

agent-">六、对Agent架构设计的启示

这套改动表面上在处理”记忆”，实质上处理的是状态管理。对构建长任务Agent的团队，有几点可迁移的设计原则：

原则一：区分”可见信息”与”必要状态”

对话历史是可见信息，任务状态是必要状态。前者可以压缩、可以丢弃，后者必须无损传递。把状态从对话中剥离出来，是长任务可靠性的前提。

原则二：为回查预留通道

任何压缩都会丢失信息。与其追求”压缩得更好”，不如保证”丢失的还能找回”。持久化历史加上按需回查，比追求完美摘要更现实。

原则三：外部事实独立记录

工具调用产生的副作用必须单独记账。这类信息无法从对话推断，只能显式记录。

原则四：按任务阶段而非token阈值切换

阶段边界切换让交接内容有明确的组织逻辑，避免被动截断造成的语义断裂。

七、小结

上下文管理的演进方向，正在从”如何把更多内容塞进窗口”转向”如何让不同性质的信息各归其位”。当前上下文负责眼前，交接摘要负责传递，任务笔记负责约束与决策，历史记录负责回查。四者协同时，长任务才能在窗口耗尽后继续推进，而不是在摘要里反复丢失关键细节后重新踩坑。

对于正在构建长任务Agent的开发者，建议尽早把状态管理与上下文压缩拆开设计。压缩是优化手段，状态管理是可靠性基础，二者的工程优先级并不相同。