从"能不能记住"到"该不该记住":Agent 上下文管理的范式拐点
2026 年下半年,围绕大模型 Agent 的讨论焦点出现了一个值得注意的位移。当业界逐渐接受"模型推理能力已经不是 agent 失败的首要原因"这个判断时,目光开始转向一个更朴素、也更工程化的问题:agent 到底该怎么管理它"脑子里"装的东西。
两篇相隔一个月发布的论文,从两个不同方向印证了这一拐点。第一篇是 Gaurav Dadhich 在 2026 年 7 月 23 日提交的 arXiv:2607.21503《Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems》,正式提出"Agentic Context Management(ACM)"这个学科概念,并把上下文管理拆成五个原始动作(primitives);第二篇是 Tirmazi 等人在 2026 年 8 月发表的 arXiv:2608.01326《Context Compaction Theory》,用通信复杂度的形式化工具,给出了上下文压缩的"信息论下界"——证明任何压缩算法都有一个不可逾越的理论下限,以及,真实的 LLM 摘要器在某些设置下其实落在了"随机猜测"线上。两篇文章合在一起,意味着企业级 Memory 设计第一次有了可被工程化讨论、可被量化评估、可被严肃批评的基线。
第一性原理:Agent 为什么会在自己的历史里溺水
无论是 ACM 论文还是 Context Compaction Theory,在开篇都指向同一个观察:生产环境的 AI agent 失败,很少是因为推理能力不足,更多是因为它根本管不好自己上下文里堆积的内容。对话历史越攒越长,初始 prompt 越来越大,工具定义越来越密,工具调用的输出一次比一次膨胀——每一轮 LLM 调用都在为这一切付 token 账单,而且这个账单随着对话长度近似线性甚至二次增长。
Dadhich 在 ACM 论文里把这个症状拆解得很具体:agent 出现"漏召回"(missing recall)不是因为它"忘了",而是因为它"装不下";上下文里堆了太多历史,真正相关的那一条信息被淹没在噪声里,模型 attention 没法稳定地命中它。这是一种典型的"context rot"——上下文越长、密度越低,模型的边际质量越差。
更严峻的是,这不只是"窗口不够大"的问题。即便把窗口扩到百万 token,如果没有任何结构化的"主动遗忘 + 主动取舍"机制,长上下文本身也会带来准确率与时延的双重退化。换句话说,大窗口不是解药,大窗口只是把问题往后推了一步。
从存储问题到生命周期问题:ACM 五原始动作
传统业内对 agent 记忆的主流解法是"做一个向量数据库,把历史存进去,需要时检索出来"。Dadhich 把这种 framing 称为"too narrow"——它把上下文管理简化成了一个存储-检索问题,但实际上它是一个跨越多阶段的生命周期问题。
ACM 把这个生命周期拆成五个相互衔接的原始动作:架构(architecting)、摄取(ingesting)、范围(scoping)、预期(anticipating)、压缩与整合(compacting & consolidation)。每一个动作都有明确的工程语义,缺一不可。
架构(architecting):决定整个上下文系统的拓扑——哪些数据放在哪一层存储、哪些数据用向量、哪些数据用结构化字段、哪些数据用 KV、哪些数据直接留在系统提示里。这一步决定了后续所有动作的成本上限。一个糟糕的架构,后面再多的精巧算法都救不回来。
摄取(ingesting):决定哪些事件、对话、工具输出应该进入上下文,以及它们以什么结构进入。关键不是"全存",而是"有选择的、有结构的存"。这一步直接决定了上下文里"信号 vs 噪声"的初始比例。
范围(scoping):在严肃的生产环境里,上下文管理的对象从来不是单个用户,也不是单个会话,而是一个组织范围层级(organizational scope hierarchy)。从个人记忆,到团队记忆,到组织记忆,每一层有不同的可见性、保留期、检索权限。范围(scope)的边界决定了一条信息"对谁有效、在什么场景下能被调用"。
预期(anticipating):在每一轮对话开始前,基于当前任务和当前用户,预先把"接下来可能需要什么"投送到上下文里。这是一种主动预取,而不是被动检索。它的反义词是"等到用户问的时候再去查"——后者每次都会损失几个 round-trip 的延迟和质量。
压缩与整合(compacting & consolidation):当上下文逼近预算上限时,主动丢弃不再需要的细节、合并重复的信息、保留必要的来源(provenance),并把可以"沉淀为长期记忆"的内容写回存储。这一步的关键不是"压缩"本身,而是"压缩时不能丢关键信息",这是 ACM 与 Context Compaction Theory 两篇论文交叉最密集的地方。
成本经济学:为什么朴素累加是 quadratic,朴素摘要却换来准确率悬崖
ACM 论文在第 4 节给出了一个非常干净的"成本-准确率"对照,值得每个 agent 团队记住。
朴素累加(naive accumulation):把每一轮对话、每一次工具输出都原封不动地塞进上下文,token 成本随对话长度二次方增长。一个跑了 50 轮的工具调用 agent,单轮 token 成本可能是 5-10 倍起步。这条路在生产环境里基本不可行,任何长会话场景都会破产。
朴素摘要(crude summarization):成本被压到线性,看起来像是一个巨大的胜利——但准确率会出现悬崖式下跌。Dadhich 直接把它叫做"accuracy cliff":摘要器每压缩一轮就丢掉一点细节,丢到一定阈值,模型就开始出现幻觉、漏召回、答非所问。这是一种"看似省钱、实际烧钱"的方案,因为下游的纠错成本远超摘要本身的收益。
经过验证的压缩(validated compaction):线性成本 + 保真度——这是 ACM 的目标,也是它和 Context Compaction Theory 给出的下界之间的对话起点。这里的"经过验证"不是泛泛的 LLM-as-Judge,而是有明确基准、有可重复测量的压缩质量保证。
这条成本曲线给企业 agent 团队一个非常清楚的提示:不要试图用 prompt 让 LLM 自己"压缩一下就好"。压缩必须当作一个有质量门槛的独立子系统来设计,否则无论模型多强,长会话场景的边际成本都会失控。
理论下界:Context Compaction Theory 的硬约束
如果说 ACM 论文给出的是工程方法论,那 Tirmazi 等人的 Context Compaction Theory(arXiv:2608.01326)给出的是理论地基。它的核心贡献是把"上下文压缩"这件事,严格地等价到"单向通信复杂度(one-way communication complexity)"这个已有 40 年研究历史的理论框架上。
论文定义了两个互补的"游戏"。Context Selection Game(SELECT 游戏):从 agent 的累积状态里选一个子集保留,等效于从一个受限类的一轮协议里挑动作。Context Generation Game(GEN 游戏):把 agent 的状态压缩成任意长度受限的消息,等效于完整的一轮通信协议。论文的第一个核心定理证明:GEN 游戏的最小压缩预算,等于它对应的通信问题的单向通信复杂度;SELECT 是 GEN 的受限类。
这个定理的实际意义是直白的:不存在"无成本"的上下文压缩。任何压缩算法,无论它用什么模型、什么向量数据库、什么巧妙的 prompt 工程,都不可能突破这个下界。下界是无条件的(unconditional)——"no algorithm, no condenser, no interpreter can reduce below it"。
这给出了一个非常重要的工程判断:当你说"我们 agent 的记忆系统很好",真正应该问的不是"召回率多少",而是"距离下界还有多远"。理论最优和工程最优之间的 gap,就是当前 agent 团队还能挖的"红利空间"。
Opus 4.8 在压缩基准上落到了随机猜测线上
Context Compaction Theory 不止于理论,它还做了一件罕见的事——直接拿一个商用 LLM 的压缩端点(Anthropic Opus 4.8 的 context compaction endpoint)对照下界做实测。结果让整个行业需要重新审视"用 LLM 做摘要压缩"的默认假设。
在 15000 项的集合成员查询任务上,把预算压到约 14 千比特,Opus 4.8 的总误差稳定落在 0.50 到 0.56 区间——也就是随机猜测的水平。换句话说,在这个预算下,LLM 摘要器已经分不清"哪些项在集合里、哪些不在"。一个为长上下文专门设计的 LLM,在压缩任务上表现和掷骰子一样,这件事本身就是对默认技术栈的一次严重警告。
Pentad Labs 在 PLRN-023 里复现了这个实验,拿自家基于 Vector-Symbolic Architecture 的 Wunderblock 做了对照:同样的任务形状、同样的预算,Wunderblock 的总误差在 0.245 到 0.310,平均达到信息论下界的 84%,最好种子达到 95.7%。Bloom filter 在同样预算下只有下界的 55%。也就是说,Wunderblock 跑出了"接近理论最优"的成绩,而且完全不用 LLM——16384 位二进制溅射码、计数器式 majority bundling、AVX-512 上的汉明相似度,亚毫秒级,读取路径零分配。
这条信息论下界对企业的实际意义
理论下界 + 实测结果,合起来给企业 agent 团队三个不容回避的工程含义。
第一,不要让 LLM 单独承担压缩职责。当预算紧、查询多、容错低时,LLM 摘要器的实际表现可能掉到随机猜测水平。这不是模型"还不够强",而是这个任务本身的理论难度就决定了纯生成式压缩的失效区间。企业需要把压缩拆成"快路径 + 精路径",快路径交给确定性算法(VSA、Bloom filter 变种、结构化索引),精路径留给 LLM 做选择性摘要。
第二,设计压缩方案时优先问"距离下界多远"。评估一个记忆系统时,召回率/准确率只是表层指标,真正的质量度量是它和理论最优之间的 gap。gap 越小,说明系统的信息效率越高,token 浪费越少,响应也越稳定。Pentad 的 Wunderblock 给出了一个可参照的目标:84% of the floor。
第三,接受"假阴性 > 假阳性"的取舍。在 agentic 场景里,"我没见过这个事实,需要重新拉取"只是一个 re-fetch 的成本,信号反而会因为再次获取而增强;"我以为我见过这个事实"则直接导致 confabulation——agent 会基于一个不存在的事实采取行动,这种错误的修复成本是指数级的。Wunderblock 的设计哲学"no LLMs in memory,FP < FN"应该被当作 agentic memory 的默认设计原则。
企业级 Memory 设计的五条新基线
把 ACM 五原始动作和 Context Compaction Theory 的下界合在一起,可以提炼出企业级 Memory 设计今天应该坚守的五条新基线。这五条基线,任何一条缺失,长会话 agent 都无法在生产环境里站住脚。
基线一:记忆子系统是独立服务,不是 prompt 工程。它必须有明确的存储拓扑、明确的写入协议、明确的读取 SLA、明确的预算控制。它不能是"塞在 system prompt 里的一段提示词"。Maximem Synap 的 92% LongMemEval、93.2% LoCoMo 这种成绩,只有当成独立子系统设计时才有可能。
基线二:压缩必须有可验证的质量门槛。朴素的 LLM 摘要在低预算下会失效,这件事已经被 Context Compaction Theory 形式化证明。生产环境的压缩方案必须在每一轮压缩后保留对原始信息的可重建度量——provenance、结构化字段、或者至少是带置信度的引用。任何"压完之后我也说不准还在不在"的方案,都不应该被部署到生产。
基线三:组织范围层级是不可省略的维度。个人记忆、团队记忆、组织记忆——它们有不同的可见性、不同的保留期、不同的检索权限。一个员工的 agent 不应该默认能看到整个公司的对话历史,但它应该能看到团队范围的共识与规范。这一点直接对应数据合规(等保、GDPR、PIPL)和企业知识管理的真实诉求。
基线四:预期(anticipating)必须前置到任务开始之前。被动检索每一次都要付 round-trip 的延迟和质量代价。正确的做法是基于当前任务和当前用户的语义,预先把"接下来最可能需要的上下文"准备好,这一步最好和 ingestion 并行运行。这意味着 agent 框架必须支持"任务启动 + 上下文预热"的并行模式。
基线五:决策级与组织级上下文是下一个前沿。Dadhich 在论文末尾指出的两个未覆盖维度——决策级上下文(agent 之间的推理如何互相引用)和组织级上下文(跨 agent、跨团队的语义一致性),是 ACM 当前明确点名的"未到之地"。企业级 Memory 设计如果只看单 agent、单会话,就还没碰到真正的天花板。
从研究到生产:接下来 12 个月会发生什么
这两篇论文不会让任何 agent 框架在一夜之间被重写,但它们划出了一条清晰的方向线。短期看(3-6 个月),Vector-Symbolic Architecture、Bloom filter 变种、structured indices 这些"非 LLM"路径会被更多 agent 平台纳入;LLM 摘要器会从"默认唯一选项"退到"精路径兜底"位置。中期看(6-12 个月),"距离信息论下界多远"会变成记忆系统评估的标准指标,就像 LLM 评测里"perplexity 距离最优多远"那样常规。长期看(12 个月以上),组织级上下文会成为企业 agent 平台的核心竞争点——能跨 agent、跨团队、跨会话保持语义一致性的平台,会比单兵 agent 更受企业市场青睐。
对企业技术决策者而言,这一轮范式拐点给出的启示是清楚的:agent 框架的下一个分水岭不在模型,也不在工具调用协议,而在上下文管理子系统。把 ACM 五原始动作当作需求清单、把 Context Compaction Theory 给出的下界当作质量底线,任何团队都可以在这两条线索上画出自己未来 12-24 个月的演进路线图——而不是继续相信"prompt 长一点,模型就能记住"。
