JOTO
Contact us
← AI 智库
大语言模型

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构

2026 年 11 月 20 日

深度拆解Anthropic Agent Memory架构,揭秘AI Agent实现长期记忆的核心技术路径。 核心内容: 1. 厘清上下文窗口与长期记忆的本质差异,介绍类人脑的“梦境整理”离线巩固机制 2. 详解Anthropic提出的四层分层Agent记忆架构的设计逻辑与各层定位 3. 梳理Agent记忆相关核心技术机制,为AI架构师提供实用工程启发

Anthropic 近期发布了一篇技术文章 《The components of agent memory》,系统介绍了 Agent 如何跨越单次会话积累经验,以及如何通过记忆提炼、验证、组织和上下文注入,让过去的任务经验在未来继续发挥作用。文章不仅讨论了 Claude Code 的自动记忆实践,还通过数据库问答、Pokémon 长程任务和 Wiki 构建等实验,分析了 Agent 记忆的设计方法、实际收益与局限。这篇文章涉及的内容比较多,既有记忆架构,也有实验过程和大量图示。本文重点解释其中值得 AI 架构师关注的技术机制与工程启发。

一、为什么 Agent 需要记忆?上下文窗口并不等于长期记忆

一个 Agent 即使拥有很大的上下文窗口,也不代表它真正具备长期记忆。

上下文窗口解决的是当前会话中能处理多少信息;长期记忆解决的则是一次任务中获得的经验,如何在未来会话中继续发挥作用。

Anthropic 用人类大脑的记忆巩固过程解释这一问题:海马体能够在经历发生时快速记录信息,但只有部分经历会在睡眠或休息期间被重新回放、筛选,并逐步整合为长期知识。

Agent 也可以采用类似的分工:

  • 在线阶段:执行任务,将交互过程记录为日志或 Transcript,并及时标记值得关注的信息。
  • 离线阶段:利用空闲计算资源回顾历史记录,纠正错误、提炼经验,并组织成更容易检索的知识结构。

Anthropic 将这种离线整理过程称为 Dreaming(梦境整理)。它不是让模型真的“睡觉”,而是指 Agent 在主要任务之外,使用额外计算对已有经验进行回放、整理和巩固。

Figure 1:Agent Memory 分层架构与 Dreaming

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构

这张图是全文的核心。Agent 的记忆不是一个简单的向量数据库,而是由不同用途、不同生命周期的层次共同组成。

二、先理解四层记忆:从原始经历到可用上下文

Anthropic 对 Agent Memory 的定义是:Agent 从用户交互和任务执行中获得、并能在不同会话之间保留下来的知识,通常以之后仍可读取的上下文形式保存。

这里需要区分几个容易混淆的概念:

  • 模型参数学习:通过训练改变模型权重,不属于本文讨论的 Agent Memory。
  • In-context Learning:模型在当前会话中根据上下文调整行为,会话结束后不一定保留。
  • Compaction:压缩当前会话历史,以便在新的上下文窗口中继续工作。
  • Agent Memory:将有价值的经验保留到后续会话,供未来任务读取和使用。

Anthropic 将记忆组织为四层:

1. Transcripts:会话记录层

保存 Agent 执行任务时产生的原始交互记录,例如用户输入、模型响应、工具调用、工具结果和任务过程。

它的价值在于保留事实来源。后续发现某条记忆可能有误时,可以回到原始记录核对,而不是只能相信模型曾经写下的总结。

Transcript 可以被搜索,也可以作为 Dreaming 的输入。

2. Memory Notes:经验笔记层

Agent 从一次或多次任务中提取值得保留的信息,写成相对简洁的记忆笔记。

例如:

  • 用户明确要求后续始终使用某种输出格式;
  • 某个工具参数曾经导致任务失败,经过验证后发现正确用法;
  • 某项业务规则在多个任务中反复出现;
  • 某个问题的解决方法已经经过实际验证。

这一层的关键不是“把发生过的事情全部记录下来”,而是判断哪些信息在未来可能再次有用。

原文 Figure 2:Memory Notes 在记忆层级中的位置

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 2

3. Memory Representations:记忆表示层

当记忆不断增长,仅靠一堆独立笔记会越来越难以理解和检索。

因此,Agent 可以进一步把笔记组织成更高层的知识表示,例如 Wiki:由多个主题页面组成,页面之间通过链接建立关系。

它的作用类似一张知识地图:

  • 主题页面聚合相关事实;
  • 页面链接连接跨主题的信息;
  • 索引帮助 Agent 快速定位;
  • 后续整理可以合并重复页面、修复错误链接和补充缺失内容。

这一层不是简单增加更多文本,而是把分散的记忆组织成更容易导航的结构。

4. Injected Context:注入上下文层

最重要、最常用的信息可以被提前加载到下一次会话的上下文中。

这样 Agent 不需要每次都先搜索记忆,便能直接获得关键背景、约束或当前目标。

但注入上下文必须严格控制规模:上下文 Token 有成本,错误记忆一旦被自动加载,也可能在每次会话中持续影响模型。

四层之间可以这样理解:Transcript 是原始经历,Memory Notes 是经验提炼,Memory Representations 是知识组织,Injected Context 是面向当前任务的精选入口。

三、记忆不是存档:它其实是在预测未来

记忆系统最难的地方,不是保存信息,而是判断未来什么信息值得被保存。

Agent 写下一条记忆,本质上是在做一个预测:它认为未来某个会话可能再次需要这条信息。

例如,记录一个已经验证的工具调用规则,意味着 Agent 预测未来还会遇到类似任务,并希望届时不必重新试错。

Anthropic 使用 Continual Learning Bench(CL-Bench)1.0 的数据库问答任务评估这种能力:

  1. Agent 在一个会话中回答数据库问题。
  2. 系统向 Agent 提供正确答案或反馈。
  3. Agent 可以把经验写入跨会话共享的记忆目录。
  4. 下一道问题在全新会话中开始,但 Agent 可以读取此前留下的记忆。

这实际上是在测试 Agent 能否形成一个学习闭环:

回答问题 → 获得反馈 → 分析错误 → 验证原因 → 提炼规则 → 在后续任务中复用。

不同模型形成闭环的能力不同。较弱的模型可能只记录一些未经验证的猜测;更强的模型则能够把规则、证据来源、已确认事实以及容易踩到的陷阱整理到一起。

Figure 3:不同模型使用 Memory 前后的 CL-Bench 表现

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 3

原文 Figure 3 的数据库任务数据如下(Mean Reward):

模型
无记忆
使用记忆
Opus 5.5
0.655
0.838
Sonnet 5.5
0.644
0.833
Opus 5
0.564
0.828
Opus 4.7
0.383
0.700
Sonnet 5
0.306
0.610
Sonnet 4.6
0.330
0.364

这组结果说明:在该实验任务中,跨会话记忆能够显著提升多轮任务表现。但记忆本身不会自动带来学习能力,Agent 还需要具备分析反馈、验证假设和提炼规则的能力。

四、记忆越多越好吗?Pokémon 实验给出了相反答案

Anthropic 还通过 Claude 玩 Pokémon Red 的长程任务,研究 Agent 如何判断什么值得记住。

实验中,一个模型在约 10,000 步时保存了 413 个文件、225 个文件夹,记忆内容接近百万字符;另一个模型只保存了 10 个文件、2 个文件夹,另有一个顶层 global.md 文件。

前者记录了大量战斗、物品和 NPC 遭遇过程;后者主要保存当前目标、行动计划、路线策略,以及从游戏中验证得到的规则。

Figure 4:两种模型的记忆目录规模对比

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 4

为什么更少的记忆反而更有效?

第一,游戏中的金钱、当前位置等状态可以直接从屏幕读取,反复保存这些信息没有太大价值。

第二,游戏策略、路线规划和经过验证的操作规律,不一定能从当前画面直接获得。这类经验如果不写入记忆,就可能在新会话中丢失。

第三,游戏状态持续变化。过度记录很容易让记忆过时,Agent 还要花费大量时间维护和搜索这些信息。原文提到,Sonnet 3.7 在某个阶段的 17 步内创建了 6 个文件、删除了 9 个文件,却没有在游戏中采取任何行动。

Fable 5 的 global.md 更像一个任务仪表盘,记录当前目标、下一步计划和记忆使用规则;其他目录分别保存地点路线与游戏策略。

例如,连续多次捕捉失败后,Agent 总结出一条经过实践的规则:如果连续三次以上失败,就改变操作节奏,在菜单操作之间增加等待输入。

Figure 5:Memory 指令如何影响记忆质量与任务表现

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 5

这部分给架构师的启发是:

  • 不要把所有事件都当作长期记忆。
  • 当前环境可以直接观察到的状态,未必值得重复保存。
  • 优先保存难以从环境重新获得的经验、规则、策略和用户偏好。
  • 记忆规模应服务于任务效果,而不是以文件数量或 Token 数量衡量。

五、Dreaming 的第一个重要作用:纠正错误记忆

记忆最大的风险之一是:错误信息可能被长期保留,并在未来被反复当成事实使用。

Agent 在任务执行过程中形成的判断可能一开始就是错的,也可能因为环境变化而逐渐失效。

Anthropic 用 Pokémon 中的 Mt. Moon 洞穴任务说明这个问题。

Agent 曾错误地记住 Pokémon Center 位于山洞的东侧。离开建筑后,它据此判断自己已经走出 Mt. Moon,并把任务状态更新为完成。但实际上它仍然处在错误的路线判断中,随后反复掉回原来的路径。

Dreaming 的处理方式是:回看原始 Session Transcript,把记忆笔记与实际行动过程进行核对,发现位置判断错误后,修正对应记忆。

Figure 6:Dreaming 根据 Transcript 修正 Memory Notes

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 6

Figure 7:错误记忆与修正记忆对行动路线的影响

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 7

实验中,经过 Dreaming 修正的 Agent 最终重新进入洞穴并到达 Cerulean City;保留错误记忆的 Agent 多次陷入循环,未能完成目标。原文还给出了累计行动次数的进度对比。

原文 Figure 8:不同记忆条件下到达 Cerulean City 的进度对比

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 8

这里体现出一个重要架构原则:

记忆不能只负责写入,还必须能够被追溯、验证和修正。

如果系统只允许 Agent 不断追加记忆,却没有原始证据、冲突检测和纠错机制,那么长期运行后,记忆库可能逐渐积累错误。

六、Dreaming 的第二个作用:把零散记忆组织成 Wiki

当 Agent 执行大量任务后,记忆笔记可能越来越多。即使每条笔记都准确,也不代表 Agent 能够高效找到它们。

Anthropic 尝试让 Claude 在 Dreaming 阶段构建 Wiki:

  • 每个页面聚焦一个主题;
  • 页面之间建立关联链接;
  • 多轮整理逐步补充、修正和合并页面;
  • Agent 可以通过 Wiki 理解知识之间的关系,再结合搜索工具查找原始材料。

他们使用了一个包含约 35 万份内部文档、约 4.2 亿 Token 的语料库,并设计了 25 个问题评估 Wiki 的效果。

在 128 轮 Dreaming 中,Claude 持续探索文件、编写和修正 Wiki 页面、合并重复内容,并根据来源检查事实。

随着 Dreaming 从 2 轮扩展到 128 轮,单独使用 Wiki 回答问题时,评分覆盖的标准从 13% 提升到 48%。

更值得注意的是,Wiki 与搜索工具结合时,整体得分从 54% 提升到 61%;仅使用搜索工具时为 53%。组合方式还使每个问题节省约 20,000 Token。

Figure 9:Dreaming 构建 Memory Representations

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 9

Figure 10:Wiki 随 Dreaming 轮次增长的效果

Center: line chart of graded criteria met as wiki generation grows from 2M to 128M dreaming tokens. Wiki plus search tool rises from 54% to 61%, wiki alone rises from 13% to 48%, and the search tool with no wiki is flat at 53%. Left and right: network graphs of an example wiki, with 103 pages and 766 links after 2 sessions and 222 pages and 12,893 links after 128 sessions.

但 Wiki 并不是对所有任务都有帮助。

如果问题只需要从某一个文件中通过关键词搜索就能找到答案,那么额外构建 Wiki 的收益可能很小。原文的另一个案例中,Wiki 甚至比原始文档还大:10 份文档约 115 KB,构建出的 Wiki 却达到约 203 KB,是原始语料的 1.77 倍。

Figure 11:跨文档综合任务与单文档检索任务的对比

Two diagrams linking graded criteria to source documents. Left, the task where the wiki showed more benefit: most of the 24 criteria connect to two or more of 10 documents, and nine need judgment or arithmetic. Right, the task where the wiki showed less benefit: most of the 57 criteria can be found by text search in a single document, usually the deal overview memo.

Figure 12:Wiki 规模超过原始语料

Diagram of a wiki build and second pass. On the left, a circle holds the corpus: 10 documents, 115 KB of text. An arrow leads to a larger circle holding the wiki built from it: 68 pages, 255 links, and 203 KB, or 1.77 times the corpus. Some of the wiki’s pages have no links.

这说明 Wiki 的价值取决于任务类型:

  • 需要跨文档关联、综合判断或计算时,Wiki 可能有明显优势。
  • 只需要从单一文档提取信息时,直接搜索可能更简单。
  • 如果 Wiki 只是把原文重新复制一遍,甚至比原始资料更庞大,就没有实现真正的抽象。

记忆表示的目标是降低未来理解和检索成本,而不是制造另一份更大的资料库。

七、Dreaming 的第三个作用:把重要记忆提升到会话上下文

有些信息非常重要,Agent 不应该每次都等到任务开始后再搜索。

Dreaming 可以把这类信息提升到记忆层级顶部,由 Agent Harness 在新会话开始时自动注入上下文。

但注入不是越多越好:

  1. 每条注入记忆都会消耗上下文 Token。
  2. 错误信息可能在每次会话中重复影响模型。
  3. 更长的指令文件不一定带来更好的遵循效果。

Anthropic 提到,Claude Code 的 Auto Memory 不会把所有记忆文件都加载进每次会话,而是只加载 MEMORY.md 的前 200 行或 25 KB(以先达到的限制为准)。这个文件相当于一个索引,告诉 Claude 已经记住了什么,以及需要时去哪里查找更详细的内容。

Figure 13:Dreaming 将记忆提升到 Injected Context

The memory hierarchy with dreaming, highlighting arrows from transcripts and from memory representations up to the injected context layer at the top, which feeds into the next session.

这一设计体现了上下文工程中的一个重要原则:

高频、稳定、关键的信息适合预加载;低频、细节化的信息适合按需检索。

八、Dreaming 的第四个作用:围绕目标塑造记忆

记忆并不一定要服务于所有可能的未来任务。不同 Agent 的职责不同,值得记住的信息也不同。

例如:

  • 编程 Agent 更需要保存项目约束、代码结构、构建命令和已验证的调试经验。
  • 企业知识助手更需要保存业务概念、组织关系、流程规则和来源依据。
  • 个人助手更需要保存用户稳定偏好、长期目标和已确认的个人背景。

Anthropic 通过合同审查任务展示了目标导向记忆的重要性。

在一个并行构建 Wiki 的实验中,多个 Agent 同时向同一份合同条款汇总页面写入内容,发生了相互覆盖。最终,57 项评估事实中只有 41 项被保留下来,覆盖率约为 72%。

随后,Anthropic 调整了构建指令:每份合同由单独 Agent 负责自己的页面,并尽量逐字引用合同条款,而不是把所有条款压缩到一个共享表格中。调整后,57 项事实全部保留,达到 100%。

Figure 14:共享页面写入冲突与按合同拆分页面

Two diagrams. Before: four agents write to the same shared page, provisions.md, and one agent’s save erases another’s lines; 41 of 57 graded facts survived. After: four agents each write their own contract’s page, with terms copied word for word; all 57 of 57 graded facts survived.

这组实验说明,记忆系统的质量不仅取决于模型能力,也取决于:

  • 记忆构建目标是否明确;
  • 哪些信息必须完整保留;
  • 多 Agent 并行写入时如何避免覆盖;
  • 对关键事实应当摘要,还是保留原文证据。

对法律条款、合规要求、接口规范等高精度信息,过度摘要可能造成不可接受的信息损失。

九、Dreaming 的第五个作用:补齐跨会话留下的知识缺口

单次 Session 中的 Agent 只能看到当前任务范围内的信息,因此很难保证整个知识结构始终完整。

例如,Agent 在构建 Wiki 时可能先创建页面链接,却没有真正创建对应页面;也可能不同 Session 使用了不同名称指向同一个主题。

Dreaming 可以跨多个 Session 检查这些结构性问题:

  • 查找指向不存在页面的链接;
  • 将错误链接重新指向正确页面;
  • 补充缺失的索引和主题页面;
  • 合并重复内容;
  • 检查页面之间的关系是否一致。

原文展示了一个案例:第二轮 Dreaming 找到了 9 条指向不存在页面的链接,将其修正到已有页面,并新增 3 个页面,包括索引页。

Figure 15:Wiki 第二轮整理前后的结构对比

Two network graphs of a wiki. Before the second pass: 38 entries and 225 links, with nine links from six pages pointing to “escrow-agreement,” a page that doesn’t exist. After: 41 entries and 278 links, with all nine links pointing to “buyer-form-escrow-agreement” and three new pages: index, instructions email, and escalations.

这说明长期记忆的维护不只是内容维护,也包括知识结构本身的维护。

十、对 AI 架构师的启发:如何设计一套可持续演进的 Agent Memory

Anthropic 的实验可以归纳为一个工程闭环:

  1. 记录经验:保留 Session Transcript,确保重要结论有来源可查。
  2. 提炼记忆:从任务中筛选稳定、有复用价值的信息,而不是保存全部过程。
  3. 验证记忆:将记忆与原始记录、工具反馈或外部事实核对。
  4. 组织知识:在跨主题、跨文档任务确有收益时,构建 Wiki 等结构化表示。
  5. 选择性注入:将少量高价值信息放入启动上下文,其他内容按需检索。
  6. 持续维护:修复错误、过期内容、重复页面和断裂链接。
  7. 目标驱动:根据 Agent 的职责决定什么值得记住。

可以把它抽象成如下参考架构:

Agent 如何真正拥有长期记忆?—拆解 Anthropic 的 Agent Memory 架构 配图 16

需要重点权衡的三个架构问题

1. 在线写入还是离线整理?

在线写入能够及时保存信息,但会占用 Agent 的注意力和任务 Token;离线整理对主任务干扰较小,却不能保证整理结果立即可用。

实际系统可以采用混合方式:在线阶段只记录高价值事件和必要线索,离线阶段再做系统性整理。

2. 如何保证记忆不过期、不失真?

记忆可能从一开始就错,也可能因为软件版本、项目状态、组织流程变化而失效。

因此,记忆最好携带来源、时间、验证状态和适用范围。对高风险事实,不能只依赖模型曾经写入的摘要,应当保留原始证据或可重新验证的路径。

3. 什么时候值得构建 Wiki?

Wiki 有维护成本,也可能变成另一套庞大、过时的知识库。

如果任务主要是单文档查找,搜索可能足够;如果任务经常需要跨文档关联、理解复杂实体关系或复用长期经验,结构化记忆才更有价值。

Dreaming 同样需要额外计算资源。没有必要无差别地频繁整理所有记忆,可以优先处理经常被访问、容易变化或曾经发生冲突的信息。

结语:Agent 的长期能力,来自经验的积累与修正

这篇文章最重要的观点,并不是给 Agent 增加一个记忆文件夹,而是把记忆看作一个需要持续维护的系统。一个成熟的 Agent Memory 不只是“记住过去”,还需要知道哪些经验值得保留、哪些结论已经验证、哪些信息可能过期,以及如何在未来任务中找到并正确使用它们。

从架构角度看,Agent 的长期能力不应只依赖更大的上下文窗口或更强的模型。可追溯的经验记录、经过验证的记忆、合理的知识表示,以及受控的上下文注入,共同决定了 Agent 能否从一次次任务中持续受益。

当然,Anthropic 也明确指出,这仍是一个开放的研究方向:Dreaming 需要计算成本,记忆可能产生错误或漂移,模型也无法准确预知未来任务需要什么。如何确定整理频率、优先级和验证范围,仍需要根据具体应用持续评估。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.