文章摘要
当智能体实现跨会话记忆时,这并不等同于它真正拥有长期记忆能力。当前核心难点在于:智能体该如何判断要记住哪些内容?谁来修正错误记忆?新会话启动时,又该优先加载哪些关键信息?针对这些问题,专注于AI模型研

当智能体实现跨会话记忆时,这并不等同于它真正拥有长期记忆能力。当前核心难点在于:智能体该如何判断要记住哪些内容?谁来修正错误记忆?新会话启动时,又该优先加载哪些关键信息?

针对这些问题,专注于AI模型研发的团队发布了一篇深度解析Claude记忆设计的文章,核心思路并非单纯扩展数据库,而是搭建在线记录与离线整理的闭环,这一离线整理过程被称为dreaming。

Claude的记忆,是一座四层金字塔

Claude的记忆体系是一座四层金字塔结构:最底层是完整的对话与任务记录,也就是可检索的原始交互记录;向上一层是Claude主动生成的记忆笔记;再上层是Wiki形式的结构化知识表示;最顶层则是每次新会话自动注入的上下文信息。

Dreaming并非第五层存储,而是贯穿四层的维护引擎。它会回溯原始记录,修正笔记内容,组织结构化知识,再将最重要的索引推送到顶层。

四层之间并非一次性完成内容搬运,新经验可以先暂存于笔记层,稳定的知识经过多次使用后逐步上升,失效内容则会被下推或删除,因此记忆拥有生命周期。同时,训练带来的权重变化、单次对话内的学习,以及当前任务的上下文压缩,都不属于这里讨论的跨会话记忆范畴。

二、记得更少,反而走得更远

架构解决了内容存储的位置问题,下一个核心问题是该记录什么。在数据库任务测试中,Claude每次在新会话答题时,只能读取跨会话保留的记忆目录。答错后,它可以记录失败、提出解释、验证解释,最终沉淀为下次可用的规则。实验数据显示,模型的平均奖励从无记忆时的0.564提升到0.828。这一提升的核心并非存储了更多事实,而是模型开始主动保存规则、验证依据和已知陷阱,形成了闭合的学习循环。

进一步的实验验证了聚焦记忆的重要性:在宝可梦类任务中,约一万步时,某模型生成了413个文件,分布在225个文件夹中,却仅拿到一枚徽章;而另一模型仅保留10个文件,却获得四枚徽章。差异在于显著性判断:位置、金钱等每回合都可见的信息,无需反复存档;策略、计划和验证过的规则才是关键,若不记录则会丢失。某模型曾连续17步忙于增删记忆,完全未推进游戏进程。这说明,记忆并非免费资产,检索和维护都会消耗用于行动的资源,目录膨胀反而会拖慢智能体的执行效率。

三、模型能力越强,越需自主判断而非死板规则

既然显著性判断如此重要,能否只记录失败经验?实验结果显示相反,只记失败会让模型的记忆收益明显减少,因为成功经验和已验证事实同样会影响后续任务。对于旧模型,仍需要明确的引导:某模型加入记忆后分数仅为0.364,但若明确要求答题前读取文件并验证猜想,分数升至接近无记忆基线的两倍。因此,对前沿模型的策略是:告诉智能体记忆的意义,但不替它决定每次该如何记录。

四、Dreaming以原始记录为锚点,修正错误记忆

在线写入记忆仍可能出错。在宝可梦月见山任务中,模型误将宝可梦中心记在山洞东侧,据此认为任务已完成,错误笔记被后续会话信任,导致角色三次跌回旧路线,最终未能抵达下一座城市。当Dreaming介入后,模型会将笔记与原始记录对照,发现位置错误并改写记忆。使用修正笔记的智能体在第1935个累计动作抵达目标城市,而原始记忆和无记忆的两组均未到达。这一过程未依赖人工标注,而是让模型重新面对产生笔记时的原始证据,原始记录由此成为记忆系统的校验锚点,核心是记忆是可被原始经验校验的缓存,而非事实本身。

五、多轮离线整理,将文件集合转化为结构化知识地图

纠错之外,Dreaming还能生成新的记忆表示。通过大规模语料训练,模型在多轮会话中持续撰写、合并、修剪并关联页面。在评测中,仅使用结构化知识的得分大幅提升,搭配搜索后效果更优,同时每题消耗的资源减少。这说明,结构化知识的价值不是取代搜索,而是提供知识地图,减少盲目搜索。但收益依赖任务结构:跨文档组合信息时优势明显,答案集中在单篇文档时优势不明显,甚至会出现知识膨胀,因此知识地图必须压缩信息,而非简单复制语料。

六、顶层仅保留小索引,平衡效率与信息

整理好的知识如何进入下一次任务?Dreaming会将高频、重要的笔记提升到顶层上下文,由系统在新会话开始时自动加载,无需智能体主动意识到要搜索什么。但顶层不能无限扩张,注入内容会占用资源,错误也会被带入每次会话,过长指令还会降低遵循度。因此,部分智能体的自动记忆机制仅加载顶层的关键内容,其余细节留在下层按需读取,顶层是目录而非仓库,Dreaming的工作之一就是不断将细节下沉并留下链接。

七、明确任务目标,引导记忆向正确方向生长

记忆的组织方式还取决于服务的目标。在法律合同任务中,多个智能体起初共同维护一张条款表,相互覆盖导致信息丢失,最终仅保留少量关键事实,完成度较低。调整策略后,每份合同由单个智能体独立处理,条款逐字保留,结果所有关键事实都被保留,评测标准满足率达到100%。多轮整理还能修复经验之间的连接,将指向不存在页面的链接改到已有页面,并新增必要页面,不仅整理已有经验,还完善了经验网络。

结语

本次研究给出的并非万能记忆模板,而是清晰的主线:经验先被记录,再被筛选、验证、连接,最后以最小上下文进入未来。记忆的可靠性来自原始记录与笔记的持续校验,在线记录、离线整理、环境变化都带来边界问题,需要平衡整理频率、更新成本与任务收益。对长期运行的智能体而言,真正重要的或许不是存下全部过去,而是持续将过去转化为可靠、紧凑、可调用的未来上下文。

以上内容不代表本平台立场,仅供读者参考