大模型记忆管理新发现:朴素存原话打法更高效
文章摘要
近期一项针对大语言模型长期记忆机制的研究得出了出人意料的结论:多数复杂的记忆管理流程或许并非必需。当前主流的大模型记忆系统往往采用抽取关键事实、构建知识图谱、文本改写等复杂操作,看似能实现高效的记忆管

近期一项针对大语言模型长期记忆机制的研究得出了出人意料的结论:多数复杂的记忆管理流程或许并非必需。
当前主流的大模型记忆系统往往采用抽取关键事实、构建知识图谱、文本改写等复杂操作,看似能实现高效的记忆管理,但研究人员设计了一套极简的基准方案RAW-RAG,全程不做任何加工处理,仅将原始文本直接存储,需要使用时再进行检索排序后交付给模型。
对比测试结果显示,这套极简方案在七组测试中斩获六个第一,性能与当前最强的复杂系统持平甚至略有超出,同时写入速度更快、部署成本也极低。
研究指出,问题的核心环节在于“改写”操作。例如用户先提及“去北京”后改口“去上海”,若系统在改写时直接删除“北京”相关内容,一旦改写过程出现错误,后续将无法再补全缺失的上下文信息。实测数据还显示,显式的改写操作不仅应用频率较低,还会导致模型的响应准确率下降。
不过这并不意味着复杂记忆机制完全无用,在依赖关系链极为复杂的任务场景中,所有现有系统的表现都仍有较大提升空间。但在绝大多数日常对话场景下,直接存储原始文本并交由大模型自主读取,往往已经能满足实际需求。
以上内容不代表本平台立场,仅供读者参考

