GCML模型:通过关系结构与采样实现目标导向的想象规划

我们在解决实际问题时,常常会先在脑海中预演一遍流程:去陌生地点前会梳理路线,下棋时会推演后续几步的局面,面对陌生挑战时也会先尝试几种可能的解法。身体尚未行动,大脑已经开始生成多种潜在的未来路径。
上个月发表在《Nature机器智能》的一项研究,提出了一个简洁的神经计算模型,解释了这种目标导向的想象和规划是如何产生的。这套模型将认知地图、随机采样和组合编码结合起来,加入关键的逆模型模块,构建出了生成式认知地图学习器(Generative Cognitive Map Learner,简称GCML),其核心流程可以概括为:认知地图 → 逆模型 → 随机采样 → 组合泛化。
该研究的核心逻辑是:经验会形成结构化的关系网络,目标为行动提供明确方向,采样过程生成多条潜在轨迹,组合泛化能力则让模型可以应对全新的问题场景。
此前有观点认为,记忆本质上是将人类体验按照时空索引组织起来的结构,而回忆则是沿着这套索引回溯过往经历。这项研究正是这一认知的延伸与拓展。
认知地图的核心内涵
要理解这套模型,首先需要明确认知地图的含义。我们在记忆一个地点时,会记住诸如“这里可以通往那里”“从A到B需要经过C”“某个位置附近存在障碍”“如何从当前位置抵达目标”等信息。因此,认知地图本质上是一种按照状态和动作之间的关系组织经验的数据结构。
在空间导航任务中,研究采用了基于网格单元的认知地图模型:网格单元通过路径积分将运动信息转换为空间位置表征,这些表征进一步编码了环境的整体结构。而对于抽象任务,认知地图的形式更为通用,模型会将观察和动作嵌入到共同的高维状态空间中,让空间的几何结构直接体现状态之间的关联。
这里的“地图”只是一种形象化的说法,它不一定是二维的空间地图,既可以是房间之间的移动空间,也可以是抽象任务中的状态空间。认知地图保存的是状态与动作之间的关系,用富集范畴的概念来理解最为简洁。
从记忆到想象的延伸
如果将记忆理解为按照时空和状态关系组织的经验集合,那么过往的经历就可以表现为一系列相互连接的状态序列。认知地图不仅可以存储过往经验,还具备面向未来的功能,能够基于现有经验支持对未来情况的预测与想象。
已有神经科学实验发现,动物在休息期间的海马体重播现象中,会出现可以解码为未来运动轨迹的位置细胞序列;当环境中出现新的障碍时,这些内部轨迹还能重新规划绕行路线。
我们可以这样统一认知:记忆提供了关系结构的基础,回忆是沿着关系结构回溯过往经历,而想象则是沿着关系结构生成尚未发生的未来轨迹。这一过程超越了单纯的记忆回忆,具体来说,就是从当前状态出发,根据目标方向在认知地图中向前采样未来轨迹。
认知地图的构建过程
模型在真实环境中行动时,会观察当前状态和动作带来的结果,并学习一个前向模型:当前状态 + 动作 → 下一状态。对于空间导航任务,这种关系可以通过网格细胞的表征来建立;而对于抽象任务,模型会将观察和行动嵌入到共同的高维空间中,通过局部突触可塑性学习预测下一状态,整个过程可以在线完成,无需反向传播。
完成这一步后,模型就拥有了一张内部状态空间地图,可以知晓从当前位置执行某个动作后大致会抵达何处,这也是后续进行脑内模拟规划的基础。
逆模型提供行动方向
仅仅知道“采取动作后会发生什么”还不足以完成规划,规划的核心其实是回答另一个问题:我想要抵达目标,现在应该采取什么动作?这也是研究中加入逆模型的原因。
前向模型描述的是“动作 → 状态变化”的关系,而逆模型则反过来,描述“状态变化 → 动作”的关联。假设当前状态为 ,目标状态为 ,两者的状态差可以表示为:
逆模型根据这个状态差生成对应的动作倾向。这里有一个很直观的几何直觉:认知地图将不同状态组织到了一个具有结构化几何关系的向量空间中,只要这个空间中的状态变化足够平滑,两个状态的向量差就包含了从当前位置指向目标的大致方向。
因此,模型不需要真的走到目标附近才能规划下一步,只需要通过大量局部经验学习“这个动作会让状态朝哪个方向变化”,再由逆模型汇总这些局部规律,就能判断远距离目标的大致方向。GCML的巧妙之处就在于,局部经验提供了具体的动作方向规则,认知地图提供了全局的几何结构,两者结合让模型可以用已学习的局部规律处理远距离的目标任务。
脑内模拟与轨迹生成
让GCML成为生成模型的关键步骤,是将真实行动中的环境反馈替换为模型自身的预测。在真实行动中,流程是“采取动作 → 环境变化 → 获取下一状态”;而在想象规划时,身体不需要实际行动,模型会选择一个虚拟动作,通过前向模型直接预测下一状态,再将这个预测的状态作为新的当前位置,继续根据目标选择下一步虚拟动作。
具体来说,假设当前状态为 ,模型先选择一个虚拟动作 ,前向模型会直接预测下一状态:
随后将预测的下一状态作为新的当前位置,再根据目标选择下一个虚拟动作,如此循环往复:当前状态 → 虚拟动作 → 预测状态 → 虚拟动作 → 预测状态……整个过程没有执行任何实际动作,只是在脑海中进行规划模拟。
随机采样带来的多样性
如果每一步都完全按照逆模型给出的方向行动,生成的轨迹会是一条确定性的路径。但如果在动作选择过程中加入高斯噪声,每一次生成的轨迹都会略有不同。同一个起点和同一个目标,既可以生成A→B→C→D的路径,也可以生成A→E→F→D,甚至可以生成A→G→H→I→D的路线,这就是研究中提到的神经采样。
模型不再一次性算出唯一的答案,而是在内部状态空间中反复生成多条潜在轨迹,GCML的输出可以理解为一个基于目标条件的候选未来集合。在随机图实验中可以观察到,低噪声水平下生成的路径大多接近最短路径;提高噪声水平后,路径的多样性会明显增加,但多数轨迹仍然能够抵达目标,即使某一步走偏,后续动作也会重新朝向目标方向。
这里的噪声或许还具备神经科学层面的含义:神经系统的神经元激发并非完全确定,相同条件下也会存在内在波动。GCML将这种随机性转化为了计算资源,让内部轨迹产生差异,使得模型能够探索多个可能的未来,也就是让未来保持多种可能性。当然,GCML中的高斯噪声只是一种计算模型设定,将其直接等同于真实大脑中的神经噪声机制还需要更多实验验证。
多轨迹候选的价值
假设从A到B有三条可选路线:第一条最短但经过风险区域,第二条稍长但安全性更高,第三条更长但途经多个高奖励节点。如果系统只生成一条“最短路线”,后续就很难根据新的偏好进行调整选择。而GCML可以先生成一批候选轨迹,再根据其他条件进行筛选。
研究在随机图实验中为不同节点加入激励和损失权重,比较不同噪声水平下生成的路径,结果显示更高的噪声能够产生更多样的候选路线,从而增加找到高奖励路径的机会。可以说,这里的“想象”不仅是将未来预测得更准确,还有一个重要作用就是扩大候选未来的搜索范围。
动态调整规划路径
假设目标就在正前方,但中间突然出现一堵墙,只看当前位置到目标的直接方向的话,最直接的动作会撞上障碍物。此时在模型中加入障碍单元的信息,将障碍物对动作选择的影响建模为排斥作用,模型就会暂时偏离目标方向,先绕过障碍再重新朝向目标前进。
比如最终的轨迹可能是A→E→F→C→D,虽然中间一段暂时偏离了目标方向,但整体依然具备明确的目标指向。这一点和啮齿动物实验中的海马体重播现象非常相似:当环境出现新的障碍时,重播轨迹可以重新规划绕行路线,而原来的位置细胞不需要进行整体重映射。
这也体现了明确的分工:认知地图负责保存环境的整体结构,规划过程则负责根据当前的具体条件重新寻找最优路径。
跨组合的泛化能力
GCML还具备处理此前从未见过的新状态组合的能力。研究选择了一个看似简单但属于NP-hard的任务:给定若干基本图形块,判断一个复杂轮廓是否可以由这些构建块分解组合而成。
在训练阶段,模型学习由5个构建块构成的轮廓分解;而在测试阶段,模型需要处理由8个构建块构成的全新轮廓,这些轮廓在训练过程中从未出现过。实验结果显示,GCML依然能够通过目标导向的想象完成分解,而且表现明显优于随机移除构建块的基线模型和确定性的CML模型。
组合编码在这里发挥了关键作用:模型学习的是组成状态的结构和动作关系,因此在面对全新的组合时,可以重新利用已经掌握的局部关系。这提供了一种非常有价值的泛化机制:经验不需要覆盖所有具体状态,只需要覆盖足够多的组成结构即可。
通用问题求解框架
到这里,整个GCML的机制可以压缩为四个核心步骤:认知地图保存状态之间的关系;逆模型根据目标状态生成动作方向;随机采样生成多个可能的未来轨迹;组合编码让已学习的结构可以应用于全新的状态组合。
导航只是最直观的应用场景,如果将地图中的“位置”替换为“问题状态”,将“移动”替换为“操作”,这套模型就可以成为通用的问题求解器。比如,A代表初始状态,B代表执行一次操作后的状态,C代表执行第二次操作后的状态,D代表目标状态,寻找从A到D的路径,本质上就等价于寻找解决问题的一系列操作步骤。
在随机图上的测试显示,GCML生成的路径大多接近最短路径;提高噪声水平后,可以获得更多样的候选方案。研究将这一过程描述为一种启发式的k-最短路径求解过程。
与传统强化学习的差异
传统强化学习通常围绕“状态 → 动作 → 奖励”的循环,学习策略或价值函数。而GCML采取了完全不同的分工模式:认知地图学习的是环境中的状态关系,目标作为输入决定当前需要朝哪个方向进行搜索。
同一张认知地图可以服务于多个不同的目标:针对目标A,从当前位置采样通向A的轨迹;针对目标B,只需要使用同一张地图重新采样通向B的轨迹即可。这让模型可以快速适应目标的变化,无需重新训练整个策略。可以总结为:地图保存了“世界怎样连接”,目标决定“现在想去哪里”。
记忆的生成性价值
我们不能仅仅将记忆理解为对过去的保存。这项研究的模型证明,一旦建立起关系地图,它还可以承担另一项重要功能:生成可能的未来。
过往发生过A→B→C→D的状态序列,这些关系会成为认知地图的一部分。当面对新的目标时,模型可以从当前位置开始,在地图上进行虚拟移动,生成A→B→C→D这类尚未实际发生的状态序列。认知地图将“经验”和“想象”连接了起来,经验提供结构化的基础,采样过程则生成想象中的未来。
正如前文所述,记忆是关系地图,回忆是沿着关系结构回溯过往经历,想象则是沿着关系结构采样可能的未来。GCML实现并验证了这种目标导向的未来轨迹采样过程。
对大模型研发的启示
当前的大模型主要是将大量经验压缩进模型参数,通过高维表征和token预测来处理复杂任务。而GCML提供了另一种计算路线:先建立状态之间的关系结构,再在这个结构上生成未来轨迹。
我们可以粗略对比两者的差异:大模型的流程是“输入 → 高维表征 → token预测”;而GCML的流程是“状态 → 认知地图 → 目标导向采样 → 未来轨迹”。表面上两者解决的问题并不完全相同,大模型更擅长语言、知识和复杂模式的处理,而认知地图模型更强调状态空间中的关系、目标方向和轨迹搜索。
但如果将认知地图看作富集范畴的另一种表述,那么“逆模型+随机采样+组合泛化”就等同于“采样+变分推断”的逆重整化生成过程。因此,大模型数理认知框架可以将两种机制结合起来,形成完整的流程:感知 → 状态表征 → 世界模型/认知地图 → 目标 → 未来轨迹采样 → 候选方案评价 → 行动 → 新经验更新地图。
从记忆世界到想象世界
这项研究可以浓缩为一句话:认知地图保存关系,逆模型提供方向,随机采样生成未来,组合编码让旧经验可以应用于新问题。
记忆提供了过往经验形成的结构,想象则利用这些结构生成尚未发生的轨迹,这或许是这篇论文最值得关注的核心价值。
那么,内部状态空间应该如何组织,才能让系统在其中“走一遍”进行规划?GCML给出的答案非常简洁:先形成一个具备结构化几何关系的认知地图,再利用逆模型获得目标方向,通过随机采样生成多个可能的未来,最后借助组合结构处理训练中从未出现过的新状态。
一张认知地图需要具备怎样的几何结构,才能让系统从“记住世界”进一步走向“想象世界”?答案或许就在大模型数理认知框架中:学习过程等于重整化,学习结果等于富集范畴,想象规划则等于逆重整化。
文献1:Neural sampling from cognitive maps enables goal-directed imagination and planning, https://www.nature.com/articles/s42256-026-01254-4

