文章摘要
视觉语言导航的研究背景视觉语言导航(VLN)是让机器人理解自然语言指令,结合摄像头的视觉画面,在陌生环境中完成长距离移动任务,需要同时具备视觉理解、语言语义对齐、空间推理、长时序决策等多项能力。过往绝

视觉语言导航的研究背景

视觉语言导航(VLN)是让机器人理解自然语言指令,结合摄像头的视觉画面,在陌生环境中完成长距离移动任务,需要同时具备视觉理解、语言语义对齐、空间推理、长时序决策等多项能力。过往绝大多数VLN方案,习惯给模型堆上各类任务专属网络模块,比如专用感知模块、图结构建模、双系统规划器等。随着多模态大模型(MLLM)能力飞速崛起,不少研究把MLLM当作基础组件,再叠加一大堆导航专属模块。这里就抛出一个值得思考的核心问题:在额外增加任务专用架构之前,原生MLLM本身具备的导航潜力,我们真的充分释放了吗?很多改进后的导航系统,我们很难分清性能提升到底来自新增模块,还是大模型本身。本文的目标非常纯粹:不改动MLLM网络权重与架构,只从输入表达、数据集、训练流程入手,挖掘原生大模型的导航上限。

主要贡献

本文提出SimpleVLN框架,完全保留MLLM原生网络架构,设计了单轮决策输入、全局-局部有限内存、动作块预测机制,不需要任何导航专用网络模块,可以直接兼容现有的MLLM推理链路。同时,该框架融合了三类数据:专家演示数据、DAgger模型自生成修正轨迹、大规模合成RL导航任务,构建了IL-DAgger-RL三段式渐进训练流水线,训练目标从模仿专家动作,逐步过渡到直接优化任务完成结果。此外,该框架可以适配多款不同参数量的MLLM主干,在R2R-CE、RxR-CE两大VLN基准刷新SOTA,还完成了真实四足机器人的实物部署测试。

研究方法

SimpleVLN整套体系分为三大核心部分:导航表达范式、导航数据构建、IL-DAgger-RL渐进式优化。

导航表达范式

环境给到机器人的基础原始动作集合一共有四种:向前0.25米、左转15度、右转15度、停止。每一轮决策,视觉输入总数上限固定为N+M+1,和导航回合总长度无关。实验默认最优配置:M=8,N=1。

单轮决策输入

摒弃传统多轮对话不断追加历史画面的做法。每一次模型做决策,都会独立构建一套输入:语言指令 + 当前画面观测 + 采样筛选后的视觉历史。不会把过往全部对话历史不断拼接,彻底规避上下文无限膨胀的问题。

全局-局部历史采样

机器人不断移动,观测画面会持续累积:全部喂给模型会造成上下文过载;只保留最近几帧,又会丢失早期路径信息。所以论文设计了两套互补的历史缓存:局部历史保存紧挨着当前时刻的最近N帧画面,保留短期连续信息;全局历史从更早的历史里均匀采样M帧,保留远距离路径记忆,两者拼接后作为输入给到模型。每一轮决策,视觉输入总数上限固定为N+M+1,和导航回合总长度无关。实验默认最优配置:M=8,N=1。

动作块预测

不再是调用一次模型,只输出一个基础动作。模型一次推理直接输出一整段动作序列,环境顺序执行块内全部动作;执行完毕之后,再重新调用MLLM做下一轮决策。这样做既能减少模型调用频次,还能实实在在提升导航性能。

导航数据构建

为匹配三段式训练,论文构建了三类不同来源的数据:

  1. 专家演示数据:整合R2R、RxR、ScaleVLN公开轨迹。把原始轨迹转换成决策级别样本,目标输出为专家动作块。
  2. DAgger策略依赖数据:对比模型跑出的轨迹和真值轨迹。偏差大就采用专家修正轨迹,偏差小保留模型自身轨迹。转换为监督样本,和专家数据合并,缓解模仿学习的分布偏移问题。
  3. RL合成任务:不再复用已标注训练样本。在原有训练场景的导航图中采样起点、终点,结合物体语义,由MLLM自动生成导航指令,大批量产出全新任务,供给强化学习训练。

IL-DAgger-RL渐进式优化流水线

论文构建了一套完整顺滑的渐进式训练流水线,分为三个阶段:

  1. 模仿学习IL:复刻专家轨迹,但模型自己跑的时候容易遇到没见过的场景,发生分布偏移。
  2. DAgger策略依赖:基于模型自身生成的轨迹做监督,缓解分布偏移问题。
  3. RL强化学习:直接以任务成败为目标优化。

不过,很少有工作把三者串联成一套完整顺滑的渐进式训练流水线。

导航性能验证

该框架可以适配多款不同参数量的MLLM主干,在R2R-CE、RxR-CE两大VLN基准刷新SOTA,还完成了真实四足机器人的实物部署测试。

以上内容不代表本平台立场,仅供读者参考