视觉定位新突破:CoEvolve让9B模型赶超241B参数量模型

当要求模型框出“餐盘右上角的西兰花”时,模型往往能准确描述食物类别和相对位置,却仍会把相邻的其他食材圈入目标框。这一现象暴露出视觉指代定位的核心矛盾:流畅的语言解释本身,无法保证中间空间判断可检查,也无法直接确保最终坐标的准确性。
这一差距也让我们重新审视现有模型的后训练流程:对于已经通过强化学习完成初步优化的模型,单纯围绕最终答案追加强化学习,未必是最优的优化路径。当剩余误差集中在区域选择和边界偏差时,我们需要思考如何保留可操作的空间判断能力,并训练模型在已有预测的基础上识别、取舍和修正错误。
针对这一问题,研究人员提出了面向可修复性的构造—编辑后训练范式,即CoEvolve方案。该方案首先通过强化学习将空间推理组织为显式的区域轨迹,再训练双向编辑器,在保留语义上下文的同时修正坐标偏差。在整个流程中,强化学习模块负责构建空间状态,后续的几何监督与编辑偏好则分别学习“修正方向”和“修正价值”,将后训练延伸到已有预测的可修复性层面。
通过显式的坐标编辑,模型可以在保留语义上下文的前提下,精准修正定位过程中出现的偏差。
核心性能表现
在RefCOCO系列对比测试中,采用9B主干网络的CoEvolve,整体定位准确率与总参数量达241B的模型相当。
| 方法 | 参数规模/主干 | 准确率(%)↑ |
|---|---|---|
| Qwen3.5-9B | 9B | 89.48 |
| InternVL3.5-241B-A28B | 241B | 92.39 |
| CoEvolve | 9B主干 | 92.41 |
数值摘自论文主表;公开方法沿用其报告协议,241B为总参数量。
针对模型的修复能力,研究人员通过三万余个受控扰动框进行了单独测试。结果显示,面对位置、尺度和长宽比的偏差,CoEvolve仅需一轮编辑,就能将平均框重叠度提升约27.4个百分点,并修复近88%原本未达标的输入框。
| 方法/状态 | mIoU(%)↑ | 修复率(%)↑ |
|---|---|---|
| 扰动输入,未修复 | 58.80 | — |
| Qwen3.5-9B 纠错 | 83.85 | 79.88 |
| CoEvolve 编辑器 | 86.19 | 87.99 |
mIoU衡量平均框重叠度;修复率指初始IoU < 0.7的框被修复至IoU ≥ 0.7的比例。
显式化空间推理过程
构造—编辑分解通过显式状态连接两个分阶段训练的组件,形成状态—编辑器耦合框架。其中的Region-Evolution Reinforcement(RER,区域演化强化)模块要求每个推理步骤都输出候选框,将分析过程组织为“语义解释+区域坐标”的轨迹。
强化学习会同时评估推理结构、空间进展和最终定位结果,让中间的空间判断获得可计算的训练信号,这些监督信号直接来自目标框的标注,无需人工编写推理链或额外标注中间区域。这让后续的编辑操作拥有了明确的操作对象:候选区域、定位历史,以及可供对比的输入坐标。
编辑效用的量化优化
Bidirectional Denoising Refiner(BDR,双向去噪精修器)会读取完整的推理轨迹,将推理文字作为固定的语义上下文,利用双向信息在坐标原位置同步预测修改结果。
BDR区分了目标几何和相对编辑效用:前者规定了坐标应该调整的方向,后者则评估修改是否比保留原始输入更优。训练过程中的质量门控会选择保留、纠正或巩固的目标,逐坐标的偏好设置则会鼓励有益的修改,抑制有害的修改。
对于参与监督的坐标,记$D$为坐标变化后,模型输出相对输入的平均评分差,$y$标记修改是否减小了坐标误差。其偏好损失满足: $$\frac{\partial \ell}{\partial D}=\sigma(D)-y, \qquad \sigma(D)=\frac{1}{1+e^{-D}}.$$
当修改是有益的($y=1$),梯度下降会推动$D$增大;当修改有害($y=0$),则会推动$D$减小,这让编辑的取舍能够转化为具有明确方向的优化信号。
CoEvolve的整体流程包含显式空间状态构建和双向坐标编辑两个核心部分:RER模块构建显式的空间状态,BDR模块结合目标几何与相对编辑效用,学习坐标修正。
耦合框架的价值评估
研究人员分别为原生输出和RER状态训练了匹配的编辑器。实验结果显示,RER路径的mIoU精修增益为5.02个百分点,而原生输出路径的增益仅为2.41个百分点;前者的最终mIoU也达到了85.72%,显著高于后者的84.57%。
这一结果证明,可修复性可以理解为状态与编辑器的关系属性:在评估中间状态时,我们不仅需要考察其本身的质量,还需要考察匹配的编辑器能从中获得多少改进,以及最终能达到怎样的质量水平。
对后续研究的启示
CoEvolve将输出准确率、空间状态构造和编辑效用纳入了统一的后训练设计框架。由此,中间状态既是一次预测的结果,也是后续修正可利用的接口。
对于动作参数、代码补丁等可结构化编辑的输出,这一框架提供了一条值得验证的研究路线:训练可供编辑的状态,学习相对输入的修正效用,并以状态与编辑器的组合表现来评价整个系统。

