ms-swift新增决策模型支持 覆盖JEV-27B-VL等开源模型

某开源训练框架ms-swift近期新增了对决策模型的支持，覆盖JEV-27B-VL、Clef、OmniJev等多种开源决策模型的训练与推理需求，同时提供通用转换路径，可将普通生成模型微调为决策模型。框架内置了决策专属语料、损失函数与两级温度标定机制，能自动处理评分头精度调整与权重加载，大幅提升决策模型的落地效率。

决策模型的发展背景

2026年9月，某企业推出首个规模化落地的决策模型Jev，定位为“系统一”决策模型，仅输出候选选项的校准概率，不生成自由文本。其实现逻辑是通过编码器将上下文与选项联合编码为隐向量，打分头生成每个选项的标量分数，再经温度缩放后的Softmax归一化得到概率。校准的核心是让预测置信度与真实正确率匹配，常用期望校准误差（ECE）衡量，即按置信度分桶后，各桶平均置信度与实际正确率之差的加权绝对值总和。由于省去了自回归解码，Jev可通过一次前向完成整组选项打分，主打快速判断，覆盖分类、路由、打分三类场景。

随后不同技术路线的决策模型快速涌现，判别式打分与生成式概率截取并存，逐题独立调用与多问题联合解码互补。比如某企业推出的决策服务，基于自家生成模型，通过截取生成分布中选项起始token的对数概率，经温度归一化后返回概率，无需训练新判别头，接入成本较低；而Cloudflare开源的Clef则采用多问题联合解码，一次前向建模全部问题答案的联合分布，既能节省计算资源，又能捕捉问题间的相关性，适合表单式批量判定。

开源社区的多样化实现

开源社区也推动了决策模型的多样化发展，出现了不同规模的实现。比如JEV-27B-VL面向多模态决策，几乎不引入新参数，可直接通过LoRA微调，兼容现有部署方案；OmniJev基于混合架构，覆盖图像与视频评分，部署门槛低；还有更轻量的NanoJev，保留逐候选交互结构，常用于研究教学；NeoHorse则聚焦智能体场景，在开源社区有较高下载量。

决策模型与传统任务的差异

传统分类方法需为每个任务定制专属分类头，更换任务需重新训练；而决策模型以语言模型为基座，将评分类任务统一为是非判断、多选一、有序打分三种题型，继承了基座的语义理解能力，具备零样本泛化潜力。在选择题场景，生成式模型需先输出文本再解析答案，决策模型可一次前向直接计算选项概率，推理延迟更低，且同一题内不同选项的置信度因归一化而具有可比性。

2026年10月的研究对比显示，生成式模型的预测概率常饱和于1.0，存在过度自信偏差，而三款决策模型在韩美医学执照考试中，韩文准确率达83.4%-92.0%，英文达84.8%-87.7%，错误检出能力（AUROC）韩文题0.856-0.935，英文题0.864-0.903，低置信度样本覆盖超一半错误案例，若将这些样本路由至更强模型复核，整体准确率可提升6-9个百分点，成本仅为全量大模型推理的25%-33%。

决策模型的适用场景

决策模型的适用场景是所有需从固定选项集合中做选择的任务，常见五类：

• 内容审核与授权：给出允许/驳回/搁置的决策及对应置信度。

• 意图与路由分类：将请求路由至对应处理方，低置信度时升级人工处理。

• 质量与偏好评分：对回答、翻译、生成内容等进行有序打分。

• 数据管线过滤：用概率阈值筛选合成数据。

• 置信度级联：低置信度样本交予大模型复核，以较低成本提升整体效果。

决策模型的技术版图

决策模型的架构差异体现在四个维度：评分头信号来源、候选项序列化方式、候选间交互机制、多问题联合建模策略，据此可分为五种类型：token读出型（几乎无新参数，适合从生成模型迁移）、隐状态读出型（对骨干模型无限制，适合轻量底座）、联合解码器型（换取问题间信息交互，适合结构化场景）、逐候选显式交互型（精确建模候选关系，适合复杂任务）、多模态专用型（端到端设计，适合图像视频评分）。这些类型各有侧重，存在重叠，无绝对优劣，取决于任务与部署需求。

损失函数与训练方案

决策模型的损失函数统一为适当评分规则，即真实分布处最优，由共享基础项与校准项组成。基础项为掩码软交叉熵，本质是对数得分，标签为独热时退化为标准交叉熵，为软分布时等价于最小化KL散度，采用单精度掩码计算，保留梯度信息。校准项有三类：RPS（有序概率得分，衡量预测与目标分布的累积差距）、Brier得分（均方概率误差）、序数交叉熵（保留有序打分的档位顺序）。

组合路线分两种：统一loss覆盖所有题型（如JEV用温度感知软交叉熵，Clef用类型嵌入编码题型），或按题型选loss（如NanoJev对不同题型用对应损失）。训练方案有四种：校准参数固定、先训练评分头再解冻全量、校准作为奖励信号优化、训练后单独拟合温度。

ms-swift的支持体系

ms-swift作为开源训练框架，针对决策模型范式提供了完整支持。用户只需添加--task_type decision参数即可启用决策模式，框架为不同模型预设专属损失函数：JEV-27B-VL用distill_rps，Clef用smooth_brier，OmniJev用ce_rps，还提供通用scoring模式。内置Open-Jev语料，可直接调用训练，无需自备数据。

训练器层面有自动化处理：自动将评分头参数提升至全精度训练，偏置与温度参数保持单精度；同时计算每题准确率与每记录准确率，支持联合解码场景；评分头权重独立保存，推理时自动加载。

温度标定机制

温度标定由训练后回调自动完成，使用决策模式时自动挂载，无需额外配置。两级温度相乘得到生效温度，全局温度修正模型整体置信度偏差，题型相对温度修正特定题型偏差，可纠正欠自信（是非题）与过自信（打分题）问题。汇报指标用两折交叉验证，记录按奇偶拆分，温度在另一半拟合，训练时用原始温度评估基线，区分微调和校准的增益。温度仅修正概率分布，不改变预测答案，实测中JEV的ECE降低46.7%，Brier得分下降9.5%，准确率不变。

通用转换路径

除官方模型外，ms-swift还提供generic_decision路径，可将因果语言模型转换为JEV风格决策模型，不更换底座、不改动架构。转换流程为：通过LoRA微调，将通用生成模型转换为输出候选选项概率的决策模型，训练命令示例为：swift sft \ --model 通义千问模型 \ --model_type generic_decision \ --task_type decision \ --loss_type distill_rps \ --tuner_type lora --target_modules all-linear \ --dataset open_jev_jev:all \ --output_dir output训练后可直接推理，输出预测下标与选项概率，添加--metric acc可计算准确率。

训练结果

四个模型完成完整流水线后，官方模型微调后准确率均有提升，通用转换路径也验证了可行性：未经决策任务训练的普通对话模型，经一轮微调后准确率从随机水平提升至0.6667。

小结

ms-swift构建了支持决策模型的工程闭环，用户可通过简单参数启用专属功能，框架自动处理底层细节，通用转换路径降低了决策模型的使用门槛。本次实验中，模型微调后准确率提升37%-300%，通用对话模型提升显著，温度标定有效降低ECE且不影响准确率。未来框架将跟进新模型结构，扩展训练支持，引入强化学习完善置信度级联能力，为分类、路由、打分等需可信概率的场景提供标准化方案。