1.09亿参数模型击败720亿LLM，革新AI训练范式

人工智能先驱 Yann LeCun 始终主张，生成式 AI 并非发展的最优路径，世界模型才是真正的未来方向。他认为自回归生成存在数学层面的硬伤，文本无法承载人类的大部分知识，真正的推理也并非基于优化的推断，衡量智能的核心标准应为学习新任务的速度，以及零样本应对全新环境的能力。基于这一思路，LeCun 团队提出了世界模型与 JEPA（联合嵌入预测架构）结合的目标驱动型架构，近期提交的一篇论文在该方向上取得了关键突破。

柏拉图表征假说（PRH）由 Huh 等人在相关研究中提出，核心观点是在不同模态（视觉、语言）上分别训练的模型，随着规模增长，其内部表征会逐渐趋同，最终收敛到对现实的共享统计模型，如同柏拉图洞穴中不同人所见的同一“理念世界”。不过该假说此前仅停留在经验曲线与理想化学习器的直觉论证阶段，未形成可验证的定理与操作方案，行业只能通过不断扩大模型规模推进研究。而此次的研究成果则将 PRH 转化为了可证明的定理，并给出了具备可操作性的充分条件。

为探究如何让不同模态模型的表征实现对齐，研究团队设计了对比实验，核心围绕“好视图”与“坏视图”两种训练设置展开。假设场景为一张描绘“狗在草地上追球”的图片，对应的两段描述分别为“一只狗在草地上追逐皮球”与“草坪上的小狗正在追赶玩具”。“好视图”训练采用从两份不同描述中截取并遮盖部分内容的方式，让模型需从“草地”与“草坪”、“追逐”与“追赶”等差异表达中提取共同场景信息；而“坏视图”训练则基于同一段描述生成不同版本，模型可借助重复出现的措辞（如“一只狗在”）拉近向量距离。

实验结果显示，“好视图”训练不仅让 PRH 成为可验证的定理，还将表征对齐过程的样本效率提升了 42 倍。为避免模型出现“表征坍塌”（将所有文本转换为同一向量）的问题，研究团队加入了约束条件，确保模型既能提取场景共同内容，又能保持表征的分散性。

这一训练思路也与传统的“下一 token 预测”形成了鲜明对比。研究人员指出，下一 token 预测的学习信号主要来自文档内部的前缀与后续内容关联，会保留文档自身的表达特征；而“好视图”训练则直接让模型学习同一场景的不同描述，无需依赖大量语言关联建立联系。在形成与视觉模型对齐的表征方面，后者所需的训练数据量显著更少。

团队通过多组实验验证了训练方式的效果。在首个针对图文数据集的测试中，“好视图”训练得到的文本表征与视觉表征的一致性更高，邻域重合程度及图文检索指标均领先。进一步验证发现，将同一图片的两份描述拼接给传统模型，效果提升有限，说明“直接关联不同描述”的训练逻辑才是核心优势。

在更大规模的网络文本实验中，研究人员对比了不同训练方式的样本效率：使用相同的 1.09 亿参数编码器，“好视图”训练处理 2160 万样本即可达到相近对齐分数，而传统的“下一 token 预测”需处理 9 亿样本才能达到同等效果，样本效率差距约 42 倍，按实际读取的文本 token 计算差距约 14 倍。

当模型训练扩大到 9 亿样本、对应 9.4 亿张网络图片时，“好视图”训练的性能优势进一步凸显：在相关基准测试中，其平均对齐分数超过了 720 亿参数的大模型，这正是“1.09 亿参数超过 720 亿”的具体体现——小型模型学到的文本邻域结构，与独立训练的视觉模型更为一致。

为验证表征对齐的实际功能，研究团队开展了图像描述任务实验。先训练文本解码器，使其能根据 JEPA 的向量还原描述；处理图片时，由冻结的视觉编码器提取向量，通过线性映射转换到文本表征空间，再交由解码器生成句子。组合相关组件后，系统在公开数据集上取得了优异的描述一致性分数，说明分别训练的视觉与文本模块可通过表征映射有效结合，将图片场景信息转换为自然文字描述。

对 LeCun 持续推进的世界模型路线而言，此次研究在表征学习环节构建了重要基础，明确了不同模态形成共同结构的条件，也展示了训练目标对学习效率的关键影响。后续研究中，这些表征能否支持可靠的预测与规划，将决定世界模型路线的发展潜力，为多模态模型的研发提供了值得深入探索的方向。