4B手机模型搭桥 大模型静默联动刷爆ARC-AGI3

在ARC-AGI 3基准测试中，不仅顶级大模型取得了接近满分的成绩，就连可以在手机端流畅运行的4B参数轻量化模型，也凭借一套创新方案刷出了顶尖表现。这套方案的核心并非单一模型的升级，而是4B参数的Qwen-3.5与753B参数的GLM-5.2的协同组合。

具体来说，753B参数的大模型运行在云端，移动端仅需要承担4B参数小模型的计算任务，而且整个过程中大模型不会输出任何文本，最终的答案全部由移动端小模型生成。

背后的研发团队Mostik成立仅4个月，共有15名成员，其中12人拥有博士学位。团队还邀请了2010年菲尔兹奖得主斯坦尼斯拉夫·斯米尔诺夫担任首席科学家，这位数学家曾在统计物理领域证明了渗流模型和平面Ising模型的共形不变性。Mostik这个名称在俄语中意为“小桥”。

目前Mostik尚未公开这套方案的具体技术细节，团队表示暂时不会披露，理由是相关比赛还未结束。但他们公开了核心发现：

AI模型之间一直在用一种极其低效的方式交流。

Mostik认为，他们搭建的这座“桥”，让模型之间的信息传递效率提升了几个数量级。

目前所有多模型协作系统，无论是编程子智能体、模型委员会还是路由调度，都只能通过文本进行沟通——也就是每个token仅传递17个比特的信息。但实际上，大模型在生成单个token时，内部会生成超过百个隐藏向量，整合后形成约百万个数值、总大小达2MB的内部状态信息，这些数据会在模型输出token后被直接丢弃，不再被后续计算利用。

近两年的AI可解释性研究给出了明确答案：这些被丢弃的内部状态，其实包含了模型深层计算的核心内容。一篇发表在ICLR 2026的论文显示，Qwen-3在输出“accountant”这个词汇之前的多个token阶段，内部就已经携带了该词汇的表征，这也是模型能提前选对冠词“an”而非“a”的关键原因；Anthropic的可解释性团队在Claude 3.5 Haiku上也观察到类似现象，模型在写诗时，落笔之前就已经确定好了整首诗的韵脚。

Anthropic团队还进一步发现了名为“J-space”的结构：模型在任意时刻都会维护一组未表达的概念，这些概念既不是输入数据的回声，也不是对下一个token的猜测，而是当前正在处理的核心信息。该团队总结道，这些测量结果揭示了从未出现在模型输出中的内部推理和反应过程。这意味着，当一个模型通过文本向另一个模型传递信息时，丢失的并非格式信息，而是做出选择背后的深层计算逻辑。

用一句话概括Mostik做的事情：让一个模型把自己的隐藏状态通过一个小型的、经过训练的桥，直接传递给另一个模型，接收方拿到这些内部状态后直接使用。

整个过程不会产生任何文本，两个模型的权重完全保持冻结，只有这个“桥”是系统中唯一需要训练的部分。

在公开演示中，团队选择了753B参数的GLM-5.2作为发送方，4B参数的Qwen-3.5作为接收方。整个过程中，大模型仅读取问题、生成内部状态并通过“桥”完成传递，之后就停止运行，所有的文本生成工作全部由移动端小模型完成。

这里有一个关键的成本设计逻辑：在大模型运行过程中，逐个生成token的“解码”环节算力成本极高，而一次性读取整个输入的“预填充”环节成本则低得多。Mostik的方案恰好让大模型只承担预填充工作，完全跳过解码环节，将算力开销最大的部分交给小模型，因此大模型的推理成本被压缩到了原本的约二十分之一。

根据团队披露的实验数据，这套方案让4B模型弥补了与753B大模型之间约50%的性能差距，自身准确率提升了25%；在大小模型差距更为显著的难题子集上，性能提升更是达到了2倍。

从算力角度换算，若不使用这套桥方案，要达到相同的成绩需要部署一个中等规模的模型，而桥方案的计算成本仅为该中等模型的五分之二。

团队还将该方案与传统的文本接力等标准模型组合方法进行了对比，结果显示在所有测试的大模型算力水平下，桥方案的表现都更优。尤其是在“交接点极早”的场景中，传统文本接力还没有任何内容可以传递——因为大模型还未生成任何文本，但此时隐藏状态中已经积累了模型处理问题的全部核心信息，桥方案的优势尤为明显。随着给大模型分配更多算力，两种方案的表现最终都会趋近于大模型本身的水平，但桥方案在整个性能-算力权衡过程中都更具优势。

值得注意的是，本次实验中两个模型的权重完全保持冻结。GLM-5.2和Qwen-3.5分别由不同团队使用不同数据集训练而来，但它们的内部表征依然可以通过这个“桥”完成有效的信息传递，无需对任何一方进行微调。团队表示，这样做是为了进行严格的测试，证明桥所利用的结构是模型在训练过程中自然产生的，而非通过微调适配得到的。

首席科学家斯坦尼斯拉夫·斯米尔诺夫指出，在两个AI模型之间找到数学上的共同基础其实非常困难，“目前似乎还没有合适的数学语言来描述这件事”。

该团队的CEO Sasha Malysheva是这套核心方法的开发者之一，她曾提到自己最早发现数学天赋，源于哥哥的一句“你解不出我准备数学奥赛的题”。

公司内部还有一个关于AI未来的比喻：猜一头猪的重量时，一群普通人各自报数后取平均值，往往能得到比单个专家更接近真实值的结果，多个AI模型协作也拥有类似的潜力。而当前多模型协作的最大问题在于成本过高，模型需要先将内部计算压缩为文本，再将文本重新展开为下一轮计算的输入，Mostik的方案正是想要跳过这一低效的中间环节。

Malysheva判断，未来AI领域未必会由单一巨型模型包打天下，更有可能的是让前沿通用模型与生物、物理等领域的专用模型实现高效配对。

连接已经训练好的模型只是Mostik的第一步，团队目前正在探索两条后续路径。

其一是模型蒸馏。传统的模型蒸馏中，学生模型只能看到教师模型最终输出层的信号，而如果通过“桥”将教师模型的内部状态同步给学生模型，监督信号可以更早地进入生成过程，团队的早期结果显示，在相同的训练预算下，学生模型可以更接近教师模型的性能。

其二是模型专项化。当轻量化小模型搭载“桥”进行某一专业领域的能力训练时，学习效率会更高，同时还有机会保留原有的通用能力，如果这一方向得到验证，那么为大模型添加新技能或许不再需要重新训练整套系统。

团队还提到了该方案在安全领域的可能性：链式思维只能提供部分监控线索，部分异常行为仍可能绕开现有监控，而“桥”在两个模型之间增加了一个新的观察面，发送方的隐藏状态、转换结果以及接收方的行为都可以被记录和监测。

当然，这些方向仍处于早期阶段，桥是否能适配更多模型、更多任务以及真实业务负载，能否成为可靠的可观测性工具，都还需要进一步验证。但至少在ARC-AGI 3基准测试中，这座让大模型“闭嘴思考”、再由小模型代为输出最终答案的“小桥”，已经刷出了相当亮眼的成绩。