AI读脑自救改写架构，数学竞赛准确率暴涨7分
AI看着自己的“脑子”改写自己，这一天终于到来了。拥有7630亿参数的DeepSeek-V4.1-Flash，直接读取了自身进行数学运算时最深7层的内部激活状态，摸清“即将出错”的信号规律后，它在不改动任何权重的前提下，亲手编写了一段Python代码嵌入推理流程，实现“读脑自救”——只要察觉思路偏离正轨，就当场回滚重新计算，在AIME与HMMT 2026数学竞赛上，准确率直接暴涨7个百分点。
这一突破的背后，是由Mobileye创始人Amnon Shashua创立的机构首次提出的颠覆传统深度学习的新范式：“机制干预”。相较于以往模型只能在固定架构中硬调权重，这套方法将编程Agent融入训练与推理的全流程，当某层网络出现瓶颈时，Agent会当场生成Python代码注入模型主干，实时接管计算逻辑。
凭借这套方法，预训练模型仅塞入20行代码，就能在单次前向传播中实现梯度下降；连续塞入10层代码后，30种经典计算机算法的准确率从55%飙升至84%。研究发布后引发AI圈热议，创始人Amnon Shashua指出，深度学习已彻底告别“只调权重”的旧时代，如今连神经网络架构本身都能在训练中自主进化，人类手动设计模型架构的时代已经结束。
联创Gal Beniamini感叹，当允许大模型在训练过程中自主改写自身结构时，最终形成的架构往往连研究者都感到惊讶——它不再是单纯的神经网络，而是由训练学到的权重与中途嵌入的Python代码共同构成的混合体。
在深入实验细节前，先了解“机制干预”的核心运作流程：第一步是定位瓶颈，Agent实时读取每层网络的梯度信号，找出仅靠调整权重无法解决的短板；第二步是生成代码，Agent现场生成数十个候选Python函数，通过实测选出能最大程度降低误差的代码；第三步是热插拔，将选中的代码挂在初始值为0的门控后并入网络，由后续训练自动调整门控的激活程度。
第一组实验聚焦语言模型预训练，验证训练中途嵌入Python代码能否帮助模型更快降低预测误差。在12层模型nanochat的1500步训练中，Agent先后三次嵌入Python代码层，每次嵌入后，模型的预测误差都会连续下降三次。训练完成后，加入代码层的模型相当于额外获得了15%的训练进度。而对照组（加入逻辑错误的假代码）与常规训练的表现完全重合，说明准确率提升完全来自AI生成的代码逻辑。
Agent之所以能精准找到嵌入代码的网络层，依靠的是“幽灵梯度”技术：它会假想在某层后添加新模块，测算哪个方向能让误差下降最快，过滤常规噪声后，第2层和第4层成为高需求热区。锁定瓶颈层后，Agent生成数十个候选函数，在单批数据上测试哪个函数最契合第2层的梯度方向，最终将最高分函数挂在初始值为0的门控后并入网络。刚嵌入时门控输出为0，不影响原有网络，仅用100步，梯度下降就发现这段代码能降低误差，自动将门控调整至0.58。
在第1000步，Agent往模型末层嵌入了一个“错误记忆层”，这段20行代码的震撼之处在于打破了“前向传播仅能推理、反向传播才能改错”的定式：无需等待反向传播，模型在推进过程中就能核对前文答案，当场计算预测误差，找出64个最相似的错误位置，直接在单次前向传播中完成梯度下降，实现边读边纠错。
既然Python代码层效果显著，那从训练第0步就嵌入代码层会不会更好？第二组实验给出了反直觉的结论：同样的代码层，在训练中途嵌入比天生自带效果好17个百分点。
实验将模型的记忆窗口限制在500词以内，测试其找回几千词前变量赋值的能力，同时设置三组对比：常规训练基线（超出500词的变量全部遗忘，召回率为0%）、第0步天生自带代码缓存层（召回率55%）、第1200步半路嵌入代码缓存层（召回率72%）。
半路嵌入代码层效果更好的原因是：如果训练开始就提供外部代码捷径，神经网络会“偷懒”依赖外部字典，不再打磨底层表征；而先强迫模型在500词限制下扎实掌握基础表征，遇到瓶颈后再接入Python代码，神经权重与符号计算才能发挥最大合力。
验证了半路嵌入的优势后，第三组实验挑战30种经典计算机算法，检验连续嵌入10层代码的效果。传统Transformer学习算法有个致命盲区：测试时若遇到训练未覆盖的“中间长度”，准确率会直接崩盘，而嵌入代码层后，准确率能稳定维持高位。
从总分来看，常规模型训满20000步，30种算法总准确率仅为55%；而在第10000步，Agent每隔500步嵌入一次代码层，共嵌入10个Python代码层，用于记录“哪些节点被访问过”和“当前最小值”等关键状态。短短5000步后，原本准确率为0的广度优先搜索达到97%，拓扑排序达到93%，30种算法总准确率暴涨29个百分点，达到84%。
准确率大幅提升的关键在于神经网络与Python代码的精妙配合：比如代码层需要比较数字大小，而原始输入只是拆散的字符“8”和“3”，Agent用线性探针检测后发现，到第4层时，神经网络已将零散字符拼成真正的数字，代码层从第4层读出数值后完成比较和循环更新，再写回网络，打通了神经表征与符号计算的壁垒。
回到开篇的DeepSeek突破，看看训练完成的DeepSeek-V4.1-Flash与Qwen3-8B如何通过编写代码实现自我进化。团队将DeepSeek-V4.1-Flash在243道数学题上的做题轨迹，连同最深7层的内部激活状态交给模型自身，模型分析犯错规律后，亲手编写了探针重采样程序，应用于AIME与HMMT 2026数学竞赛。
消耗相同的token预算，三组对比结果清晰：标准单次长思维链推理准确率为63.9%，仅按长度重采样的准确率为65.4%，而DeepSeek自写探针的组准确率冲上71.0%，暴涨超7个百分点。
这段监控代码的作用是：思维链每推进到检查点，就自动提取最深7层的激活特征打分，一旦测出轨迹偏离正常分布，当场触发回滚重算。此外，Qwen3-8B在零梯度更新下，自主进化测试了15000个Python调度策略，在AIME与HMMT 2026考场上，准确率从58.5%提升至65.5%，同样暴涨7个百分点。
Qwen3-8B的代码逻辑是：32条并发轨迹每跑2048个token就检查一次，满8条算出答案且榜首票数达第二名2倍以上，就提前终止所有轨迹以节省算力；而跑满12288个token仍未算完、重复率超0.35的“死循环复读”轨迹，则会被当场砍掉重启并降权投票。
以上四组实验清晰勾勒出通往超级人工智能（ASI）的关键一步——递归自我改进。模型卡在哪个算子、崩在哪个长度，不再需要人类盯着Loss曲线猜测，AI能读懂自身内部状态，当场编写Python代码调整自身结构，这意味着从“人类调权重”到“AI写架构”的时代已经到来，AI真正自我进化的时代已经开启。
