一个模型面对着 Python 会话,自身权重直接暴露在外。它可以查看隐藏状态、修改选定矩阵,并让自身副本去解另一道题。它不能计算梯度。20 次前向传播和固定时限,就是它拥有的全部。

本文开头和结尾的场景为示意性描写,其中人物均为虚构。

Jiajun Fan 与 10 位共同作者将这一环境提供给了同一系列的 4 款开放模型。2B 模型没有修改自身。4B 和 9B 模型尝试了随机改动,结果表现反而变差。27B 模型则测出了隐藏状态出现差异之处,沿这些方向作出修改,且仅在配对测试支持时保留改动。其中一次修改使它在 490 道留出题目上的准确率提高了 6.6 个百分点。

论文将这种方法称为“自我改写”(self-rewriting)。其核心论点范围限定明确,却意义重大:已部署的模型仅凭前向传播中的推理(reasoning),就能对自身权重做出持久改进。这项研究目前为预印本,作者表示,这是同类研究中的首次展示。

能访问自身的模型

常规训练通常将寻找更优权重的系统与日后使用这些权重的模型分离开来。优化器基于损失计算梯度,工程师选定数据与配置,集群将结果写入新的检查点(checkpoint)。这一流程结束后,推理(inference)才开始。

Fan 与同事去掉了优化器,但为模型配备了工具。模型可以获取已评分的练习题答案、访问自身权重张量,并使用一个跨轮次保留状态的 Python 会话。它可以用相同的随机种子,在相同题目上分别运行未修改和修改后的模型,也可以读取模型在自选文本上产生的隐藏状态。

运行环境严格执行了这一边界。梯度计算被禁用,对优化器、网络、新建进程及模型加载函数的调用均会被拒绝。模型无法修改输入嵌入层、最终归一化层或输出层。在单次会话中,它最多有 20 次前向传播和 200 次代码执行机会。

配对测试会逐题比对答案。这一点很关键,否则整体上的微弱提升可能只是采样噪声所致。测试框架会报告有多少道题由错变对、有多少道由对变错,以及两个版本各自耗尽 16,384 个 token 预算的频次。

在更严格的方案下,框架还会将模型提出的修改方案,在一组模型无法查看的预留练习题上测试一次。随后由模型决定提交或撤回该修改。前 8 次会话中,有 5 次选择了撤回。被采纳的修改从未降低在用模型的准确率。

最大模型改动了什么

27B 模型并未遍历每一个参数。它找出了隐藏状态中与失败相关的方向,并削弱了选定输出矩阵沿这些方向的写入作用。这一操作类似于从矩阵中减去一个秩一分量。

这种干预减少了一种显而易见的故障:部分回答会不断重复同一句话,直至耗尽 token 上限。在一道留出题中,基础模型将同一句话重复了 549 次,始终没有作答。修改后的版本则完成了这道题。

在固定评测中,最成功的一次修改带来了 6.6 个百分点的提升。按作者采用的检验方法,这一系列中有 2 次会话所取得的改进,其配对测试概率低于 10 万分之一。第 8 次会话结束后,准确率达到 63.8%。

每次会话都从基础权重开始排查,但一旦修改被采纳,就会替换当前在用的模型。因此,整个序列是在不断累积决策,而非盲目堆叠每一项提议的改动。作者报告称,在全部 8 次会话中,准确率持续上升或保持不变。

这种性能提升不需要在后续每次作答时付出额外计算。改动一旦写入,就会留存在检查点中。这一点使其有别于测试时扩展(test-time scaling)——后者每次都需消耗更多 token 或样本,才能换取更好的答案。

脱离原版完成修复

研究团队还设计了一种成因明确的故障。他们将一个多层感知机输出矩阵中的连续 8 行,覆写为幅度达该矩阵标准差 200 倍的噪声。受损后的模型几乎解不出任何题目。

负责修改的模型本身完好无损,但只能查看受损副本的运行情况和权重。它只被告知部分数值有误,并不知晓损坏位于何处,也不了解损坏是如何造成的。它从未读取过对应的正常数值。

27B 模型定位到了出错的矩阵,并自行写入了替换数值。它在文本数学题上找到的修复方案,迁移到了会话从未接触过的 6 项图像基准测试上。修复后的副本恢复了基础模型汇总准确率的 83%。在 ScreenSpot-v2 上,其表现从 0 升至 89%,而未受损模型为 93%。

这项测试排除了对主要结果的一种简单解释。模型原本可能只做了狭隘改动,借机利用练习题的某些特殊之处。修复人为损坏的组件并在图像任务上恢复性能,表明模型能够识别并部分还原更通用的功能。

这并不意味着模型能够修复任意损坏。此次损坏仅限于一个人工构造的模块,实验也只覆盖了 Qwen3.5 这一模型系列的 4 种规模。模型获得了已评分的练习题答案,并对内部张量拥有罕见的直接访问权限。普通托管助手并不具备这些权限。

规模边界

更小的模型揭示了当前的局限。2B 模型并未将自身权重视为可以有效修改的对象。4B 和 9B 版本只是加入随机噪声。当测试显示改动造成损害时,它们便会再猜一种干预手段。

27B 模型则完成了一条更长的行动链:诊断症状、检查激活值、提出假设、修改矩阵、运行配对测试,并在结果呈负面时调整方案。作者将其描述为一种随规模扩大而涌现的能力,但单一系列的 4 种规模无法确定通用阈值。

同周发布的另一篇配套预印本研究了另一种方案:由外部语言模型为更小的目标模型选择权重修改方案。该系统在 SmolLM2 和 Qwen2.5 上追平了黑盒搜索,在 Pythia 上则超越了黑盒搜索。Fan 的论文将修改者与被修改对象合二为一,正是这一特点支撑了其更强的论断。

作者将这一结果与递归自我改进(recursive self-improvement)联系起来。不过,他们的实验距离自主闭环仍相去甚远。任务、失败信号、工具、修改约束以及验收测试,全由人类提供。这些会话在单块 GPU 上耗时数小时,而最有力的证据也仅局限于有限的一组推理(reasoning)问题和一处人工故障。

而正是这些边界,让实验结果变得可核查。每一项被采纳的改动都通过了配对比较,每一道留出题目都位于修改会话之外,而每一次较小的失败也都保留在记录中。

回到 Python 提示符前,模型用完最后一次前向传播,在磁盘上留下了一份修改。下一次作答无需更长的提示词,也无需额外样本。几处改动的矩阵承载了这一差异。

参考文献

  • Fan, J., He, N., Yang, C., Mao, A., Zhu, X., Cheng, C., Liang, K., Shen, S., Li, Z., Guo, R., & Liu, G. (2026). Language Models Can Rewrite Their Own Weights. arxiv.org
  • Yang, C., et al. (2026). Can an LLM Fix a Language Model Without Training It? arxiv.org