麻省理工团队让 GPT 直接改写模型权重,仅调 0.016%参数使 Qwen 数学成绩提升 6 倍

麻省理工学院 CSAIL 实验室研究人员提出“权重空间编程”方法,让大语言模型直接读取并修改另一个神经网络的权重,全程未使用梯度下降或传统训练循环。

实验中,OpenAI 的 GPT-6 Astra 分析了阿里云通义千问的 Qwen3.5-0.8B 模型,定位到其在回答数学题时反复生成相同内容的推理循环问题,随后修改第 15 层和第 19 层的 131072 个权重,仅占约 8 亿参数的 0.016%。

修改后,该模型在 MATH-500 数学基准成绩从 7.9%升至 48.1%,在 GSM8K 上从 13.8%升至 67.1%,指令遵循能力也提升约 3 倍。

对照实验显示,该方法对很少有推理循环的 Gemma 3 270M 提升有限,说明其能消除模型能力发挥的障碍,但难以凭空创造新能力,或为模型可解释性研究提供新思路。

推广DomoAI

评论

正在加载评论…