MIT 论文：随机扰动大模型权重也能提升任务表现，可匹敌 PPO

serrjoa · x · 2026-11-04

MIT 的 Yulu Gan 与 Phillip Isola 发布论文《Neural Thickets: Diverse Task Experts Are Dense Around Pretrained Weights》。核心发现：预训练产出不应被视为单个参数向量，而是一个参数分布——小模型中，任务专属专家解只占该分布体积的极小部分，必须靠梯度下降等结构化优化才能找到；而大规模充分预训练的模型中，任务专家在预训练权重邻域内的密度大幅提升，随机扰动权重就能显著改善下游任务，且这一性质随规模增强。作者据此提出一个极简、全并行的后训练方法：随机采样 N 个参数扰动，选 top K，用多数投票集成预测。该方法在当代大规模模型上可与 PPO、GRPO、ES 等标准后训练方法竞争。转发讨论中 isskoro 指出这说明「随机乱改 Qwen 权重也能变强」是规模化模型本身的性质，并核实了代码。