Q Labs 无反向传播预训练 Transformer：随机前向扰动估计更新，实测至2.43亿参数
jiqizhixin · x · 2026-11-07
Q Labs 在技术报告 Dust 中展示了在 FineWeb 数据上对 GPT 风格 Transformer 进行无反向传播（backward-free）预训练的新方法：用随机前向评估的 loss 变化来估计参数更新，并把进化搜索从模型权重空间搬到激活空间。
- 规模：已验证至 2.43 亿参数的模型，直接预训练预算达 2000 万 token。
- 机制：在每个线性层的输出端为每个 token 施加独立扰动，无需复制整个模型即可构建「虚拟种群」；loss 下降的扰动获得 credit，包括对后续 token 的适当加权影响；用奖励加权的噪声估计输出误差信号，再与层输入结合更新权重。
- 进化搜索：Dust 报告把进化搜索的对象从权重改为激活，一次性 draw 可达 1,448 个扰动样本。
- 权衡：更大种群能改善与梯度的对齐、提升训练质量，但计算开销显著增加；主要对比基于单独调优的 momentum SGD。
「研究」频道最新
- MIT 提出 VPO:向量化奖励替代 GRPO,提升 LLM 测试时搜索 — kastnerkyle · 2026-11-07
- Reflex 系统让人形机器人接住抛来的箱子且不倒 — DJiafei · 2026-11-07
- Hough 变换的几何直觉：散乱像素如何“投票”出一条直线 — techNmak · 2026-11-07
- 新研究：正则化会放大隐藏偏置迁移，后门反而怕正则 — teortaxesTex · 2026-11-07
- 伯克利团队推出 Social Humanoid,让 Unitree G1 学会社交互动 — berkeley_ai · 2026-11-07
- 一篇 Zenn 教程讲透四元数积:从 IMU 姿态更新到 SLERP 补间的五大应用场景 — 4310sy · 2026-11-07