ISO:固定谱优化栈让375B MoE专家合并仅需数分钟
zdhnarsil · x · 2026-11-22
UT Austin 等机构的 ISO(RLVR 原生优化栈)论文引发关注。核心发现:RLVR 训练中权重矩阵的奇异值谱几乎保持不变,能力增长主要体现在奇异帧 (U, V) 上——恢复基础谱即可保留大部分习得能力。
由此构建的固定谱优化方法包括:
- ISO-Merger:无需额外数据、rollout、梯度或 on-policy 蒸馏,几分钟内即可合并共享底座的多个 RL 专家。该方法已被用于 K2-Horizon 在 375B MoE 规模上的 RL 专家合并。
- ISO-Optimizer:在 Qwen3-4B-Base 上,以 1.5× 更少的 actor 更新次数达到与 AdamW/Muon 相当的 RLVR 精度。
作者指出,对 RL 优化机制的一点简单洞察即可催生可规模化到超大 MoE 模型的实用方法。
「研究」频道最新
- MIT 研究:AI 编码让提交量暴涨 240%,实际发布仅增 30% — GaryMarcus · 2026-11-22
- 网友实验让 Krea2 跳过 VAE Decode 直接输出像素,单张 3090 过夜训练 — Remote_Net374 · 2026-11-22
- 『超级 AI 在 2026 证明黎曼猜想』刷屏,反衬黎曼 20 瓦大脑的传奇 — doodlestein · 2026-11-22
- 黎曼猜想被解之后,《科学美国人》旧封面预言「数学的终结」 — EricTopol · 2026-11-22
- 『别用某模型输出训练』无法执行:公开网络让数据禁令形同虚设 — anpaure · 2026-11-22
- 研究者回应"AI 解出黎曼假设无价值论":数学先行是对的 — JJitsev · 2026-11-22