Fisher 信息新论文解释:为何 LLM 后训练参数更新如此稀疏
cephaloform · x · 2026-10-15
一篇新论文从 Fisher 信息视角解释后训练中参数更新稀疏的现象,横跨 RL、SFT 与 on-policy distillation。YouJiacheng 称其为「本月读过的最有趣的论文」,核心结论是:稀疏性来自 on-policy 采样。
- On-policy 采样:模型把概率质量放在参数敏感度相近的 token 上(如 "She drank a cup of" 后 tea 与 coffee 敏感度接近)
- 敏感度差异小 → token 级 Fisher 小 → 对角模型 Fisher 小
- 期望梯度被 Fisher 平方根约束,小 Fisher 意味着学习集中在稀疏参数子集上
- 论文将理论与 RL/SFT/on-policy 蒸馏的实证发现相连
所属事件:新论文以 Fisher 信息解释 LLM 后训练参数更新稀疏现象(2 条相关)→
「研究」频道最新
- Gil Kalai 提出数学「最离谱猜想」：稀疏集合的素数证明存在固有难度 — _onionesque · 2026-10-15
- 8.3 万职位随机实验：算法筛选普及后，人类招聘中介不再带来更多录用 — danielrock · 2026-10-15
- UCB 与阿里提出 RAESR:在冻结 DINOv3 潜空间做超分,512px 仅 37ms — RTP-LLM · 2026-10-15
- Stony Brook 推出 BigCell:首个吉像素级全切片病理图生成模型 — StonyBrook-CVLab · 2026-10-15
- NavGPT-3 首次让导航智能体达到人类水平:RxR-CE 成功率 90.43% — Metacognition-AI · 2026-10-15
- 字节 Seed 提出 Cortex:把上下文蒸馏为参数记忆,14B 模型保 88.9% 增益 — ByteDance-Seed · 2026-10-15