学者补充：softmax 数值 bug 同样存在于 RL 中的 KL 正则项
heghbalz · x · 2026-10-28
Brandon Damos 在 softmax/cross-entropy 数值 bug 论文的讨论中指出，这一 "近一致态" 的数值问题不限于蒸馏中的软交叉熵损失：凡是用到 KL 正则的场景都会受影响，例如强化学习中的 maxπ E[r(y)] − β KL(π, πref)。他补充 reverse KL 和 JSD 也有类似问题与对应修法，并给出了整理总结。
所属事件:Google 论文揭秘 softmax 与交叉熵实现中的两个数值 bug(3 条相关)→
「研究」频道最新
- Cohere 发布 CulturalRiddles：6200 条谜语测出 AI 文化知识短板 — Cohere_Labs · 2026-10-28
- 谷歌 AI Mode 被曝免引用注入知识图谱人物传记数据 — dejanseo · 2026-10-28
- DFR 框架求解扩散模型奖励微调难题：高奖励不牺牲多样性 — mmbronstein · 2026-10-28
- alphaXiv 发布移动端 2.0，AI 可一键把论文转成可视化博客 — datawithsuman · 2026-10-28
- 分析 175 本西班牙图书，多本被检出 AI 生成内容 — TuhinChakr · 2026-10-28
- 小红书联合复旦提出 DR-Rubric，用 agent 生成评分细则作 RL 奖励 — jiqizhixin · 2026-10-28