Jon Barron：JAX、PyTorch 的 softmax 与交叉熵实现都藏着两个数值 bug
jon_barron · x · 2026-10-24
Google 研究员 Jon Barron 宣布新结果：现有所有 softmax 和交叉熵实现（包括 JAX、PyTorch 及教科书写法）都存在两个微妙的数值 bug，一个简单的重写即可修复，并能消除 grokking 过程中的「slingshot」突变现象。
所属事件:谷歌研究员称 JAX/PyTorch 的 Softmax 与交叉熵实现全有 bug(6 条相关)→
「研究」频道最新
- MIT 盲装配机器人：不用视觉与触觉，插销成功率 73% 零样本上真机 — chris_j_paxton · 2026-10-24
- RL 用于高可靠机器人操作：批评者称「RL 没用」，实践者用结果回击 — chris_j_paxton · 2026-10-24
- CREATE 基准未饱和：GPT-6.1-Sol 创造效用分升至 23.8 — gregd_nlp · 2026-10-24
- EMNLP 2026 公布主题演讲：Pascale Fung 谈世界模型 — mohitban47 · 2026-10-24
- EMNLP 2026 论文 HarmAmp：LLM 多轮对话如何放大危害，及主动干预监控器 TrajSafe — alan_ritter · 2026-10-24
- 追踪 2.7 万中国学生 30 个月：用 AI 写作业提分 18%，闭卷考试成绩反跌 20% — lmoroney · 2026-10-24