rosinality 修复 softmax 数值精度问题,Lucas Beyer 点赞
giffmana · x · 2026-10-23
前 Google 研究员 Lucas Beyer（giffmana）转发推荐 rosinality 的工作：修复 softmax 中的数值精度问题。softmax 在极端输入下容易出现上溢或 NaN，这类底层实现细节的修复对训练与推理稳定性有实际价值，属于值得关注的开源工程修复。
「研究」频道最新
- 老方法翻新:ICA 解释 LLM 激活可比肩 SAE,内存省 7–43 倍 — patrickmineault · 2026-10-23
- 数学证明「蜂群心智」:盲目模仿等价于单智能体多臂老虎机 RL — mistlab · 2026-10-23
- MolmoBOT 用 170 万条仿真轨迹实现零真实数据机器人抓放 — chris_j_paxton · 2026-10-23
- 东北大学团队发布数字氢平台:汇集 4,000 余篇论文、3 万条数据 — BenBlaiszik · 2026-10-23
- Ropedia 发布 DONIC:单一策略操控双手机器人,免微调泛化新物体 — liuziwei7 · 2026-10-23
- 腾讯开源 WeVisOne-VL:一个模型统一检测分割抠图 OCR — _akhaliq · 2026-10-23