EM 算法提速组合拳:EMA、余弦调度、自定义死簇复活全用上
chrisemoody · x · 2026-11-11
swannbessa 回应与 thomasahle 的差异时,列出他们为压榨性能而叠加的一整套优化组件:EMA 参数更新、步长的余弦调度、基于 scaling law 的超参选择、自定义的死簇 revival 机制,以及精细的初始化与收尾(finalization)处理。对复现或改进训练/聚类类运行有直接参考价值。
「研究」频道最新
- 斯坦福 DyCraft:智能体分步生成 4D 动态场景,降低物理错误 — StanfordUniversity · 2026-11-11
- Bert Chan 讲述从副业项目走进 ALife 研究院的非典型科研路 — BertChakovsky · 2026-11-11
- 6.2 万人 CGM 数据研究:平均血糖检出胰岛素抵抗优于糖化血红蛋白 — arjunrajlab · 2026-11-11
- 首个 AI 听写公开基准:761 条录音实测 10 款应用,Wispr Flow 79% 对 Apple 35% — rohanpaul_ai · 2026-11-11
- 研究者赴 MSK 癌症中心分享 Boltz 开源模型加速早期药物发现 — charlieharris01 · 2026-11-11
- 用 Lenia 生命体复刻吃豆人:Carlman 把细胞自动机玩成了游戏 — BertChakovsky · 2026-11-11