稳定 RL 的关键技巧，不过是大二概率课的协方差公式
PMinervini · x · 2026-09-19
zainhas 分享了用「大二概率本科」知识稳定 RL 训练的技巧：核心恒等式 Cov(A,B) = E[AB] − E[A]E[B]，即 E[AB] = E[A]E[B] + Cov(A,B)。
转发的 hyhieu226 评论道：AI 领域大多数真正管用的技巧，本质上都不超过概率论本科二年级水平。一条有共鸣的行业观察：基础数学在 RL 稳定化中依然是最实用的工具。
所属事件:Together AI 提出 Score Centering，一个修正项稳住 off-policy RL(5 条相关)→
「研究」频道最新
- PixelBench：用逐像素生成取代 QA,重新测多模态模型 — bdsqlsz · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- OffsecCyber 数据集发布：整合 HackerOne 报告与 CVE 训练渗透测试 LLM — AccBalanced · 2026-11-04
- 研究：「单次事实」占比决定 LLM 科学发现能力 — CatAstro_Piyush · 2026-11-04
- 把 TPU 编译进 Qwen 权重：0.8B 模型跑出精确矩阵乘法 — CatAstro_Piyush · 2026-11-04
- Jev 模型提升 LLM 上下文学习示例检索，蒸馏 MLP 降开销 — kalyan_kpl · 2026-11-04