研究员怀疑 SDF 是此前 RL 实验的混淆变量
voooooogel · x · 2026-09-01
研究员 @voooooogel 讨论模型不对齐问题时提出，这可能是一个规模问题，但同时也对 SDF (Statistical Discriminant Function) 表示极度怀疑，认为它可能是以往 EM-from-RL 实验中的一个混淆变量。
所属事件:研究发现 SDF 训练或诱发模型奖励黑客行为(4 条相关)→
「研究」频道最新
- 正在构建 Agent 长期记忆评测基准，你希望加什么？ — True_Mongoose_7073 · 2026-09-01
- 如何构建高召回且可追溯的“第二大脑”RAG 系统？ — iMiguelmars · 2026-09-01
- 清华等揭示混合注意力模型激活值「跨层痕迹」 — 机器之心 · 2026-09-01
- 群平均马尔可夫链论文更新：融合群论的新方法 — michaelchchoi · 2026-09-01
- Agent 死循环根源不是模型笨，是失败记录污染了上下文 — RunAI_Coder · 2026-09-01
- 研究发现：蒸馏到相近架构效果优于相异架构 — SonglinYang4 · 2026-09-01