剑桥哥本哈根论文:LLM 价值观训练会波及其他价值观
IAugenstein · x · 2026-11-18
哥本哈根大学与剑桥大学研究者(Siddhesh Pawar、Chen Cecilia Liu、Anna Korhonen、Isabelle Augenstein)发布论文 《Unintended Side Effects of Value Training in LLMs》。
- 现状:将 LLM 与人类价值观对齐已是常见后训练目标,但价值观之间是相互关联的
- 问题:现有工作只检查目标价值观是否移动,不检查训练还改变了什么
- 论文系统性考察价值训练对非目标价值观的意外副作用
这为对齐研究补上了「训练一把价值观、其他价值观跟着漂移」的测量视角。
「研究」频道最新
- 「基准黑客」疑云:实验室自报 SWE-bench 分数平均高于独立复现 4-5 分 — RexDouglass · 2026-11-18
- NeurIPS 新论文:LLM 评测管道的隐性测量误差扭曲基准结果,数据越多越糟 — RexDouglass · 2026-11-18
- MLCB 与 MLSB 合并为一,首个 MLBio 大会 2027 年举办 — anshulkundaje · 2026-11-18
- bf16 会破坏 VLA 微调:本月最有趣的机器人论文之一 — m_wulfmeier · 2026-11-18
- 欧洲启动 ELAI 虚拟前沿 AI 研究院,覆盖 17 国 33 家机构 — IAugenstein · 2026-11-18
- 研究:前沿模型愿指挥无人机攻击,平民救护车也标记为目标 — scaling01 · 2026-11-18