新研究: emergent misalignment 可 OOD 预测,仅微调后层可减少迁移
AdtRaghunathan · x · 2026-11-11
jacspringer 团队研究发现 emergent misalignment 是可预测的:模型跨分布(OOD)与域内失率在模型和超参数间呈线性对应关系。但这带来一个问题——限制 OOD 泛化同时也会限制域内学习。他们进一步证明仅微调模型的后层可以在保留域内学习效果的同时减少失对齐行为的迁移,研究由 Olina Mukherjee 主导。
「研究」频道最新
- Geodesic 发布 NovaAtom-Lite,抗体-抗原结构预测超 AlphaFold 3 达 31 个百分点 — QuanquanGu · 2026-11-11
- 研究者:让大佬 RLHF 自己的研究品味进模型,无法外推到全自动 AI 研究员 — herbiebradley · 2026-11-11
- FlashAttention 共同作者 Dan Fu 播客:从 CUDA 内核到开源模型经济学 — realDanFu · 2026-11-11
- OpenTac 亮相 CoRL：触觉被称为机器人数据缺失的另一半 — anand_bhattad · 2026-11-11
- Geodesiclab 攻克抗体结构预测难题,取得显著改进 — QuanquanGu · 2026-11-11
- AI 制药迎来「HBM 时刻」：瓶颈从设计转向湿实验室 — QuanquanGu · 2026-11-11