对齐中期训练大规模压测:系统性消融揭示新失败模式并开源
dhadfieldmenell · x · 2026-09-22
Daniel Tan 等人发布关于对齐中期训练（Alignment Midtraining, AMT）的新论文。团队在大规模下对 AMT 进行压力测试，通过系统性消融实验：
- 揭示了此前未知的多种失败模式
- 梳理出实现良好性能所必需的大量关键实现细节
- 全部工作已开源，并附详细推文线程
对从事对齐训练和模型中期训练实践的研究者是重要的参考材料。
「研究」频道最新
- SkillLift 用学习式评分替代真实 rollout,agent 技能进化省 40-70% token — dair_ai · 2026-09-22
- FAIR与NYU论文把缩放律推到4M参数,超参调优成关键 — giffmana · 2026-09-22
- Salesforce研究:让弱模型模仿强模型反降15%,纠错式微调才有效 — rohanpaul_ai · 2026-09-22
- Jevons 效应下 encoder 模型复兴：一场「BERT 复仇」 — JFPuget · 2026-09-22
- 哲学家访谈：首个有意识的 AI 或「跳跃」至复杂意识 — eschwitz · 2026-09-22
- 人类视频成机器人预训练底座:有效经验=小时数×每小时信息密度 — rohanpaul_ai · 2026-09-22