团队在 Qwen 上复现 Anthropic「教会 Claude 为什么」对齐方法并开源
austinc3301 · x · 2026-11-03
SecondLook xLab 团队（由 Anastasia 领导）复现并开源了 Anthropic「Teaching Claude Why」论文中的训练数据管线与对齐方法，并在 Qwen 2.5 32B/72B 基础模型上验证：
- 该方法通过让模型学习「AI 表现良好」的虚构故事和伦理困境建议来缓解 agentic misalignment
- 两种 mid-training 数据干预在 Qwen 上均开箱即用，效果成立
- 其中「困难建议」（difficult advice）数据的效果明显好于虚构故事
作者称这是 LLM mid-training 与泛化研究开放科学的一次推进，数据管线已全部开源。
「模型」频道最新
- GDPx 与 Epoch ECI 两套榜单高度一致，Spearman 相关达 0.983 — scaling01 · 2026-11-03
- TMax v1.1 发布:30B 以下开源终端 Agent 登顶 TB2 榜 — natolambert · 2026-11-03
- DeepSeek 超级代理提速 1.9 倍的代价：多烧 3.8 倍 token — AIFlow_ML · 2026-11-03
- 用户抱怨 Sol 6.1 变懒：反复跑无用测试、丢细节、零进展 — sloppenheimer · 2026-11-03
- 「Astra 可读写 Qwen 权重自改进」爆火 HN 后被指误导,两帖同屏登顶 — yoshiyama_akira · 2026-11-03
- LongCat-2.5 实测:同任务成本 0.28 美元,约为 Qwen3.8-Max 的三分之一 — omarsar0 · 2026-11-03