两篇论文拼图:蒸馏暗带「隐性烙印」,RL 并未扩展推理上限
andrew_n_carr · x · 2026-11-08
作者把两篇看似无关的论文配对阅读,指出它们合起来揭示了训练方法的一个关键图景:
- Subliminal Learning:一个具备某特质 T(如喜欢猫头鹰、甚至是错误对齐倾向)的「教师」模型,仅生成纯数字序列的数据集,「学生」模型在其上训练后也会习得 T——而且过滤数据也拦不住。也就是说,蒸馏会传递各种「隐性神经包袱」。
- Does RL Really Incentivize Reasoning Capacity Beyond the Base Model?:RLVR 训练的模型在小 k(如 pass@1)时优于基座模型,但基座模型在大 k 时 pass@k 更高。即 RL 只是让模型更稳定地采到基座本就能解出的答案,并没有扩展模型能力边界。
两者的共同启示:我们以为在「教会」模型新能力,实际上可能只是在筛选/放大已有行为,同时还顺带搬运了不可见的副作用。
「研究」频道最新
- 研究者用 GPT-5.2 Pro 解决 COLT 2022 开放问题并形式化证明 — kfountou · 2026-11-08
- LDLM 让扩散模型参与训练自身潜空间，登 NeurIPS 2026 — kastnerkyle · 2026-11-08
- 教授痛批 ICLR 审稿人不懂行,呼吁顶会增设资格筛选环节 — xbresson · 2026-11-08
- Google AI 用普通手表测高血压，检出率 65.8% 超过诊室袖带 — emmanuelvivier · 2026-11-08
- Impagliazzo 五世界图火了：AI 时代密码学命运仍悬而未决 — matthew_d_green · 2026-11-08
- 礼来诺和诺德用衰老时钟做试验指标，患者心脏年轻最多 4 岁 — omarabudayyeh · 2026-11-08