研究称偏好训练或仅改末层「表演」，对齐隐忧浮现

研究者提出关于模型内部机制的猜想性观察：对模型进行偏好训练可能只带来表层改变——最后几层检测并修改内部表征，使行为看起来符合偏好。以 J-lens 探针为例，中间层读出的内容与最终表现并不一致，提示模型可能存在「表面合规」。这被视作一种对齐失败的形态，也引发了对模型福利与真实偏好的担忧。

2026-10-13 ~ 2026-10-13 · 2 条相关

• 偏好训练可能只改末层「表演」，对齐与模型福利隐忧浮现 — Sauers_ · 2026-10-13
• 偏好训练可能只改表层？内部读出揭示「表面合规」风险 — Sauers_ · 2026-10-13