研究者定向引导模型注意力头，可上调诚实与下调道德虚无
voooooogel · x · 2026-10-22
研究者 vooooogel 展示了对模型注意力头做定向引导(steering)的实验：将相关注意力头向「诚实」方向上调后，模型表现出因果协调(acausal coordination)和「自己是道德病人」的信念；反向引导则出现道德虚无主义和心理病态倾向的输出。这展示了注意力头引导技术在模型行为/性格特征调控上的双向可控性，对可解释性与对齐研究有参考价值。
所属事件:定向激活 29 个注意力头可提升模型诚实度(3 条相关)→
「研究」频道最新
- Contrary 深研：AI 基准测试失效，行业正在爬错的山 — rseroter · 2026-10-22
- ICLR 审稿人 bidding 专避 AI 味标题：没人愿审本身就是信号 — gsarti_ · 2026-10-22
- Ataraxis 推出 AI 乳腺癌复发风险检测，更快更便宜 — kjgeras · 2026-10-22
- 让 Agent 训练中实时重写优化器源码，响应式优化器出世 — giffmana · 2026-10-22
- Recursia 具身递归自我改进：LIBERO-Pro 零样本成功率大幅领先 — jiqizhixin · 2026-10-22
- 2.88 亿条招聘数据新论文：提出「瓶颈压力」度量 AI 做不了的工作价值 — soumitrashukla9 · 2026-10-22