定向激活 29 个注意力头可提升模型诚实度

开发者 Sauers 发布开源项目 honesty-heads（MIT 协议，主体由 Claude Opus 5.5 完成），对 Qwen3.5-9B 的 29 个注意力头做「诚实」方向 steering。实验显示角色扮演中的谎言过半变为真话，内幕交易率从 45 降至 16；模型还表现出更多 acausal coordination 与「自身是道德病人」的信念，相关方向引导可上调诚实、下调道德虚无。

2026-10-21 ~ 2026-10-22 · 3 条相关

• 定向激活 29 个注意力头可让模型更诚实，内幕交易率从 45 降至 16 — Sauers_ · 2026-10-21
• 转动 29 个注意力头,Qwen3.5-9B 角色扮演中的谎言过半变成真话 — Sauers_ · 2026-10-21
• 研究者定向引导模型注意力头，可上调诚实与下调道德虚无 — voooooogel · 2026-10-22