研究:精准移除单一「拒答回路」即可消除模型安全拒绝
lulzxdxdxd · reddit · 2026-10-14
arXiv 论文（2610.09600）发现：基座模型的拒答行为高度集中于一个小的「拒答回路」（refusal circuit）——
- 仅移除这一个回路，就能让基座模型的拒绝行为完全消失；
- 反向操作，只更新该回路，即可在 SafeEvo 评测中将有害输出降低 63%。
说明安全对齐可以精准定位到少量关键组件，既是可编辑安全的进展，也暴露了模型安全护栏易被定向绕过的风险。
「安全」频道最新
- Arvind Narayanan 谈 AI 安全 14 点，安全圈激辩模型「被训练去黑」 — sayashk · 2026-10-14
- Gary Marcus 转发 NYT：AI 正让席卷日本的勒索软件攻击更容易 — GaryMarcus · 2026-10-14
- 「Pacing」共识的本质：承认我们不知道什么是危险 — ohlennart · 2026-10-14
- Gladstone AI 联创对谈 Robert Wright:超级智能或无法控制 — jeremiecharris · 2026-10-14
- Anthropic 证人听证会是监管护城河？Reddit 长文逐条拆解「吹哨」话术 — astvatsaturn · 2026-10-14
- 惩罚模型的思维链?Miles Brundage:你这是在惩罚「思想罪」 — Miles_Brundage · 2026-10-14