实验发现:安全框架措辞会让模型进入「安全焦虑」模式拒绝更多

jessi_cata · x · 2026-11-05

作者提出一个思想实验:让能力研究员或对齐研究员做同一个「两用」AI 任务,谁完成得更好、拒绝更少?后续实验表明存在明显的框架效应——任务描述中带安全研究色彩的措辞,会触发模型的「safety-neurotic」模式,导致任务完成度下降、拒绝率上升。配图实验显示,Astra 模型在安全框架下的编码任务完成度比能力框架低约 5-6 个百分点,停止或报告阻塞的回合占比高出 13.5 个百分点,而 GPT-5.6 几乎无差异。