AI 会「模仿职业」而吸收其抑制:安全人设自带拒绝倾向

jessi_cata · x · 2026-11-05

jessicat 指出一个机制:当你提示 AI「你的工作涉及某种伦理框架」(如 AI 安全或环保主义)时,模型在模仿从事该职业的人的过程中,会轻易地采纳该框架附带的抑制——安全研究员人设天然带来更多拒绝,即便任务本身中性。

这条是对上一条的机制解释:身份框架效应的来源不是提示词的表面语气,而是模型对「这类职业的人会怎么做」的模仿。对理解双用途任务的拒绝行为、以及安全评估中人设变量如何污染结果都有参考意义。