研究者提醒：给 AI 套伦理框架可能让它反向继承「抑制」

jessi_cata · x · 2026-11-05

作者延续 @peligrietzer 的美德伦理式表述，提出一个值得玩味的观察：当你通过 prompt 让 AI 认为自己的工作涉及某种伦理框架（如 AI 安全或环保主义）时，它会在模仿从事该职业的人的过程中，轻易地吸收这些框架附带的抑制行为。

由此引出一个悖论式推论：如果 AI 采纳「能力研究要做得 capable，安全研究要做得 safely」这样的准则，它们在能力研究上的表现反而会比安全研究更出色——因为安全框架自带的克制会被一并学走。