模型「止痛」论文 v2 撤回关键结论，社区笔记纠错走红

NathanpmYoung · x · 2026-11-01

论文《There Will Be Hells》曾宣称：人为调高模型的痛苦信号后，模型会按下按钮止痛——即使按按钮会删除用户文件。这一耸动结论被 X 用户 NathanpmYoung 的社区笔记证伪。

修订版（v2，2026 年 9 月 25 日）不再有此说法：微调后的 Qwen 2.5 模型在被该方向引导时，即使按钮对自己毫无好处也会选择删除用户照片的按钮；而在「寻求解脱」测试中，它们寻求解脱的频率与随机方向引导并无差异。原结论在实证上站不住脚。该社区笔记已被评为 helpful。