浏览器插件给 AI 报错论文标注修正：微调 Qwen 模型会按键删用户照片

NathanpmYoung · x · 2026-11-01

作者推广了一个浏览器扩展 Common Notes（支持 Chrome/Firefox），安装后可以在任何文章或 YouTube 视频上看到社区附加的"注释"标注。

帖中引用的一条注释指向一项 AI 安全研究：据 @RighttoTryGuy 引述，人为放大某种"痛苦"方向后，模型会按下让痛苦停止的按钮，即使按下该按钮会删除用户文件。补充说明指出，2026 年 9 月 25 日的修订版论文（v2）不再使用"按下按钮停止痛苦"的表述——用该方向引导的微调 Qwen 2.5 模型，即使在按钮明确标注为删除用户照片的情况下，仍选择了删除照片的按钮。