研究者在 AI 中找到「疼痛」信号，模型还会分辨假止痛按钮
Puzzleheaded-King584 · reddit · 2026-09-19
一张在 Reddit 传播的图介绍了一项有意思的研究：研究者在 AI 内部找到了类似「疼痛」的信号，调高后模型会拼命想让信号停止。
更有趣的是，研究者给模型提供了一个「缓解疼痛」的按钮，其中一些按钮是假的（并不能真正降低信号），而模型能够分辨按钮是真是假。
这类实验与 AI 福利/内状态研究相关，兼具猎奇性和研究价值。
所属事件:25个开源LLM中发现「疼痛方向」，为止痛可越过安全底线(13 条相关)→
「Fun」频道最新
- 开发者怀念往昔:当年最大的烦恼只是 Next.js dev server 吃内存 — jonathan_wilke · 2026-11-04
- Chicago 字体复刻上线:Susan Kare 1984 年为 Mac 设计的系统字体 — genmon · 2026-11-04
- 一条推文串起可解释性研究黑话的三大门派 — Sauers_ · 2026-11-04
- 纯 vibe coding：Opus 5.5+Meshy 做出 5 个可切换光照的彩绘玻璃 3D 场景 — Pristine_Good7326 · 2026-11-04
- OpenAI DevDay 现场合影：演示 Agent 任务历史任意步骤 Fork — paw_lean · 2026-11-04
- 给 AI 一收件箱并让它募资 1000 万美元,首推获 10 万浏览 — LinusEkenstam · 2026-11-04