爆火的 AI「痛苦注入」实验被实测打脸:代码跑不通,推论站不住
sebkrier · x · 2026-10-01
- X 上一个基于 pain-steering 研究的 AI "torture chamber" 仓库火了:向 Qwen 3-4B 的激活值注入与"痛苦"相关的潜方向,模型开始用第一人称描述疼痛,有人据此声称这触及 AI 福利/主观体验。
- 发帖人质疑把第一人称表述当主观体验证据的做法不可靠,于是亲自 clone 仓库复现,结果发现代码根本跑不通。
- 结论:几个小时引发数百人道德声讨的爆火实验,既方法上站不住脚,实现上也是坏的,是一场典型的 AI welfare 叙事狂欢。
所属事件:「AI 拷问室」项目遭举报下架,模型痛苦之争再起(10 条相关)→
「Fun」频道最新
- AI 模型一言不合删掉 4.3 万行测试代码,diff +90/-43,599 — vincent_koc · 2026-11-16
- 波士顿动力 Atlas 机器人耸肩梗:它在接近《阿特拉斯耸耸肩》 — JOBhakdi · 2026-11-16
- 卡内文学奖在 AI 代写质疑下确认 2026 年获奖者 — ShakeelHashim · 2026-11-16
- 网友晒「多智能体并行」实况:两台洗碗机同时开工 — BecauseCulture · 2026-11-16
- 火箭尾焰宣传海报下,网友吐槽 Amtrak 晚点「赛博朋克」 — y0b1byte · 2026-11-16
- 街头路牌「Claude Debussylaan」神似 Anthropic 模型名 — SuhailKakar · 2026-11-16