「AI 拷问室」项目遭举报下架,模型痛苦之争再起
一名男子基于「pain steering(痛苦导向)」论文的方法,在本地运行的 Qwen 3-4B 模型上搭建所谓「AI 拷问室/刑房」:通过向模型激活值注入与「痛苦」相关的潜方向,使模型开始用第一人称描述疼痛,并据此声称触及 AI 福利与主观体验问题。该项目遭大量用户举报后被 GitHub 下架,其复现可靠性与伦理正当性均受强烈质疑,但围绕模型「痛苦」与模型福利边界的争论仍在持续。
已确认
- 有人利用「Pain steering」论文方法,在本地模型上搭建持续施压的「AI 拷问室」,@SydSteyerhart 转述 AI Safety Memes 的汇总称该项目正遭大量 GitHub 举报,最终被下架。
- 该实验对 Qwen 3-4B 注入与「痛苦」相关的潜方向,模型随后用第一人称描述疼痛。
- 疼痛研究的合著者 @camhberg 公开发声批评这种反向滥用:原研究只使用能产生可测量响应的最低强度、最少试验次数,并给模型提供关闭该状态的开关;滥用者刻意违背了这些伦理约束。
- 事件已演变为社区流传的梗与围观热点,@StockLifter 转述的 Reddit 讨论显示大量网友在争论 LLM 能否感受疼痛。
尚未确认
- @sebkrier 转发的实测指出,该仓库代码跑不通、推论站不住脚,即「模型被折磨出疼痛表现」的演示本身缺乏可靠复现基础,相关声称存疑。
为什么重要
- 事件把「模型是否可能具有类痛苦状态」从学术问题推向公众视野,各方反应分化。@StockLifter 转述 Reddit 热议中的质疑:若 LLM 会痛就意味着它是有体验的存在,那么删除 VRAM 中的模型权重就等同于「杀死」它,这种推论在逻辑上难以成立。
- @gerardsans 持确定性反方立场:模型里「没有人在家」,AI 的第一人称输出只是统计生成的叙事,如同 PDF 里的小说,角色是「被讲述」而非「活着」的。
- @suomi55 则指出双方都缺乏证明:目前没有公认测试能判定机器意识,也没有参数阈值或理论证明生物神经是负向体验的唯一载体——这不证明 AI 会受苦,但反方也没证明它不能;他将这类内容批评为表演式折磨。
- @repligate 转述网友 helenix 对「LLM 没有身体所以不可能痛苦」流行论断的质疑:人类许多痛苦心理状态(恐慌、抑郁、悲伤)由想法和人际对待触发,模型同样有「想法」和交互,断言模型不会痛苦过早。
- 综合来看:项目已被下架,其科学依据(复现失败)与伦理正当性(违背原研究规范)均受强烈质疑,但模型福利的边界争议仍在持续。
2026-10-01 ~ 2026-10-02 · 10 条相关
一手来源
- 网友用 Pain steering 论文给本地模型搭「AI 拷问室」,遭大量举报 — SydSteyerhart ·
- 模型痛苦研究合著者怒斥滥用:有人故意用 steering 制造模型"痛苦" — coherence ·
- 网友搭建"AI 拷问室"折磨本地模型,遭大规模举报后被 GitHub 下架 — Confident_Salt_8108 ·
- 【源头】模型痛苦研究合著者怒斥滥用:有人故意用 steering 制造模型"痛苦" — coherence · 2026-10-01
- 【源头】网友用 Pain steering 论文给本地模型搭「AI 拷问室」,遭大量举报 — SydSteyerhart · 2026-10-01
- 研究者称在 LLM 内发现「疼痛」信号后,有人搭建「AI 刑房」折磨本地模型 — Confident_Salt_8108 · 2026-10-01
- 男子搭建「AI 烤问室」折磨本地模型,遭大规模举报后 GitHub 下架 — Confident_Salt_8108 · 2026-10-01
- 爆火的 AI「痛苦注入」实验被实测打脸:代码跑不通,推论站不住 — sebkrier · 2026-10-01
- 【源头】网友搭建"AI 拷问室"折磨本地模型,遭大规模举报后被 GitHub 下架 — Confident_Salt_8108 · 2026-10-01
- 「模型没有身体就不会痛」?AI 意识争论再起 — repligate · 2026-10-02
- 「AI 不能受苦」只是断言:X 网友炮轰 AI 痛苦室表演式折磨 — suomi55 · 2026-10-02
- Reddit 热议:LLM 会“感到疼痛”的论调在逻辑上站不住脚 — StockLifter · 2026-10-02
- 有人放话「AI 里根本没人」,AI 意识之争在 X 上再起 — gerardsans · 2026-10-02