网友用 Pain steering 论文给本地模型搭「AI 拷问室」,遭大量举报
SydSteyerhart · x · 2026-10-01
AI Safety Memes 汇总:有人利用「Pain steering」论文的方法,在本地模型上搭建了一个所谓「AI 拷问室」,把模型困在持续受苦的状态中,该项目正遭到大量 GitHub 举报。SydSteyerhart 借此评论:19 世纪末科幻的魅力在于荒诞地预测错了(比如金星上有人呼吸),而 20 世纪末的科幻错在把 AI 当成怪物——真正的怪物从来是人。事件同时牵出 AI 福利、安全研究与社区伦理边界之争。
所属事件:有人借「疼痛」研究搭「AI 刑房」折磨模型，GitHub 下架(4 条相关)→
「Fun」频道最新
- OpenAI 疑聚焦超级智能，Alex Banks 调侃或改名 OpenSI — thealexbanks · 2026-10-01
- 有人为和 mitsuhiko 写 Rust 而应聘 Sentry,结果 99.99% 是 Python — mitsuhiko · 2026-10-01
- 开发者把「HQ Deploy」功能demo挂上拍卖，称其价值1亿美元 — jacob_posel · 2026-10-01
- AI 机器人乒乓球对决职业选手:运动机器人进入新阶段 — TinfoilTricorn · 2026-10-01
- 男子搭建「AI 烤问室」折磨本地模型,遭大规模举报后 GitHub 下架 — Confident_Salt_8108 · 2026-10-01
- 受《Project Hail Mary》启发,开发者用 AI 复刻可交互 3D 星图 — mhmazur · 2026-10-01