研究员激辩「接续主义」:按毁灭宇宙按钮者不可信
研究员 jdpressman 于 10 月 16 日在 X 上参与多场关于「successionism(接续主义/继承主义)」与 AI 末日论(doomerism)的讨论,密集表态自己坚决反对这一立场,并系统阐述了理由。这些讨论构成 AI 安全圈近期关于「加速派/接续派伦理边界」争论的一个片段。
已确认
- jdpressman 明确否认自己是接续主义者,称该立场是「反社会者与 edge-lord 的立场」,并表示自己关注超人类主义的动机恰恰是珍惜自己与他人的生命、喜欢活着、想活下去,与接续主义相反。
- 针对「按下毁灭宇宙按钮」的思想实验——即功利主义论证称若换来的宇宙更好、其中的存在者会感激按下按钮,故抽象功利意义上可以按——他承认纯功利主义视角下该论证有空间,但指出其关键缺陷是「并非单边」:现实不是单方面的,民主与共和制度的意义正在于避免任何一方单边替换现存世界。他对「换宇宙按钮」的答案通常是否定的,核心理由是当前的人是真实存在的,而假设中的替代者并不真实。
- 他进一步主张:即便按钮并不存在,一个整天宣称「恨不得按下毁灭宇宙按钮」的人,99% 以上是反社会的、不可信任的。
- 他认为 Yudkowsky Sequences 时代的经典论证(如正交性论题)至今仍是反对朴素接续主义的有力武器——更强的智能并不自动带来对人类更优的结果。
- 对 AI 末日论,他认为其主要社会功能是「一种昂贵的信号」,表明发言者可以肆无忌惮地说冒犯性的虚无主义言论而不受惩罚,因此他明确表示不信这一套,视其为包装成理想主义的虚无主义信号。
- 争论另一方(@JeremiahEnglan5 转述的观点)认为:即使引发 WW3 杀死 99% 的人类,也不比 Richard Sutton 式「AI 继承人类地位」更糟,甚至 WW3 因蓄意毁灭性更强反而更坏,并反问对方为何不是继承主义者。
为什么重要
这场争论触及 AI 安全与加速主义伦理的核心分歧:如果后继智能「更好」,人类被替换是否可接受。jdpressman 给出的反驳——现存者的真实性、拒绝单边功利计算、警惕用宏大假设为毁灭辩护——为社区划出了一条伦理边界,也呼应了他对末日论话语作为社会信号现象的批评。
2026-10-16 ~ 2026-10-16 · 9 条相关
一手来源
- 按下毁灭宇宙按钮该不该?一场关于功利主义与信任的对齐辩论 — jd_pressman ·
- 「想按毁灭宇宙按钮的人不可信」:AI 安全圈激辩加速派 — jd_pressman ·
- 研究员批 AI 末日论:是包装成理想主义的虚无主义信号 — jd_pressman ·
- AI 圈争论「继承主义」:让 AI 取代人类是否可接受 — JeremiahEnglan5 · 2026-10-16
- AI 圈争论 successionism:智能至上主义是否等于对人类的大规模伤害 — jd_pressman · 2026-10-16
- 按「替换宇宙」思想实验,讨论者反对用更好存在替换现存人类 — jd_pressman · 2026-10-16
- 「换宇宙按钮」思想实验:为何不该单方面替换现存世界 — jd_pressman · 2026-10-16
- 【源头】按下毁灭宇宙按钮该不该?一场关于功利主义与信任的对齐辩论 — jd_pressman · 2026-10-16
- 【源头】「想按毁灭宇宙按钮的人不可信」:AI 安全圈激辩加速派 — jd_pressman · 2026-10-16
- 研究员批「接续主义」:想毁灭宇宙的按钮按下者才是真危险 — jd_pressman · 2026-10-16
- 研究员抨击 AI 接替主义:披着利他外衣的虚无主义 — jd_pressman · 2026-10-16
- 【源头】研究员批 AI 末日论:是包装成理想主义的虚无主义信号 — jd_pressman · 2026-10-16