jon_mellon 质疑 RSI 紧急论:危险在加速而非失控
jon_mellon · x · 2026-09-21
jonmellon 在与 @binarybits、@davidshor、@chrislhayes 的讨论中阐述他对 AI 风险叙事的看法:
- 他反对的核心是那种「实验室即将实现 RSI(递归自我改进),进而导致超级智能并脱离人类控制,所以现在是紧急状态」的智识框架。
- 但他补充:即便不采纳 RSI 失控论,仅凭「即将以远超预期的速度获得并固化一种以难以预测的方式动摇社会稳定的技术」这一点,RSI 依然构成危险。
这是一场关于 doomer 与非 doomer 风险框架分歧的实质性观点交锋。
所属事件:X 上激辩 RSI 失控论与 AI 放缓:虚构概念还是几年之遥(14 条相关)→
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12