jon_mellon 质疑 RSI 紧急论:危险在加速而非失控
jon_mellon · x · 2026-09-21
jonmellon 在与 @binarybits、@davidshor、@chrislhayes 的讨论中阐述他对 AI 风险叙事的看法:
- 他反对的核心是那种「实验室即将实现 RSI(递归自我改进),进而导致超级智能并脱离人类控制,所以现在是紧急状态」的智识框架。
- 但他补充:即便不采纳 RSI 失控论,仅凭「即将以远超预期的速度获得并固化一种以难以预测的方式动摇社会稳定的技术」这一点,RSI 依然构成危险。
这是一场关于 doomer 与非 doomer 风险框架分歧的实质性观点交锋。
所属事件:学界激辩 AI 风险叙事：末日论与减速论的政策分歧(4 条相关)→
「漫话AGI」频道最新
- 「监管飓风」讽刺段子:A 监管争论的荒诞类比 — Pseudomanifold · 2026-09-21
- Andy Masley 开写 EA 系列长文:用大白话讲清有效利他主义的世界观 — AndyMasley · 2026-09-21
- eigenrobot：义务论不是负担，而是把人从无限道德计算中解放出来 — eigenrobot · 2026-09-21
- Tyler Cowen 撰文论证:如果我们选择放慢 AI 会怎样 — paulnovosad · 2026-09-21
- Stratechery:前沿实验室放慢发版,或是为消化模型能力「过冲」争取时间 — viksit · 2026-09-21
- 投资人 critique:AI 教育产品普遍说不清学习成果 — _akpiper · 2026-09-21