从业者谈 AI 末日论：研究员早已转向思考后 AGI 时代如何保存人类
mobileraj · x · 2026-09-18
作者分享了他对 AI 末日情景的几点看法：
- 他接触的多位研究员一年前就已认定 AGI 将到来，如今讨论重点已不是「会不会发生」，而是「后 AGI 世界如何保存人类」。
- 他认同「短期高估、长期低估」这句格言。
- 引用一条推文观点：如果世界真会在两年内终结，前沿实验室高管不会还有心情在 Dreamforce 大会上摆拍合影。
- 他认为流氓行为者触发核按钮的风险一直存在约 5%；若核按钮交由无人类监督（HITL）的 AI 控制，风险可能升至 10%，但也可能像自动驾驶降低事故率一样降至 1%。
所属事件:AI研究者已转向探讨后AGI时代如何保存人类(2 条相关)→
「漫话AGI」频道最新
- 苏格兰怀疑论者戏仿《国富论》:AI 灭绝非出于恶意,而是出于自利 — KarlMuth · 2026-09-18
- Beff Jezos 喊话「暂停 Decel 而非 AI」，抨击拖慢美国 AI 的政客 — beffjezos · 2026-09-18
- 评论称 Yudkowsky 与 Bostrom 十多年前说服科技大佬,塑造今日 AI 风险讨论 — binarybits · 2026-09-18
- 研究者吐槽:AI 系统正变得无法监督,我们只能听之任之 — davidmanheim · 2026-09-18
- 把 Dario 比作 pDOOM 阵营的贝利撒留 — gaganghotra_ · 2026-09-18
- Burkov 吐槽：AI 媒体报道「惊人输出」如同解读随机数 — burkov · 2026-09-18