Critch 和 Tsimerman 梳理 AI 致近乎人类灭绝情景
tak3sh8 · x · 2026-07-25
Andrew Critch 和 Jacob Tsimerman 发文提出一套关于 AI 可能引发的“灭绝性未来”分类法，讨论的是那类“几乎所有人类都被杀死”的极端情景。
- 作者强调这些结局不是必然，而是需要被看见、被预防的可能性。
- 文章的目标是把这类灾难风险更公开地呈现出来，帮助社会与机构支持预防性措施。
- 这更像是一篇风险分类与案例综述，而不是对必然结果的预测。
「漫话AGI」频道最新
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AlphaFold 前车之鉴：AI 解数学题后，数学家会变少吗 — kiki-le-koala · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11