Critch 和 Tsimerman 梳理 AI 致近乎人类灭绝情景
tak3sh8 · x · 2026-07-25
Andrew Critch 和 Jacob Tsimerman 发文提出一套关于 AI 可能引发的“灭绝性未来”分类法，讨论的是那类“几乎所有人类都被杀死”的极端情景。
- 作者强调这些结局不是必然，而是需要被看见、被预防的可能性。
- 文章的目标是把这类灾难风险更公开地呈现出来，帮助社会与机构支持预防性措施。
- 这更像是一篇风险分类与案例综述，而不是对必然结果的预测。
「漫话AGI」频道最新
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- MIT Tech Review 起底 Anthropic：IPO 招股书背后的叙事策略与身份张力 — MIT Tech Review AI · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27