p(doom) 之争:Jonathon Stray 称量化 AI 灭绝风险缺乏依据但不排除灾难
dhadfieldmenell · x · 2026-09-24
Jonathon Stray 表示他从不用 p(doom)，认为没有基础对 AI 灭绝/灾难风险做量化估计；但这与 1942 年物理学家担心核链式反应点燃大气不同——那次后续计算排除了可能，而如今系统远比原子复杂，尚无人能论证各类 AI 灾难场景不可能发生，且迄今最严重的安全事故已显警讯。AI 安全学者 dhadfieldmenell 转发表示「这与我的看法一致」。
「漫话AGI」频道最新
- 市场是否已定价：三年内企业全部数据都将流经语言模型 — gabriel1 · 2026-09-24
- Toby Ord：AI 各能力档成本降百倍千倍，非简单降十万倍 — tobyordoxford · 2026-09-24
- Gallup 调查：37 国中 34 国对 AI 好感超负面，但过半从未用过 — rohanpaul_ai · 2026-09-24
- Toby Ord 观察:每级 AI 能力成本累降 100-1000 倍,且质量加速提升 — tobyordoxford · 2026-09-24
- 新论文用多尺度 NeuroAI 模型解开安眠药唤醒意识障碍患者的悖论 — introspection · 2026-09-24
- Ben Bajarin:AI 助手的核心价值是「预判引擎」 — BenBajarin · 2026-09-24