AI 安全圈热议 p(doom)：Hubinger 超 10%，FTC 主席称 15%
Miles_Brundage · x · 2026-09-10
围绕 OpenAI 对齐研究员 Evan Hubinger「p(doom) 超 10%」的言论引发的广泛关注，前 FTC 主席 Lina Khan 曾公开表示自己的 p(doom) 为 15%。Miles Brundage 转发了 Nathan Calvin 的相关讨论，认为这一片段值得在当前讨论中被重新审视。p(doom)（AI 导致人类灭绝的概率估计）正成为 AI 安全领域内外人士表达风险判断的通用语言。
「漫话AGI」频道最新
- 讽刺长文：抱怨AI耗水耗电的，正是建造这套系统的人 — round · 2026-09-10
- ctjlewis 讽刺安全派:「agent 上月失控了,结果啥事没有」 — ctjlewis · 2026-09-10
- 安全研究者：AI 未必灭绝人类，但可能毁掉互联网与文化 — round · 2026-09-10
- AI 安全研究者:超级智能致人类灭绝概率约 50%,关键在未来十年 — geoffreyirving · 2026-09-10
- 安全研究者 Jeff Ladish：实验室人才过度集中，呼吁分流到外部安全机构 — JeffLadish · 2026-09-10
- Reddit 网友断言:DeepSeek Engram 只是下次架构革命的半程 — SrijSriv211 · 2026-09-10