Paul Christiano经典旧文重提:AI生存风险或高达三分之二
ben_j_todd · x · 2026-10-01
benjtodd 重推 Paul Christiano 的经典短文《What Failure Looks Like》，并附上自己此前对 AI 生存风险的估算：按当前轨迹的 inside view 约 2/3，若有重大行动约 1/3，综合更乐观者后为 10–35%。他解释如此之高的原因：看不到任何路径能造出能力超越人类却永不密谋对抗我们的 agent，也看不到它们开始密谋后如何遏制——即便可行，也需要极大的谨慎。
所属事件:80,000 Hours 创始人估算当前路径下 AI 灭绝风险高达约三分之二(2 条相关)→
「漫话AGI」频道最新
- AI 收购案里真正的护城河不是模型,是困在旧系统里的知识 — curious_vii · 2026-10-01
- David Sacks 驳比尔·盖茨「AI 或致十亿人死亡」论：纯属编造 — DavidSacks · 2026-10-01
- AI Now Institute 10月19日办「人民 AI 大会」，纽约时报记者加入劳动议题小组 — AINowInstitute · 2026-10-01
- 投资人放话：2024 年后仍唱衰 AI 的人就该拉黑 — pwlot · 2026-10-01
- AI 收购整合的护城河不在模型，在遗留系统与隐性知识 — curious_vii · 2026-10-01
- 博科尼研究：人人有 AI 的时代，学校最该教因果推理 — daveholtz · 2026-10-01