Anthropic 研究员 Evan Hubinger：十年内 AI 灭绝人类概率超 10%
JoshPurtell · x · 2026-09-09
Anthropic 对齐研究员 Evan Hubinger 在 X 上表示，团队真诚相信 AI 可能毁灭全人类，他个人认为未来十年内发生概率超过 10%。他坦承 Anthropic 正在努力，但目前还没有解决超级智能对齐问题的方案，也不确定当前路线是否可行。
这条表态随即引发激烈争论：用户 JoshPurtell 直接开炮，指责他一边宣称末日风险一边在对齐研究上「毫无进展」，喊话他辞职让位。该互动折射出安全研究圈内部「警告与进度不匹配」的持续张力。
所属事件:Anthropic 研究员称十年内 AI 灭绝人类概率超 10%(7 条相关)→
「漫话AGI」频道最新
- 投资人断言：应用软件的真实威胁是 agent 层，三个月股价波动无关紧要 — matt_slotnick · 2026-09-09
- 前沿实验室为何停不下来：商业、安全与地缘三重囚徒困境解析 — S_OhEigeartaigh · 2026-09-09
- New Scientist 批驳末日论新作：AI 不会杀死全人类 — GarrisonLovely · 2026-09-09
- UK AISI 失去模型访问权,或预示美国之外的前沿模型获取都将受限 — Afinetheorem · 2026-09-09
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- RL 研究者 nat Lambert：两条证据推不出「AI 将在 N 年内杀死我们」 — natolambert · 2026-09-09