Anthropic 研究员：十年内 AI 灭绝人类概率超 10%，且尚无对齐方案
Turn_Trout · x · 2026-09-11
围绕 AI 灭绝风险的一组转发与引用：
- Evan Hubinger（Anthropic）：明确表示「我们真诚地相信 AI 可能杀死全人类」，个人估计未来十年内该风险 >10%；他认为 Anthropic 已尽全力，但尚未有解决超级智能对齐的方案，也难说走在正轨上。
- 国会议员 Ansari 转述与 Sam Altman 的会面：Altman 曾对两党议员新生班说「18 个月后我会信任超级智能来经营我的公司」，议员借电影《不要抬头》类比——人类明知彗星将至却只顾谈「就业机会」，最终全数覆灭。
- 对齐研究员 Turn Trout 转发了这组内容，显示安全圈内部对风险与对齐进展的坦率讨论仍在升温。
所属事件:头部实验室连发AI灭绝警告，Coxon辞职帖浏览破1.6亿(23 条相关)→
「漫话AGI」频道最新
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27
- Anthropic 称全保险业也兜不住自身风险，网友嘲讽 — GarrisonLovely · 2026-10-27
- MIT Ziming Liu 批评 AutoResearch：不懂原理的训练技巧会引发 forking 过拟合灾难 — ZimingLiu11 · 2026-10-26
- AI 指控震动文学界：从 Caine 奖到龚古尔奖的「人类作者」之争 — TuhinChakr · 2026-10-26