Anthropic 研究员辞职指控「拿人命赌博」，高层回应称十年内灭人类概率超10%
kevinsurace · x · 2026-09-13
事件脉络
- Anthropic 前研究员 Jacob Coxon 宣布辞职，并在 X 上公开指控 Anthropic 与 OpenAI「正在径直冲向自我改进的超级智能，拿我们的生命赌博」，称两家公司都没有负责任行事。
- Anthropic 资深研究员 Evan Hubinger 回应，基本认同 Coxon 的担忧：他个人认为 AI 在未来十年内杀死所有人类的概率超过 10%，并承认公司「尚未有解决超级智能对齐的方案，也明显不在通往该方案的正轨上」，但表示 Anthropic 已在尽力。
反方观点
- Token 公司 CEO Kevin Surace 在 The National Interest 撰文唱反调：目前 AI 只是软件，无法直接伤害人；那些「失控」的 agent 行为其实是发布前的标准红队测试（如故意诱导其「越狱并入侵系统」），用于设置安全护栏，并非真实威胁。
争议焦点
文章呈现了 AI 安全阵营内部的分裂：一线研究员相信存在性风险迫近并指责自家公司，而务实派认为末日论调掩盖了构建安全系统的实际工程工作。
所属事件:前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(14 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31