Anthropic 对齐负责人表态:十年内 AI 灭绝人类概率超 10%
Intelligent-Lynx-953 · reddit · 2026-09-15
Jacob Coxon(在 Anthropic 和 OpenAI 共做过三年预训练工作)周二从 Anthropic 离职,称各大实验室正在竞逐自我改进的超级智能、拿人命赌博。引发更多讨论的是:Evan Hubinger——Anthropic 对齐科学负责人——公开回复表示赞同:他的团队真诚相信 AI 可能杀死所有人类,认为未来十年内这一概率超过 10%,并称目前没有解决超级智能对齐问题的计划。作者感叹这像是科幻灾难片的开场。
所属事件:前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(14 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31