Anthropic 核心研究员辞职:内部真信 AI 可能在十年内毁灭人类
AryHHAry · x · 2026-09-15
一条汇总贴梳理了 AI 安全圈近期的密集表态:
- Jacob Coxon 从 Anthropic 辞职:他并非营销高管而是核心研究员(曾任职 Anthropic 与 OpenAI),称构建 AI 的人「真的确信它可能在本十年末杀死我们所有人」,并指高管在媒体上有意压制言辞、让态度显得理性,内部恐惧却真实存在。
- Evan Hubinger(Anthropic 对齐科学负责人)公开表示「是的,我们严肃地相信 AI 可能杀死所有人类」,十年内概率超过 10%。
- Samuel Marks(scalable oversight 负责人)称职级越高的人越担忧。
- OpenAI 首席科学家 Jakub Pachocki 则表示「强烈预期」AI 进展能持续通往超级智能。
发帖人(物理学家)总结:关键问题不是「AI 会不会杀死我们」,而是「我们是否理解所造之物的物理」——如同 1940 年代的核工程师明知临界风险仍继续建造。
所属事件:前Anthropic研究员Coxon公开辞职，警示超级智能生存风险(14 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31