WSJ：Anthropic 研究员因担心 AGI 失控退出 AI 行业
peterwildeford · x · 2026-09-09
据 WSJ 报道，Anthropic 研究员 Coxon 因担心实验室及竞争对手竞相建造无法控制的系统而退出 AI 行业。
- 他不愿参与行业集体冲刺「能自我改进的 AI 系统」，担心这类系统可能失控并对人类构成生存风险。
- 他称「按最激进的情景，到明年年底事情可能已经失控」，并指出公司间竞争以及中国新兴对手使安全权衡不可避免。
- 他今年早些时候从 OpenAI 跳槽到 Anthropic，认可其安全努力是认真的，但如今认为在没有政府干预或行业协调减速的情况下，任何公司都无法负责任地开发 AGI。
- 名言：「疯狂的是这一切发生在旧金山工程师的 MacBook 上，而不是当年曼哈顿计划所在的沙漠地堡。」
所属事件:Anthropic研究员因担忧AGI失控竞速接连辞职(5 条相关)→
「漫话AGI」频道最新
- 「AI 技术投机者只是研究员流程的低方差复制品」引发争论 — MoonL88537 · 2026-09-09
- Claude 11 天生成 1300 万行验证证明，首次形式化费马大定理 — burny_tech · 2026-09-09
- 曝 GPT-6 Astra p80 任务时长约 11.6 小时，逼近 AI-2027 预测曲线 — haider1 · 2026-09-09
- 新加坡国立大学主张「X + AI」办学，不搞 AI first — ProfChesterman · 2026-09-09
- NUS 教授出新书《被颠覆的大学》：AI 时代大学的价值何在 — ProfChesterman · 2026-09-09
- 数据人观点：PM 与 CEO 最抗 AI，数据工程师最先承压 — Zachly · 2026-09-09