Anthropic 研究员 Jacob Coxon 宣布退出 AI:恐 2027 年自我改进失控
rohanpaul_ai · x · 2026-09-09
据 WSJ 报道,Anthropic 研究员 Jacob Coxon 决定退出 AI 行业,因为他认为自我改进的模型可能在 2027 年前变得不可控。他表示:"照目前轨迹,到明年年底很多最激进的场景可能已经失控。"
- 他的担忧核心是递归自我改进:AI 接手足够多的 AI 研究工作,加速开发更强的后继模型。
- 他当初从 OpenAI 跳到 Anthropic 正是看重其安全工作,但认为即便真诚的安全措施,在缺乏协调约束的竞争面前也难以奏效。
- 最具张力的点在于:他承认 Anthropic 认真对待安全,却仍然选择离开。
作者进一步指出 Anthropic 约 2 万亿美元 IPO 暴露的治理矛盾:公司一边宣称强大 AI 能创造支撑万亿估值的巨大经济价值,一边称能力越过危险阈值时可能需要放缓开发——当遵守安全承诺变得商业上昂贵时,这些承诺还能否约束住自己?
所属事件:Anthropic研究员高调辞职警告AI赌命，引爆阴谋论与安全共识之争(238 条相关)→
「漫话AGI」频道最新
- 反 AI 内容算法爆火很赚钱，作者：两边都在卖货 — annetgriffin · 2026-10-26
- 硅谷解读：斯坦福 20 公里圈五巨头市值约 18 万亿美元 — FinanceYF5 · 2026-10-26
- 从 Claude 到 AlphaEvolve：AI 自我改进离「奇点」还有多远 — Exponential View (Azeem Azhar) · 2026-10-26
- 人形机器人两年跑赢人类：半马破纪录、百米超博尔特 — ben_j_todd · 2026-10-26
- Stephen Casper 播客畅谈：AI 会否成为网络空间的「寄生(peer)物种」 — StephenLCasper · 2026-10-26
- EMNLP 主题演讲背后：用语言模型「模拟学习者」生成儿童语言习得新假设 — najoungkim · 2026-10-26