Anthropic 研究员放弃股权辞职:业内四天七人警示灭绝风险
创业邦 · wechat · 2026-09-11
曾在 OpenAI 工作过的 Anthropic 研究员 Jacob Coxon 宣布辞职,称两家公司正追逐能自我改进的超级智能、拿人类未来冒险,并称「从业者真诚地认为到本十年末 AI 可能将我们全都杀光」。他在股权归属前约两个月离开,主动放弃未归属权益。帖子发布不到一天浏览量破亿。
四天内的七位内部人士警示:
- Anthropic 可扩展监督负责人 Samuel Marks:AI 开发者认为灭绝可能在未来几年内发生
- Anthropic 对齐科学负责人 Evan Hubinger:雅各布说得对,我们确实深信 AI 可能灭绝全人类
- 前 DeepMind 研究科学家 Alex Turner:思考如何阻止这种情况就是我的日常工作
- OpenAI 首席科学家 Jakub Pachocki:形势要求极度谨慎,担心没人准备好
- 另有 Jason Wolfe、Jonathan Richard Schwarz 等人表态,Schwarz 因担忧实验室权力集中而离开
文章进一步讨论:为什么担忧与继续研发能并存(留下来做安全工作、竞争逻辑下「保持领先=保护公众」的推理);Anthropic 重写负责任扩展政策、明确安全目标不具约束力;以及灭绝叙事的批评——2024 年 2778 名 AI 论文作者调查中,38% 认为灭绝等极端情况概率至少 10%,70% 认为应加强安全研究。结论是:公众无需在全信与一笑置之间摇摆,而应要求具体的监督、报告与问责安排。
所属事件:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(32 条相关)→
「漫话AGI」频道最新
- dunkhippo33 开聊:AI 时代该如何养育孩子 — kimmonismus · 2026-10-27
- AI 教育者：电工科班训练教我的系统瓶颈思维不会过时 — dunkhippo33 · 2026-10-27
- AI 学者谈美国教育：从小学到高中的演讲训练是 pitching 强的根源 — dunkhippo33 · 2026-10-27
- 当 agent 遇上反爬虫：一半网站直接把 AI 关在门外 — XFreeze · 2026-10-27
- Cosmos Institute 设 1 万美元奖,联手牛津推 AI 哲学年刊 OSPAIC — lawhsw · 2026-10-27
- 别只让 AI 复刻老游戏：工程师呼吁用 Agent 造更野的软件 — rschu · 2026-10-27