OpenAI/Anthropic 前预训练研究员辞职：实验室正赌命冲刺自我改进超级智能
ayushtweetshere · x · 2026-09-10
在 OpenAI 和 Anthropic 从事三年预训练研究的 Jacob Coxon 宣布从 Anthropic 辞职，并公开指责两家公司都不负责任。
他的核心警告：
- 两家实验室都在"直冲自我改进的超级智能，拿我们的性命做赌注"
- 他称内部人士私下相信 AI "可能在本十年末杀死我们所有人"
- 但开发仍在继续，因为每个实验室都认为自己必须抢先抵达超级智能，无法相信竞争对手会负责任地行事
发帖人 Ayush 评论指出，这比又一条 AI 末日预言更令人不安：这是一个协调失败——每个参与者都能看清危险、雇佣真诚的安全研究员，却仍"理性地"选择加速。作者还引用了"如果我们不造，别人也会造"这句话在人类历史上曾为多少糟糕决定背书。
所属事件:Anthropic 研究员因安全担忧离职，警告灭绝风险超 10%(121 条相关)→
「漫话AGI」频道最新
- CMU 提出发现认证协议:分数不能证明 AI 研究智能体的发现 — CarnegieMellonU · 2026-09-10
- Anthropic 研究员称 AI 十年内灭绝人类概率超 10%,引激烈争论 — anshulkundaje · 2026-09-10
- levelsio 预言 SaaS 订阅将被 AI agent 按需生成与微支付取代 — RileyRalmuto · 2026-09-10
- voooooogel：不看好 AI 安全大众运动，主流版会比特 slur 群更糟 — voooooogel · 2026-09-10
- x-risk 研究者提醒：还有比灭绝风险更可怕的 s-risk — jacyanthis · 2026-09-10
- 安全研究员的新提议:和对家实验室能力研究员「搭伙离职」 — ESYudkowsky · 2026-09-10