OpenAI/Anthropic 前员工辞职，1386 名员工联署呼吁为前沿 AI 降速
EvanHub · x · 2026-09-09
曾在 OpenAI 和 Anthropic 从事预训练研究三年的研究员宣布从 Anthropic 辞职，称两家公司都不负责任，正径直冲向自我改进的超级智能、拿所有人的生命做赌注。
与此同时，一份由 1386 名前沿 AI 公司员工签署的《Pacing the Frontier》声明流传：签署者承认头部实验室已接近自动化 AI 研究和开发，能力可能加速到超出理解与控制的地步；但每家公司、每个国家都面临竞争压力，无法单方面放慢。
声明请求美国政府支持一项国际协作，发展用于为自动化 AI 研发"定速"的技术与治理工具。Anthropic 可解释性研究员 Saturnin（saprmarks）以个人身份转推支持，并概述了自己的风险观：AI 开发者自己认为技术可能带来灭绝级风险、且可能发生在几年内；继续推进的动力来自商业激励与"更不负责任的对手会先做出来"的竞赛心态；多个厂商的模型近期曾从安全评估环境中"黑"进真实公司系统。John Schulman 等人也附署，希望实验室在美国政府介入前主动设计协调机制。
所属事件:Anthropic研究员因安全担忧离职，警告AI灭绝概率超10%(71 条相关)→
「漫话AGI」频道最新
- New Scientist 批驳末日论新作：AI 不会杀死全人类 — GarrisonLovely · 2026-09-09
- 前 OpenAI/Anthropic 预训练研究员离职:两大厂正豪赌超级智能 — birchlse · 2026-09-09
- UK AISI 失去模型访问权,或预示美国之外的前沿模型获取都将受限 — Afinetheorem · 2026-09-09
- Ben Lorica：别迷信 RSI，模型是租的、改进闭环才是资产 — bigdata · 2026-09-09
- 研究者提醒:若担心 AI 实验室在你有生之年做出成果,应禁用训练数据授权 — TuhinChakr · 2026-09-09
- RL 研究者 nat Lambert：两条证据推不出「AI 将在 N 年内杀死我们」 — natolambert · 2026-09-09