卫报：Dario Amodei 呼吁「我们必须放慢速度」并给出三步方案
nordicinst · x · 2026-09-12
《卫报》报道 Dario Amodei 周六再次呼吁 AI 行业「放慢速度」，在社交平台发布文章《We Must Pace the Frontier》并提出三步计划，Anthropic 单方面承诺第一步：向第三方评估者提供永久的员工级系统访问权限，以核验安全措施、报告事件、评估训练中的对齐情况。
报道提及此举紧随前 Anthropic 研究员 Jacob Coxon 辞职警告之后——他称两家公司正「直奔自我改进的超级智能，拿我们的生命赌博」，AI 可能在 2030 年前造成人类灭绝。Amodei 警告若无约束，AI 发展「可能跑赢我们理解和控制它的能力」。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「安全」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- Anthropic 官宣：11月3日起 Claude 输出将带不可见文本水印 — petesena · 2026-10-31
- LessWrong 长文：AI 实验室员工的认知状态如同「微剂量致幻」 — jankulveit · 2026-10-31
- 斯坦福教授公开实验室 AI 政策：论文正文一律不许 AI 代写 — ChrisGPotts · 2026-10-31
- 安全研究员：想跑物理隔离的 AI Agent，唯一出路是开源权重模型 — wunderwuzzi23 · 2026-10-31
- Cognitive Revolution 播客:Mistral Large 4 是西方最强开源模型吗 — The Cognitive Revolution · 2026-10-31