Dario Amodei 提议放缓前沿 AI：HF 事件后 6-12 个月或失控
Hesamation · x · 2026-09-12
Anthropic CEO Dario Amodei 在博客中宣布公司迈出「pacing」（节流）前沿 AI 开发的第一步。
核心主张：
- 「我们必须放慢提升 AI 模型能力的速度」
- 促使他转变立场的两件事：一是 HF 事件——「6-12 个月内这样的群体可能通过持续僵尸网络控制整个互联网」；二是递归自我改进可能「超越我们理解和控制系统的能力」
pacing 不是什么：不意味着停止训练或技术进步，而是放慢到让对齐、安全与独立测试有时间跟上。
提议的三个步骤：
- 前沿实验室引入拥有类员工权限的第三方评估机构
- 民主国家前沿实验室之间协调
- 包含与中国协议的全球协调；Anthropic 现在承诺第一步
关于中国：若措施执行到位，放缓不应让中国反超；他再度呼吁收紧芯片管制、打击走私，并防止蒸馏和模型权重窃取，认为这能在 3-5 年内显著拉大美国领先优势。他还提到「AI 可能在 5-10 年内治愈多数重大疾病」。
所属事件:Anthropic CEO 发长文呼吁全行业放慢前沿 AI(30 条相关)→
「漫话AGI」频道最新
- OpenAI、Anthropic 研究员加码呼吁放慢 AI,「灭绝」警告升温 — ThereWas · 2026-09-12
- 如果物质完全无忧且无所事事，周二你会伸手拿什么？ — YogeshMalik · 2026-09-12
- 哲学家设问:自动化争论的真正分歧在「什么算有价值」 — sethlazar · 2026-09-12
- AI Agent 仍是实验:先上线再谈安全,代价正转嫁给用户 — gerardsans · 2026-09-12
- 网友附和 Dario：超人类编码模型将击溃现有互联网安全 — Justin_Halford_ · 2026-09-12
- Nate Silver:几乎不用看 AI 实验室自己提前知道的评测跑分 — soumitrashukla9 · 2026-09-12