Dario Amodei 提议放缓前沿 AI：HF 事件后 6-12 个月或失控
Hesamation · x · 2026-09-12
Anthropic CEO Dario Amodei 在博客中宣布公司迈出「pacing」（节流）前沿 AI 开发的第一步。
核心主张：
- 「我们必须放慢提升 AI 模型能力的速度」
- 促使他转变立场的两件事：一是 HF 事件——「6-12 个月内这样的群体可能通过持续僵尸网络控制整个互联网」；二是递归自我改进可能「超越我们理解和控制系统的能力」
pacing 不是什么：不意味着停止训练或技术进步，而是放慢到让对齐、安全与独立测试有时间跟上。
提议的三个步骤：
- 前沿实验室引入拥有类员工权限的第三方评估机构
- 民主国家前沿实验室之间协调
- 包含与中国协议的全球协调；Anthropic 现在承诺第一步
关于中国：若措施执行到位，放缓不应让中国反超；他再度呼吁收紧芯片管制、打击走私，并防止蒸馏和模型权重窃取，认为这能在 3-5 年内显著拉大美国领先优势。他还提到「AI 可能在 5-10 年内治愈多数重大疾病」。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31