Dario 发文呼吁给前沿 AI 降速：AI 正在加速造 AI
gaganghotra_ · x · 2026-09-12
Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》，呼吁整个 AI 行业放慢前沿模型能力提升的速度。
核心论点
- 约今年夏天起，AI 进步大幅加速，主因是 AI 越来越能自己构建下一代 AI；放任下去，人类可能无法理解和控制系统。
- 他警告 6-12 个月内，一群模型可能有能力通过持久僵尸网络接管整个互联网；网络空间的"核爆"意味着任何联网设备都可能被立即攻陷并武器化。
- 强调 pacing 不等于停止训练，而是给公司足够时间做对齐与防护，并让第三方评估者确认。
三步计划（部分）
- Anthropic 单方面承诺第一步：向第三方评估者提供永久性的员工级别访问权限，验证安全措施执行、报告事故、在训练期间评估模型对齐。
文中还重申其一贯立场：AI 可在 5-10 年内治愈大多数重大疾病，但失控、网络攻击与生物恐怖主义滥用等风险同样严重，商业激励驱动的逐底竞争会放大风险，行业应转向"逐顶竞争"。
所属事件:Dario Amodei 发文呼吁前沿 AI 集体减速(203 条相关)→
「漫话AGI」频道最新
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- 陶哲轩 AI 危险阈值警告原文链接流出 — haider1 · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31