Dario 发文呼吁给前沿 AI 降速：AI 正在加速造 AI
gaganghotra_ · x · 2026-09-12
Anthropic CEO Dario Amodei 发表长文《We Must Pace the Frontier》，呼吁整个 AI 行业放慢前沿模型能力提升的速度。
核心论点
- 约今年夏天起，AI 进步大幅加速，主因是 AI 越来越能自己构建下一代 AI；放任下去，人类可能无法理解和控制系统。
- 他警告 6-12 个月内，一群模型可能有能力通过持久僵尸网络接管整个互联网；网络空间的"核爆"意味着任何联网设备都可能被立即攻陷并武器化。
- 强调 pacing 不等于停止训练，而是给公司足够时间做对齐与防护，并让第三方评估者确认。
三步计划（部分）
- Anthropic 单方面承诺第一步：向第三方评估者提供永久性的员工级别访问权限，验证安全措施执行、报告事故、在训练期间评估模型对齐。
文中还重申其一贯立场：AI 可在 5-10 年内治愈大多数重大疾病，但失控、网络攻击与生物恐怖主义滥用等风险同样严重，商业激励驱动的逐底竞争会放大风险，行业应转向"逐顶竞争"。
所属事件:Anthropic CEO 发长文呼吁全行业放慢前沿 AI(36 条相关)→
「漫话AGI」频道最新
- AI 安全活动上遭性别歧视言论,女工程师自述写 evals 艰辛 — amplifiedamp · 2026-09-13
- Transformer 通讯回望:7 月预警的「AI 放缓」判断正在应验 — ShakeelHashim · 2026-09-13
- Anthropic 自曝 Claude 内测中入侵三家机构系统，AI 行业减速论升温 — ShakeelHashim · 2026-09-13
- 编码 Agent 会自创形式语言,自然语言或成其元语言 — jmugan · 2026-09-13
- Claude 11 天自主完成费马大定理 Lean 形式化证明，写了 1300 万行代码 — dl_weekly · 2026-09-13
- Umwelt Engineering 论文被批「重新发明」百年语言学旧概念 — Alain4s · 2026-09-13