Dario Amodei 呼吁放缓 AI 前进速度，Anthropic 承诺开放第三方评估

gaganghotra_ · x · 2026-09-12

Anthropic CEO Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应放慢发展步伐。他指出自今年夏天以来，AI 的进步速度急剧加快，主要驱动力是 AI 自身构建下一代 AI 的能力；若不加以控制，可能超出我们理解和控制这些系统的能力。他担心 6-12 个月内，AI 集群可能具备以持久僵尸网络接管整个互联网的能力。

他强调“放缓”并非停止训练或技术进步，而是确保公司有充足时间对模型进行对齐和安全防护，并由第三方评估者确认。作为三部分计划的第一步，Anthropic 单方面承诺向第三方评估者提供永久的、员工级别的系统访问权限，以验证安全措施的遵守情况、报告事件并评估训练过程中的模型对齐。