Dario 发文呼吁放缓前沿 AI,Anthropic 率先向第三方开放永久评估权限

EXM7777 · x · 2026-09-13

Dario Amodei 发布新文《We Must Pace the Frontier》,主张 AI 行业应放慢脚步,并提出三部分计划;Anthropic 单方面承诺第一步:向第三方评估机构提供永久的、员工级系统访问权限,以验证安全措施执行、报告事故、评估训练中的模型对齐。

转推者 EXM7777 提出两种解读:要么这是美国借「恐惧营销」控制行业节奏的经典打法,要么各实验室真的在每个团队都看到了可怕迹象、已不再掌控局面——并指出 Dario 自己在文中承认 Anthropic 只理解模型内部发生的事情的极小部分,递归自我改进可能跑赢人类理解与控制这些系统的能力。