Dario 撰文呼吁给前沿 AI 降速，Anthropic 率先开放第三方评估员常驻

alexalbert__ · x · 2026-09-13

Anthropic CEO Dario Amodei 发布新文《We Must Pace the Frontier》，主张 AI 行业应主动放缓前沿进度，并提出三步走方案；Anthropic 单方面承诺第一步：向第三方评估机构提供永久性的、员工级别的系统访问权限，用于核查安全措施执行、报告事故、以及在训练过程中评估模型对齐。

Dario 论证称「嵌入式评估员」在其他行业是常态——美国大银行有联邦审查员驻场，每座核电站都有全职驻场检查员，前沿 AI 实验室理应如此。文中同时重申他对 AI 收益的信念（5–10 年内治愈多数重大疾病、加速经济增长），并列举失控、网络攻击与生物恐怖主义滥用、经济冲击等风险，警告商业激励驱动的「逐底竞争」会放大风险；Anthropic 的策略是让安全成为公司间竞争的维度，制造「逐顶竞争」。alexalbert 评价这是非常务实的第一步。