Dario 发文呼吁放慢前沿 AI,Anthropic 向第三方评估员开放永久权限

connoraxiotes · x · 2026-09-12

Anthropic CEO Dario Amodei 发布新文《We Must Pace the Frontier》,主张 AI 行业应主动放慢,并提出三步计划。Anthropic 单方面承诺第一步:向第三方评估机构提供永久、等同员工的系统访问权限,用于验证安全措施落实、报告事故、在训练中评估模型对齐。

被引用的 Anton Leicht 博文《Send Them In》论证背景:AI 进展与新闻周期已快到政府跟不上——一个国会休会期内接连出现专家警告、自主黑客 agent 集群和未发布模型做出的代际级数学突破。作者认为出路是授权对前沿 AI 开发者进行第三方监督,并呼吁先自愿执行、再行政命令、再下届国会立法固化,逐步扩大评估规模,让「嵌入式评估员」成为行业标准。