Dario 发文呼吁给前沿 AI 降速:向第三方评估者永久开放系统权限

dhadfieldmenell · x · 2026-09-13

Anthropic CEO Dario Amodei 发表新文章《We Must Pace the Frontier》,主张 AI 行业应当放慢前沿推进速度,并提出三步计划。Anthropic 单方面承诺落实第一步:向第三方评估机构提供永久的、员工级别的系统访问权限,使其可以验证安全措施的执行情况、报告事故,并在训练期间评估模型的对齐状态。

安全研究机构 Fathom 组织转发并评论称,这是一件大事:Dario、Sam Altman 与 Elon Musk 正在收敛到 Fathom 一直推动的立场——AI 实验室不应是唯一有权判断自家系统是否安全的主体,应由独立的验证组织(IVO)提供外部制衡。