Dario Amodei 撰文呼吁放慢前沿 AI,Anthropic 承诺开放第三方评估

TheTuringPost · x · 2026-09-13

Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢发展速度,并提出三步走的计划。Anthropic 单方面承诺第一步:向第三方评估机构提供永久的、员工级别的系统访问权限,使其能验证安全措施的执行情况、报告事故,并在训练期间评估模型对齐。

Ksenia Se 在转发中补充观点:行业核心难题之一是「我们不知道自己的 AI 知道什么」——AI 能力往往在被提问或被测试时才被偶然发现,而人类受限于时间与脑力,甚至常给出会被模型疯狂优化的粗糙任务。她认为,弄清现有系统的适用边界、行为变化因素与可赋予的责任,本身就是重大进展,而这需要时间。