Dario 发文呼吁给前沿 AI 限速,Anthropic 率先向第三方评估者开放系统

dhadfieldmenell · x · 2026-09-13

Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应当放慢脚步，并给出三步计划。作为第一步，Anthropic 单方面承诺：向第三方评估者提供永久的、相当于员工级别的系统访问权限，使其能验证安全措施的执行、报告事故并在训练期间评估模型对齐情况。

休斯顿大学法学教授 Gabriel Weil 对此评论：欢迎 Anthropic 的自愿行动，但行业不应依赖单边自愿承诺。他主张建立责任保险市场，让保险商出于自身利益要求第三方审计，解决「开发者自聘裁判」的利益冲突。文中提到美国众议院 7 月提出的 FRONTIER Act（要求最大的前沿开发者聘请持牌独立验证组织 IVO 并向联邦监管者报告）和加州 SB 813 等提案，代表「监管市场」/「私人治理」这一政策路线的最新进展。