METR 提出前沿实验室失控风险评估框架，呼吁公开证据

BethMayBarnes · x · 2026-10-15

AI 评测机构 METR 发布愿景文件，探讨一个关键问题：如果某家 AI 开发商即将对其内部 agent 失去控制，公司外部是否有人会知道？METR 提出与前沿实验室合作、以开放方式评估并共享「失控风险」相关证据的方案。团队成员 parvmahajan0 强调，公众本不应被迫信任 METR——AI 公司应主动发布风险相关数据；在这一点实现之前，METR 的职责是把重要证据公开，让公众自行得出结论，并已准备好与前沿实验室合作推动落地。