Anthropic 研究员:失控风险是未解科学问题,审计不能吹成安全保证

ajeya_cotra · x · 2026-09-27

Anthropic 研究员 Ajeya Cotra 提出,"防止失控"仍是一个开放的科学问题,而科学要求公开分享和辩论证据;公司与第三方评估者必须发布更具体的风险证据,否则无法就安全标准达成共识。

Nat Purser 回应称,把独立审计包装成"安全保证"并不准确——失控评估尤其还是不成熟的科学领域。他定位:独立监督是更广泛治理框架的必要部分,既不该夸大也不该低估其作用;公开记录企业风险缓解举措、恶化的问题和真正有效的防护措施,能推动听证、立法和行业规则,也让关键决策民主化。