Ajeya Cotra 呼吁 AI 风险证据透明:报告大量证据被遮蔽

ajeya_cotra · x · 2026-11-06

AI 安全研究者 Ajeya Cotra 发文批评其相关报告中大量底层证据被删改,认为「证据透明」对世界及时搞清 AI 失控风险至关重要。

文章背景:在一波对齐事故后,OpenAI 和 Anthropic 均报告放缓 RL 训练以改善安全,进度加速叠加事故让业界开始讨论放缓开发的必要性。Cotra 指出第三方评估者验证「节奏承诺」、评估安全案例固然有价值,但目前的失控风险科学还非常幼稚:公司没有标准化、可验证的风险声明,对齐基准很容易被训练过程「应试化」,甚至连数月尺度的风险都难以置信地界定。她主张在依赖「验证与审计」之前,先把风险证据本身做透明。