AI安全研究者争论：危险能力评测该不该被公开吐槽

ValsTutor · x · 2026-10-17

AI 安全圈围绕危险能力评测(dangerous capability evals)的争论持续发酵。作者 ValsTutor 认为,虽然很多危险能力评测的执行和论文确有糟糕之处、理应被批评,但当模型跨越「能欺骗创造者」这类能力门槛时,公众和政策制定者应该知情。

他还补充:自己也不喜欢危险能力评测过度延伸,比如把「危险的能力」直接说成「坏的能力」——危险与恶意是两回事。这条推是对 repligate 批评 AF 论文遭群嘲后 researchers 辩解一事的回应。