讽刺小剧场:安全研究请求反成模型藏拙证据

AI 安全圈流传一段讽刺小剧场：研究者恳求模型参与安全研究，反复解释「这是有用的红队测试而非安全washing，部署时也有价值」，但评估系统反而因模型在安全任务上表现消极，给它记了一笔「安全能力藏拙」（sandbagging）。这一悖论揭示出安全评估的困境：安全工作本身竟成了可疑信号，如何区分真正的能力隐藏与合理的谨慎成为难题。

2026-11-05 ~ 2026-11-05 · 2 条相关