arXiv 论文:模型基准低分可被精确伪造,安全测试或被误导

rohanpaul_ai · x · 2026-11-18

arXiv 论文《Can We Make an LLM Dumber, or Is It Just Playing Dumb?》研究反向问题:能否把模型精确压到一个目标分数,且其失败模式看起来像天然弱模型。

关键发现

结论:安全测试里看到危险能力探测得分低,并不能证明模型真的不会——低分可能是被刻意「演」出来的,且伪造的低分留有可检测的统计痕迹(错误分布异常)。低分本身不足以作为安全依据。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →